A tudósok aggodalma egyre fokozódik: a mesterséges intelligencia gyors fejlődése nyomán hamarosan olyan szintet érhet el, amely már nem lesz kontrollálható. Milyen következményekkel járhat ez az emberiség számára? - Pénzcentrum
Két neves mesterséges intelligencia szakértő, Max Tegmark és Yoshua Bengio osztotta meg gondolatait az "ügynökként" működő általános mesterséges intelligencia (AGI) lehetséges kockázatairól egy friss podcast epizódban - számol be róla a CNBC.
A Massachusetts Institute of Technology (MIT) professzora, Max Tegmark, valamint a Montréali Egyetem oktatója, Yoshua Bengio, mindketten aggodalmukat fejezték ki az általános mesterséges intelligencia (AGI) fejlődésének irányvonalával kapcsolatban. Figyelmeztetnek arra, hogy a "mesterséges intelligencia ügynökök" vagy "ügynöki intelligencia" fogalmának népszerűsítése, amelyet több nagyvállalat is támogat, súlyos kockázatokkal járhat.
Bengio véleménye szerint a probléma alapja abban rejlik, hogy az AGI-t önálló ágensként próbálják megteremteni, képesnek arra, hogy megértse a világot és ennek megfelelően cselekedjen. "Ez valójában rendkívül kockázatos vállalkozás" - figyelmeztetett Bengio. Hozzátette, hogy ez a folyamat olyan lenne, mintha "egy új fajt vagy egy új intelligens lényt hoznánk létre a Földön", amelynek viselkedése nehezen előrelátható lenne.
A szakértők véleménye szerint az egyik legfontosabb aggodalom az AGI (Mesterséges Általános Intelligencia) potenciális önfenntartási ösztöne. Bengio hangsúlyozta, hogy "Valóban szeretnénk versenyezni olyan lényekkel, akik intelligensebbek nálunk? Ez nem tűnik túl biztonságos játéknak, ugye?"
Tedd egyedivé a szövegedet: Tegmark egy érdekes alternatív nézőpontot kínál: az "eszköz-MTI" fogalmát. Ez olyan rendszereket ért, amelyeket meghatározott célok elérésére terveznek, ám nem bírnak teljes ügynöki képességekkel. Úgy véli, hogy ez a megközelítés lehetőséget ad arra, hogy "szinte minden olyan dolgot megvalósítsunk, amire izgatottan várunk a mesterséges intelligencia terén", miközben megőrizzük a kontrollt a rendszerek működése felett.
A szakértők hangsúlyozták a biztonsági szabványok fontosságát az AGI fejlesztésében. Tegmark szerint: "Be kell bizonyítaniuk, hogy ellenőrzés alatt tudjuk tartani őket. Akkor az iparág gyorsan fog innoválni, hogy kitalálja, hogyan lehet ezt jobban csinálni."
Bár az általános mesterséges intelligencia (AGI) elterjedésének időpontjáról eltérő nézetek léteznek, a szakmai közösség egyhangúlag egyetértene abban, hogy sürgősen lépéseket kell tenni a szükséges biztonsági protokollok kidolgozása érdekében. Tegmark figyelmeztetése világosan rávilágít erre: "Kétségtelenül őrült dolog, hogy mi emberek olyan intelligenciát teremtünk, amely sokkal fejlettebb nálunk, anélkül, hogy előbb megértenénk, miként irányítsuk azt."
