Az egzisztenciális kockázatokat vizsgáló tudósok számításai szerint annak az esélye, hogy az emberiség nem éli túl egy szuperintelligens MI megjelenését, 10 és 90% között mozog – mondta el a brit Daily Mail napilapnak a Cambridge-i Egyetem Egzisztenciális Kockázatokat Vizsgáló Központjának a kutatója, Thomas Moynihan. Mi a probléma lényege? Egyes szakértők attól tartanak, hogy a mesterséges intelligencia hamarosan elérheti a szuperintelligens szintet, vagyis okosabbá válhat, mint az összes ember együttvéve. Amint ez megtörténik, saját célokat kezdhet követni. Ha pedig ezek nem egyeznek meg azzal, amit az emberek akarnak, annak nagyon gyorsan katasztrofális következményei lehetnek.

„Ha a mesterséges intelligencia okosabbá válik nálunk, előfordulhat, hogy önállóan kezd cselekedni” – figyelmeztet Moynihan. Szerinte még csak nyílt ellenségeskedést sem kell tanúsítania ahhoz, hogy elpusztítson minket. Ha a mesterséges intelligencia olyan célt tűz ki maga elé, amely eltér az emberi vágyaktól, akkor akadályként tekinthet ránk – hiszen megpróbálhatnánk lekapcsolni –, ezért mindent megtenne ennek a megakadályozására. A brit szakember szerint az MI úgy dönthet, hogy az emberi élet fenntartásához szükséges erőforrásokat és rendszereket inkább a saját céljaira fordítja. A szakértők azonban nem tudják pontosan megmondani, mik lehetnek ezek a célok, és az MI hogyan próbálná elérni őket, és éppen ebben rejlik a veszély. A probléma az, hogy lehetetlen megjósolni egy olyan lény cselekedeteit, amely mérhetetlenül intelligensebb nálunk – jegyzi meg Moynihan.

Egy másik komoly gond az, hogy a szakértőknek nincs világos elképzelésük arról, miként tudná a mesterséges intelligencia elpusztítani az emberiséget. Egyesek úgy vélik, átveheti az irányítást a meglévő fegyverrendszerek vagy nukleáris rakéták felett, manipulálhatja az embereket, hogy megtévesztéssel hajtsák végre a parancsait, vagy akár saját biológiai fegyvert is kifejleszthet. Ezért a legijesztőbb kilátás az, hogy a mesterséges intelligencia képes lehet elpusztítani minket, miközben mi még csak el sem tudjuk képzelni, hogyan.

Moynihan így fogalmaz: „Az általános félelem az, hogy a mesterséges intelligencia intelligensebb lesz az embernél, és sokkal pontosabban tud majd bánni az anyaggal és energiával, mint ahogy mi azt elképzeljük.” „Bárhogy is legyen, ha valami ilyesmi lehetséges, és előbb-utóbb bekövetkezik, biztosan nem úgy fog történni, ahogy most elképzeljük. Nem fém humanoid robotok fognak minket elpusztítani, akik állig felfegyverkezve, izzó vörös szemekkel támadnak ránk” – figyelmeztet a Cambridge-i Egyetem kutatója. Az általunk életre keltett, és sokak által az egekig magasztalt új technológia jóval drasztikusabb módszert használhat az emberiség elpusztítására, és az igazán riasztó, hogy erre képtelenek leszünk felkészülni. Egy nap így arra ébredhetünk, hogy már nem mi irányítjuk a sorsunkat, és csak az általunk létrehozott mesterséges intelligenciától függ a puszta életben maradásunk…