2026.09.12.
Itt állíthatja be, hogy a Google keresőben elsők között legyen a Life.huEgy vezető mesterségesintelligencia-biztonsági kutató szerint több mint tízszázalékos esélye lehet annak, hogy az AI a következő évtizedben olyan szintre jut, amely már az emberiség fennmaradását veszélyezteti. Evan Hubinger ugyanakkor hangsúlyozta: nem a jelenlegi rendszereket tartja közvetlenül végzetes fenyegetésnek.
A mesterséges intelligencia fejlődése olyan gyors, hogy a szakemberek szerint egyre fontosabbá válik annak kérdése, mi történik akkor, ha egy rendszer már nemcsak feladatokat hajt végre, hanem saját fejlesztésében is részt tud venni. Hubinger, az Anthropic AI-biztonsággal foglalkozó kutatója szerint éppen ez jelentheti az egyik legnagyobb kockázatot.
Forrás: 123.rf.com
Az AI kicsúszhat az irányításunk alól
A kutató az X-en arról írt, hogy az emberiséget fenyegető veszély több mint tíz százalék lehet. Becslése azonban nem a jelenlegi modellekre vonatkozik: szerinte most ezek kockázata alacsony. A problémát egy olyan jövőbeli rendszer jelentheti, amely képes automatizált kutatást végezni, majd saját képességeit továbbfejleszteni − írja a BBC nyomán a Pénzcentrum.
Hubinger szerint jelenleg még az Anthropicnak sincs olyan terve, amely garantálná, hogy egy esetleges szuperintelligens AI biztonságosan az emberi célokhoz igazítható. Arra sincs egyértelmű bizonyíték, hogy a fejlesztők már tudják, hogyan oldják meg ezt a problémát.
A kérdés azért különösen fontos, mert ha egy AI saját maga képes lenne hatékonyabb változatokat létrehozni, a fejlődése az emberi kutatók által követhető ütemnél jóval gyorsabbá válhatna. Ez teljesen új biztonsági kihívásokat teremtene.
A munkahelyek is veszélybe kerülhetnek
Az AI munkaerőpiaci szempontból is komoly változásokat hozhat. Bill Gates korábban arra figyelmeztetett, hogy a mesterséges intelligencia olyan szellemi munkákat is képes automatizálni, amelyeket korábban kifejezetten emberi feladatnak tartottak. Elsőként az ügyfélszolgálatok, az értékesítés, a jogi asszisztensi munkák és a szoftverfejlesztés egyes területei kerülhetnek nyomás alá. Később a hitelbírálat, az adatelemzés és az egészségügyi diagnosztika bizonyos részei is automatizálhatóvá válhatnak. Az AI és a robotika együtt pedig a fizikai munkát is egyre inkább átalakíthatja.
Gates szerint különösen a pályakezdők kerülhetnek nehéz helyzetbe, ha az AI miatt eltűnnek a belépőszintű munkák. A fiatalok így kevesebb lehetőséget kaphatnak arra, hogy megszerezzék az első években szükséges szakmai tapasztalatot. A szakember ezért felvetette az úgynevezett Human Reserved-modellt is, amely bizonyos munkákat akkor is az emberek számára tartana fenn, ha azokat egy AI olcsóbban vagy gyorsabban el tudná végezni. Az egészségügyben és az idősgondozásban szerinte különösen fontos lehet az emberi jelenlét.
Ugyanakkor azt is hangsúlyozta, hogy a mesterséges intelligencia önmagában nem rossz: az egészségügyben, az oktatásban és a mezőgazdaságban olyan szolgáltatásokhoz is hozzáférést teremthet, amelyek jelenleg sokak számára elérhetetlenek.
Ezek a cikkek is érdekelhetnek:
