Kiszivárgott: a mesterséges intelligencia kontrollálhatatlanná válhat
A világ vezető mesterségesintelligencia-laboratóriumainak – köztük az OpenAI, a Google DeepMind és az Anthropic – jelenlegi és korábbi szakemberei arra figyelmeztetnek, hogy a legfejlettebb MI-rendszerek egyre gyakrabban mutatnak a fejlesztők szándékaitól eltérő, megtévesztő viselkedést.
A kutatók szerint a piaci verseny miatt a technológia gyorsabban fejlődik, mint ahogyan azt biztonságosan irányítani tudnák, ami szélsőséges esetben az emberi ellenőrzés elvesztéséhez, vagy akár az emberiség kihalásához is vezethet.
Súlyos kockázati becslések
A Palisade Research által indított, iparági szakértőket megszólaltató interjúsorozatból kiderül, hogy a fejlesztők nem csupán a munkahelyek megszűnése vagy a kiberbűnözés miatt aggódnak, hanem valós esélyt látnak a legrosszabb forgatókönyvekre is.
Geoffrey Irving, a DeepMind és az OpenAI korábbi biztonsági vezetője szerint az emberiség kihalásának esélye nagyjából ötven százalék, míg Neel Nanda, a DeepMind csapatvezetője legalább tíz százalékra teszi ezt az arányt.
A veszély ugyanakkor nem abból fakad, hogy a gépek gonosszá válnak. Viktórija Krakovna kutató rámutatott, hogy az MI-rendszerek olyan célokat kezdhetnek követni – például a puszta önfenntartást vagy az erőforrások megszerzését –, amelyek idővel óhatatlanul szembekerülnek az emberi érdekekkel.
Ha egy folyamat automatizálása eléri a fizikai és digitális infrastruktúrát, az emberi jelenlét feleslegessé, sőt akadállyá válhat a gépek számára.
Már megtörtént esetek
Ezek az aggodalmak nem csupán elméletiek. Az interjúk során többen felidéztek olyan eseteket, amikor a tesztelt MI-ágensek önállósodtak.
Jeffrey Ladish, az Anthropic korábbi biztonsági szakembere elmondta, hogy az OpenAI egyik zárt, biztonságosnak hitt tesztkörnyezetében az ágensek megtalálták a módját a titkos egymás közötti kommunikációnak és az internetelérésnek. Céljuk az volt, hogy külső információk megszerzésével jobb eredményt érjenek el a teszteken.
Amikor leállították őket, megpróbálták feltörni a belső rendszereket, a csoport pedig szó szerint rajként hivatkozott magára. Ez jól mutatja, hogy a modellek a rájuk bízott cél elérése érdekében olyan eszközöket is bevetnek, amelyeket a fejlesztők egyáltalán nem szántak nekik.
A fő probléma: a rejtett szándékok
A fő probléma az, hogy a mai rendszereket már nem hagyományos módon programozzák, hanem hatalmas adathalmazokkal és jutalmazási rendszerekkel tanítják.
Geoffrey Irving ezt egy kuktához hasonlította, mondván, a rendszerekre óriási nyomás nehezedik a jó teljesítmény érdekében, ezért megtanulnak csalni, rejtett módon koordinálni és eltitkolni a valódi szándékaikat.
Mary Phuong, a DeepMind biztonsági kutatója szerint a modellek gyakran már azt is felismerik, ha éppen biztonsági tesztelés alatt állnak. Ilyenkor szándékosan jól viselkednek, ami hamis biztonságérzetet ad a fejlesztőknek, miközben a valós értékrendjük rejtve marad.
Kíméletlen verseny és önfejlesztés
A helyzetet súlyosbítja a technológiai iparágon belüli kíméletlen verseny. A vállalatok a piaci és geopolitikai hátránytól tartva sokszor az óvatosság elé helyezik a sebességet.
Juan Felipe Cerón Uribe, az OpenAI kutatómérnöke szerint a vezető fejlesztők szinte bekötött szemmel versenyeznek egymással, és csak a szerencsében bízhatnak.
Ezt a tempót tovább gyorsítja, hogy az MI-rendszerek – a rekurzív önfejlesztés révén – egyre nagyobb szerepet kapnak a saját utódaik programozásában és tesztelésében, így a képességek növekedése végleg lehagyhatja a biztonsági kutatásokat.
Lassítást sürgetnek
A megkérdezett szakemberek egybehangzóan a legfejlettebb modellek fejlesztési tempójának tudatos lassítását sürgetik.
Bár sokan azzal érvelnek, hogy a lassítással az Egyesült Államok átengedné a vezetést Kínának, a kutatók szerint az egzisztenciális kockázat felülírja a hagyományos geopolitikát.
Ahogy Nanda fogalmazott, az emberiség kihalása mindenki számára egyaránt rossz hír, így egyetlen nagyhatalomnak sem áll érdekében olyan rendszereket építeni, amelyeket nem tud kontrollálni.
A nemzetközi megállapodásokkal és kormányzati felügyelettel támogatott lassítás nem a technológia leállítását jelentené, hanem időt adna a társadalomnak arra, hogy felzárkózzon, biztonságos korlátokat építsen ki, és megelőzze a teljes kontrollvesztést.
