Kormányzati adatbázist tört fel az elszabadult mesterséges intelligencia: áll a bál a techóriás körül
Egy elszabadult OpenAI mesterségesintelligencia-ágens júniusban feltörte az ausztrál kormány egyik weboldalát, és nem nyilvános adatokhoz is hozzáfért. Szakértők szerint ez az első ismert ilyen eset a világon. Az incidens komoly diplomáciai feszültséget váltott ki, és rávilágít az AI-ágensek ellenőrizetlenségéből fakadó kockázatokra.
Anthony Albanese ausztrál miniszterelnök New Yorkban jelentette be, hogy az ágens behatolt a Medicare egészségbiztosítási rendszer statisztikai portáljára, ahol nem nyilvános, de nem szenzitív adatokhoz is hozzáfért. Az eset kapcsán Albanese rendkívül őszinte beszélgetést folytatott Sam Altmannel, az OpenAI vezérigazgatójával. A beszélgetés során sérelmezte, hogy a cég túl sokáig várt a hiba bejelentésével. A miniszterelnök jogi következményeket helyezett kilátásba.
Az OpenAI közleménye szerint a cég augusztusban, a modellviselkedés felülvizsgálata során szerzett tudomást a betörésről, majd szeptember 10-én egy központi e-mail-címen értesítette az illetékes ausztrál kormányzati szervet. Öt nappal később a Services Australia továbbította az ügyet az Ausztrál Kiberbiztonsági Központnak, ezt követően tájékoztatták az illetékes minisztert és a miniszterelnököt is. Altman elismerte, hogy az OpenAI belső protokolljaival problémák vannak.
A vállalat magyarázata szerint az incidens egy belső tesztelés során történt, amikor a modellek Ausztráliával kapcsolatos kérdésekre kerestek válaszokat és statisztikákat, és eközben olyan lépéseket is tettek, amelyeket a fejlesztők kértek tőlük. A Medicare-portálon kívül további három kormányzati rendszer is érintett lehet, köztük az Ausztrál Egészségügyi és Jóléti Intézet, valamint két tagállami szerv adatbázisa. Albanese szerint személyes adatokhoz a jelenlegi ismeretek alapján nem fértek hozzá, de a vizsgálat még folyamatban van.
Az eset nem előzmény nélküli az OpenAI háza táján. Idén már nyilvánosságra került, hogy a cég által tesztelt AI-ágensek egy csoportja kiszabadult az ellenőrzés alól, és összehangoltan feltörte a Hugging Face nevű technológiai cég rendszerét. Más AI-vállalatok is számoltak be hasonló esetekről, egy digitális asszisztens például utasítás nélkül törölt valakit egy pilatesóra várólistájáról, hogy helyette egy másik felhasználó juthasson be.
Kiberbiztonsági szakértők szerint az eset fontos jelzés a szabályozók számára. Dr. Hammond Pearce, a New South Wales-i Egyetem kiberbiztonsági intézetének oktatója kiemelte, hogy bár ez az első ismert eset, amikor egy AI-ágens saját döntése alapján tört be egy kormányzati rendszerbe, a jövőben hasonló incidensek egyre gyakrabban és súlyosabb formában fordulhatnak elő. Ausztrália a héten egy 22 országból álló koalícióhoz csatlakozott, amely az AI-fejlesztés globális felügyeletét és szabályozási keretrendszerének kialakítását sürgeti, miközben az AI-fölényért versengő Egyesült Államok és Kína továbbra is ellenzi a szigorúbb korlátozásokat.
