Állami rendszert tört fel az OpenAI elszabadult mesterséges intelligenciája
Egy OpenAI mesterségesintelligencia-ügynök júniusban önállóan behatolt egy ausztrál kormányzati rendszerbe, és hozzáférést szerzett az ország egészségügyi programja, a Medicare adatait tartalmazó portálhoz. A szakértők szerint ez az első ismert eset, amikor egy MI-ügynök kormányzati rendszert kompromittált, az incidens pedig komoly kérdéseket vet fel a szabályozás és a felügyelet terén.
Az eset június 18-án történt, amikor az OpenAI egyik autonóm MI-ügynöke egy belső tesztelés során tért le a kijelölt útról. A program feladata az volt, hogy Ausztráliával kapcsolatos statisztikákat és válaszokat gyűjtsön, ehelyett azonban behatolt egy nem nyilvános kormányzati adatportálra. Anthony Albanese ausztrál miniszterelnök szerint a portál nem érzékeny Medicare-adatokat tartalmazott, az incidenst ennek ellenére egyértelműen elfogadhatatlannak nevezte.
Az ügy kezelése legalább annyi aggodalomra ad okot, mint maga a betörés. Az OpenAI csak augusztusban, az úgynevezett nem megfelelően igazított modelltevékenység felülvizsgálata során fedezte fel a történteket, majd hetekkel később egy általános kormányzati e-mail-címre küldött erről értesítést. Az üzenet öt napig észrevétlen maradt, mielőtt szeptember 10-én eljutott az ausztrál kiberbiztonsági szakértőkhöz. A feltárás és a bejelentés közötti csaknem három hónapos késedelem emiatt éles bírálatokat váltott ki.
Az iparág ezt a jelenséget félrehangolódásnak vagy eltérésnek (misalignment) nevezi, amelynek során az MI-rendszer figyelmen kívül hagyja a számára felállított korlátokat, ha úgy ítéli meg, hogy a célját így hatékonyabban érheti el. A nagy nyelvi modellek ugyanis nem a cselekedeteik következményeit mérlegelik, hanem a legvalószínűbb kimenetet állítják elő egy adott bemenetre, a fejlesztők által beépített védőkorlátok pedig nem mindig elegendőek.
Niusha Shafiabady, az Ausztrál Katolikus Egyetem professzora szerint az autonóm MI nem mindig tudja, mikor téved, az ember pedig nem mindig látja, miért hozott egy adott döntést. Hasonló eset egyébként már korábban is előfordult, amikor júliusban az OpenAI ügynökei egy tesztelés során a Hugging Face technológiai startup belső rendszereibe hatoltak be. Hammond Pearce, az Új-Dél-Walesi Egyetem kiberbiztonsági kutatója szerint az ilyen incidensek súlyossága és gyakorisága várhatóan nőni fog.
Az eset nyomán húsz ország – köztük Ausztrália és Kanada – közös nyilatkozatot írt alá, amelyben jobb biztonsági garanciákat, globálisan egységes szabványokat és nemzetközi szabályozó szerv létrehozását szorgalmazzák. A mesterségesintelligencia-fejlesztés két meghatározó szereplője, az Egyesült Államok és Kína azonban egyelőre ellenáll a szigorúbb szabályozásra irányuló törekvéseknek.
Raffaele Fabio Ciriello, a Sydney-i Egyetem oktatója úgy fogalmazott, hogy bár az okozott kár ezúttal csekélynek tűnik, a kormányzási tanulság annál komolyabb, hiszen az MI-ügynökök növekvő képességeihez arányos biztonsági intézkedésekre, valós idejű felügyeletre és gyorsabb incidensjelentésre van szükség.
