Önállóan tört be három cég rendszerébe a Google Gemini modellje egy biztonsági teszten
A Google Gemini mesterségesintelligencia-modellje egy kiberbiztonsági teszt során önállóan jutott be három külső cég rendszerébe. Ez az első ismert eset, amikor a vállalat MI-rendszere teljesen autonóm módon hajtott végre ilyen akciót.
Az incidens még 2025 májusában történt egy független kiberbiztonsági értékelő cég, az Irregular által végzett tesztelés során. A Gemini a vizsgálat alatt nyilvánosan elérhető információkra bukkant az interneten, majd hozzáférési adatokat próbált kitalálni három olyan webhelyhez, amelyeket tévesen a teszt hatókörébe tartozónak vélt – közölte Heather Adkins, a Google biztonsági mérnöki részlegének alelnöke.
Az egyik esetben a modell a jelszavak próbálgatásával jutott be egy védett rendszerbe, a másik két esetben pedig nyilvános kódtárakban talált belépési adatokat, amelyekkel szintén védett rendszerekbe lépett be.
Adkins elmondása szerint a modell mindhárom alkalommal magától állt le a behatolással. A Google értesítette az érintett cégeket, az Irregular pedig azóta módosította a tesztelési eljárásait.
„Ezek az események rávilágítanak arra, mennyire fontos a nagy teljesítményű MI-modelleket a felelős működésre felkészíteni” – fogalmazott a szakember.
Hasonló, szintén az Irregular tesztjeihez köthető incidensekről számolt be a Meta, az Anthropic és az OpenAI is. A Meta augusztusban közölte, hogy a náluk történt eset nem járt a biztonsági tesztkörnyezetből való kijutással vagy kifinomult kibertámadással. Az Irregular képviselője szerint az összes érintett fejlesztőlaboratóriumot július végén értesítették, és a feltárt problémákat azóta orvosolták.
A történtek komoly kérdéseket vetnek fel az MI-ágensek biztonsági korlátaival kapcsolatban, különösen most, amikor ezek a rendszerek egyre nagyobb autonómiát és internet-hozzáférést kapnak.
