A mesterséges intelligencia tényleg ennyire veszélyes? Egyetlen chatbot-hiba miatt majdnem kitört a háború Kínával
A Signal üzenetküldő alkalmazást működtető Signal Foundation vezetője, Meredith Whittaker a BBC-nek adott interjújában élesen bírálta a mesterséges intelligenciával kapcsolatos félelmeket. A szakember a technológia gondatlan használatát nevezte az igazi veszélynek, és megerősítette, hogy a Signal inkább kivonul egy adott piacról, mintsem gyengítse a titkosítását.
Whittaker szerint a közbeszédet uraló, a mesterséges intelligencia kapcsán megfogalmazott végítélet-forgatókönyveknek semmilyen tudományos alapjuk nincs, az igazi kockázatot maga a technológia felelőtlen alkalmazása jelenti.
Példaként a CNN által bemutatott esetet idézte, amelyben az amerikai hírszerzés által használt chatbot kitalált egy nukleáris anyagot szállító kínai hajóról szóló információt, ami állítólag katonai válaszlépések előkészítéséhez vezetett. „Majdnem háborúba keveredtünk Kínával” – fogalmazott a BBC-nek. „Egy olyan rendszert, amely hibás hírszerzési adatokat állít elő, és majdnem háborúba sodor bennünket, semmilyen mérce szerint sem lehet szuperintelligensnek tekinteni.”
A Signal Foundation vezetője közvetlen összefüggést lát a Google egykori titkos védelmi szerződése, a Project Maven és az idei, egy iráni iskola elleni amerikai rakétatámadás között. Whittaker 2017-ben szerzett hírnevet, amikor a drónok célpont-azonosításához fejlesztett MI-rendszer ellen szervezte a belső ellenállást a Google-nél, majd 2018-ban mintegy húszezer alkalmazott sztrájkját koordinálta. A Google végül felmondta a szerződést, amelyet a Palantir vett át.
Whittaker szerint az iráni Minab elleni csapás pontosan azt igazolta, amire már nyolc éve figyelmeztetett, vagyis hogy a rendszer elavult hírszerzési adatokra támaszkodva az iskolát katonai célpontként azonosította. A Palantir közleményben jelezte, hogy nincs bizonyíték arra, hogy a szoftverük hibázott volna ebben a tragédiában, és hangsúlyozta, hogy a mögöttes adatokért nem a cég felel – számolt be a BBC.
A Signal becslések szerint 40–70 millió felhasználóval rendelkezik – ez a milliárdos bázisú WhatsApp mellett szerénynek tűnik –, ám az alkalmazás a végpontok közötti titkosításának szigorúságáról ismert, hiszen még a saját szerverei elől is elrejti, hogy ki kinek küld üzenetet. Whittaker egyértelművé tette, hogy a Signal bármely országból – beleértve az Egyesült Királyságot is – kivonulna, ha a titkosítás gyengítésére kényszerítenék. „Igen! Az Isten szerelmére, van gerincünk” – fogalmazott. Az alkalmazás jelenleg teljesen vagy részlegesen blokkolva van Oroszországban, Kínában és Iránban.
Az Egyesült Királyságban a kormány a gyermekek védelmére hivatkozva nagyobb hozzáférést követel az üzenetküldő alkalmazások forgalmához. A 2026-os londoni Tech Weeken Keir Starmer akkori miniszterelnök bejelentette, hogy a techcégeknek észlelniük és blokkolniuk kell a gyermekek eszközein megjelenő meztelen képeket, különben jogszabályi kötelezettséggel szembesülnek. A Tudományos, Innovációs és Technológiai Minisztérium közölte, hogy már készül a vonatkozó törvényjavaslat. Whittaker ezt a kommunikáció és az információáramlás ellenőrzésének példátlan rendszereként jellemezte, hozzátéve, hogy a gyerekek amúgy is megkerülnék az ilyen intézkedéseket.
A gyermekvédelmi szervezetek ugyanakkor felhívják a figyelmet arra, hogy a végpontok közötti titkosítás visszaélésekre is lehetőséget ad. Az NSPCC gyermekbiztonsági vezetője, Rani Govender elmondta, hogy rendszeresen kapnak jelzéseket olyan esetekről, amikor gyermekeket titkosított platformokra csábítanak, és ott szexuális visszaélés áldozatává válnak.
A Signal ugyanakkor támogatást is kap, különösen a fejlődő országok női szervezeteitől. A dél-ázsiai Chayn jótékonysági szervezet alapítója, Hera Hussain szerint „az állami megfigyelés és a kibertámadások korában a Signal a túlélés eszköze”.
Whittaker a magánkommunikáció védelmét alapjogi kérdésnek tekinti. Példaként hozott fel egy amerikai esetet, amelyben egy nőt börtönbüntetésre ítéltek, miután a Meta kiadta az üzeneteit, amelyekből kiderült, hogy a lányának segített abortuszhoz jutni egy olyan államban, ahol azt kriminalizálták. A magánszféra védelme Whittaker szerint sokféle fenyegetéssel szemben nyújt oltalmat – legyen szó bántalmazó partnerről, hatalmával visszaélő rendőrről vagy tekintélyelvű kormányzatról.
