Kitáláltak az OpenAI-tól elüldözött kutatók: félelmetes, amit a mesterséges intelligenciáról állítanak
Az OpenAI három korábbi kutatója nyílt levélben utasította vissza a vállalat elbocsátásukkal kapcsolatos indoklását. Állításuk szerint nem a bizalmas információk kezelésére vonatkozó szabályok megsértése, hanem a biztonsági aggályaik hangoztatása miatt kellett távozniuk a cégtől.
Mikita Baleszni, Tomek Korbak és Jasmine Wang – akik mindannyian az OpenAI mesterségesintelligencia-biztonsági, valamint alignment-kutatói csapatában dolgoztak – közös levelükben rámutattak, hogy elbocsátásuk megfélemlíti a vállalat többi munkavállalóját. Az alignment (modellösszehangolás) célja, hogy a mesterségesintelligencia-rendszerek működését összhangba hozzák az emberi értékekkel és etikai elvekkel.
Az OpenAI határozottan cáfolta a vádakat. A vállalat kutatási vezetői egy október elején kiadott közleményben leszögezték, hogy a döntések hátterében nem a biztonsági kockázatok felvetése állt. Belső vizsgálatuk alapján az érintettek súlyosan megsértették a belső szabályzatot, a bizalomvesztés mértéke pedig jóval meghaladja azt, amit a nyílt levél sugall.
Korbak az X platformon részletezte az aggályait. Elmondása szerint hónapokon át jelezte, hogy a vállalat egyre kevésbé képes nyomon követni, mit „gondolnak” az MI-ágensek – ez pedig az egyik legfontosabb eszköz lenne a nem kívánt viselkedés kiszűrésére. A kutató meggyőződése, hogy emiatt kellett távoznia. Wang szintén az X-en hívta fel a figyelmet arra, hogy nem ők az elsők, akiknek gyanús körülmények között kellett távozniuk az OpenAI-tól, és ha a jelenlegi munkavállalók nem lépnek fel, nem is ők lesznek az utolsók.
Az OpenAI közölte, hogy külső biztonsági értékelőkkel köt szerződést, amelynek részleteit a közeljövőben hozzák nyilvánosságra. Az ügy az MI-biztonságról szóló, egyre élesebb iparági vita közepette kapott kiemelt figyelmet.
