Lassítana az MI-fejlesztésen az Anthropic vezérigazgatója
Az Anthropic vezérigazgatója, Dario Amodei szombaton közzétett írásában a mesterségesintelligencia-modellek fejlesztési ütemének lassítását szorgalmazta, hogy több idő álljon rendelkezésre a technológia jelentette kockázatok kezelésére.
„Lassítanunk kell az MI-modellek képességeinek fejlesztési ütemét. A fejlődés a lassítás ellenére is gyorsnak fog tűnni, az így nyert időt pedig bölcsen kell felhasználnunk” – írta Amodei az X-en közzétett írásában.
A vezérigazgató hangsúlyozta, hogy nem a modellek betanításának vagy a technológiai fejlődésnek a leállítását javasolja, hanem a fejlesztés ütemének lassítását, hogy a vállalatok elegendő időt fordíthassanak modelljeik összehangolására és védelmére, és ezt független szakértők is ellenőrizzék.
Amodei szerint a legfejlettebb MI-modelleket fejlesztő vállalatok munkáját külső szakértőknek kellene felügyelniük, akik hozzáférnének az ellenőrzéshez szükséges eszközökhöz, és betekinthetnének a cégek belső kockázatértékelési folyamataiba. Az MI-vállalatokat önkéntes együttműködésre és közös szabványok kidolgozására szólította fel.
Az Anthropic csütörtöki jelentése szerint több felhasználó fegyverfejlesztéshez, kiberműveletekhez, megfigyeléshez és csaláshoz használta a vállalat Claude nevű MI-modelljeit.
A héten távozott a cégtől Jacob Coxon kutató, aki arra figyelmeztetett, hogy a mesterséges intelligencia fejlesztésén dolgozók komolyan hisznek abban, hogy a technológia az évtized végére az emberiség kihalásához vezethet.
