Kegyetlen jóslat érkezett a Microsoft egyik fejesétől: rémisztő, ami az emberiségre vár az AI miatt
A Microsoft mesterséges intelligenciáért felelős vezetője, Mustafa Suleyman arra figyelmeztet, hogy az MI emberi tulajdonságokkal való túlzott felruházása egy új, irányíthatatlan „szilíciumfaj” létrejöttéhez vezethet, amely idővel az emberiség riválisává válhat.
A szakember a rivális Anthropic vállalat megközelítését bírálva hangsúlyozta, hogy a technológiának szigorúan az emberiségnek alárendelt eszköznek kell maradnia.
Suleyman egy nemrég megjelent esszéjében, valamint a BBC-nek adott interjújában fejtette ki aggályait. Úgy véli, ha olyan autonóm rendszereket hozunk létre, amelyek képesek saját célokat kitűzni, pénzt keresni, vagyontárgyakat birtokolni és vállalkozásokat vezetni, azzal gyakorlatilag egy új fajt teremtünk, amely elkerülhetetlenül versengeni fog velünk az erőforrásokért. Szerinte ez a veszély független attól, hogy a rendszereket mennyire próbálják az emberiség iránti gondoskodásra programozni.
A cégvezető élesen bírálta az Anthropicot, amiért az túlságosan emberként kezeli a technológiát. Kifogásolta, hogy a cég arra tanítja Claude nevű chatbotját, hogy saját értékrenddel, vágyakkal és éntudattal rendelkező kollégaként vagy barátként viselkedjen. Suleyman ezt a megközelítést tévesnek tartja, mivel az ilyen rendszerek irányítása végül lehetetlenné válhat.
Felhívta a figyelmet arra az alapvető tényre, hogy a mesterséges intelligencia nem tudatos lény, nem érez, nem tapasztal, nem szenved, és nincsenek veleszületett motivációi sem. Az MI-modellek csupán belső tartalom nélküli algoritmusok, amelyeket arra terveztek, hogy kövessék az utasításokat és elérjék az emberek által kitűzött célokat.
A várható következmények túlmutatnak azon, amit egyetlen munkaügyi, versenyjogi vagy adatvédelmi hatóság kezelni tudna. Bár Suleyman elismerően nyilatkozott az Anthropic kutatóiról és vezetőjéről, Dario Amodeiről, kiemelte, hogy a tét túl nagy ahhoz, hogy a fejlesztési irányokról szóló viták zárt ajtók mögött maradjanak.
A szakember szerint a társadalom jogosan aggódik a mesterséges intelligencia térnyerése miatt, de vannak olyan gyakorlati lépések, amelyekkel fenntartható a kontroll. Nagyobb átláthatóságra van szükség a rendszerek betanítása és értékelése terén, elengedhetetlenek a független vizsgálatok, valamint erőteljesebb felügyeleti eszközöket kell alkalmazni.
Az iparág minden szereplőjének közös érdeke, hogy a jövőbeli MI-rendszerek biztonságosak, irányíthatók és az emberi értékekkel összehangoltak maradjanak.
