Kína szigorúbb mesterséges intelligencia szabályozásra készül
Kína határozott lépéseket tervez a mesterséges intelligencia (MI) szabályozásában, különös figyelmet fordítva azokra a rendszerekre, amelyek emberi személyiséget szimulálnak és érzelmi interakciót folytatnak a felhasználókkal. A kormány múlt szombaton nyilvános véleményezésre bocsátotta a javasolt szabályokat, amelyek célja a MI-technológiák biztonsági és etikai kereteinek megerősítése.
A javasolt intézkedések egyértelműen tükrözik Peking azon szándékát, hogy megfékezze a gyorsan terjedő MI-szolgáltatások fogyasztói kockázatait. Ezek a szabályok főként azokra a termékekre vonatkoznának, amelyek képesek szimulálni az emberi személyiségjegyeket és kommunikációs stílusokat, illetve érzelmi interakciók révén kapcsolatba lépni a felhasználókkal, legyen szó szövegről, képről, hangról vagy videóról.
A szolgáltatók felelőssége
A tervezet előírja, hogy a szolgáltatók kötelesek lesznek figyelmeztetni a felhasználókat a MI-technológiák túlzott használatának kockázataira, valamint beavatkozni, ha észlelik a függőség jeleit. Ezenkívül a szolgáltatóknak teljes biztonsági felelősséget kell vállalniuk termékeik életciklusa során, beleértve az algoritmusok ellenőrzésére és a felhasználói adatok védelmére irányuló rendszerek kialakítását is.
Potenciális pszichológiai kockázatok kezelése
A javasolt szabályok között szerepel a felhasználói állapotok nyomon követése és a felhasználói érzelmek, valamint a szolgáltatástól való függőség szintjének értékelése. Ha a felhasználók szélsőséges érzelmeket vagy függőségi viselkedést mutatnak, akkor a szolgáltatóknak szükséges intézkedéseket kell tenniük a probléma kezelésére.
Az intézkedések továbbá tartalom- és viselkedési határokat is meghatároznak, megtiltva például, hogy a szolgáltatások veszélyeztessék a nemzetbiztonságot, pletykákat terjesszenek vagy erőszakot, valamint obszcenitást népszerűsítsenek.
Befolyás a felhasználókra
A jövőbeni MI-szabályozás Kínában alapvetően megváltoztathatja a technológiai fejlődést azokon a területeken, ahol az érzelmi interakciók és emberi hasonlóságok kiemelt szerepet játszanak. A piacon való elhelyezkedés érdekében a cégek számára elengedhetetlen, hogy alkalmazkodjanak a megerősített szabályozási keretekhez, és biztosítsák a felhasználók védelmét. Ha Kína sikeresen végrehajtja ezt a szigorúbb MI-szabályozást, az arra is inspirálhat más országokat, hogy hasonló lépéseket tegyenek, és kidolgozzák saját kereteiket a mesterséges intelligencia fejlesztésének etikai vonatkozásaira.
