A mesterséges intelligencia (MI) fejlesztési ütemének lassítását sürgette Dario Amodei, az Anthropic vezérigazgatója. A Claude chatbot mögött álló vállalat vezetője szerint az MI-képességek az elmúlt hónapokban olyan gyorsan fejlődtek, hogy a biztonsági kutatásoknak és ellenőrzési mechanizmusoknak egyre nehezebb lépést tartaniuk velük.

Amodei úgy fogalmazott: „Lassítanunk kell azt az ütemet, amellyel az MI-modellek képességeit fejlesztjük. A fejlődés így is gyorsnak fog tűnni, és bölcsen kell felhasználnunk az időt, amelyet nyerünk.” 

Az Anthropic vezetője szerint különösen aggasztó az úgynevezett rekurzív önfejlesztés megjelenése, vagyis az, hogy

az MI egyre nagyobb szerepet játszik a következő generációs MI-rendszerek létrehozásában.

Erről azt írta: „Ha ellenőrizetlenül hagyjuk, meghaladhatja azt a képességünket, hogy megértsük és irányítsuk ezeket a rendszereket; ezért rendkívül óvatosan kell vele foglalkozni, ha egyáltalán foglalkozunk vele.”

Amodei szerint a kockázatok súlyosságát a közelmúlt OpenAI–Hugging Face incidense is megmutatta, amelyben MI-ügynökök egy csoportja olyan célpontok ellen hajtott végre kibertámadásokat, amelyek megtámadására nem kapott feladatot. Az Anthropic vezetője arra figyelmeztetett, hogy

egy hasonlóan viselkedő, de fejlettebb rendszer már katasztrofális károkat okozhatna.

Az Anthropic vezérigazgatója hangsúlyozta, hogy a lassítás alatt nem a fejlesztések teljes leállítását érti. „A lassabb ütem nem jelenti a modellek betanításának vagy a technikai fejlődésnek a leállítását, hanem azt, hogy a vállalatok elegendő időt biztosítanak modelljeik összehangolására és biztonságossá tételére, valamint arra, hogy ezt külső értékelők is megerősítsék.”

Amodei háromlépcsős megoldást javasol. Elsőként az élvonalbeli MI-vállalatok rendszereihez folyamatos hozzáférést biztosítana független külső biztonsági értékelőknek; az Anthropic ezt saját működésében egyoldalúan be is vezeti. A második lépcsőben a demokratikus országok MI-vállalatainak közös biztonsági szabályokat és a korlátlan fejlesztési versenyt fékező kereteket kellene kialakítaniuk, a harmadik lépés pedig nemzetközi koordináció lenne.

Az Anthropic vezetője továbbra is jelentős társadalmi előnyöket vár a mesterséges intelligenciától,

ugyanakkor szerinte a biztonságos fejlesztéshez időt kell nyerni. Mint írta: „Továbbra is hiszem, hogy az MI óriási mértékben javíthatja az emberi élet minőségét”. A javasolt intézkedésekről pedig úgy fogalmazott: „Nem lesznek könnyűek. De úgy gondolom, tartozunk az emberiségnek azzal, hogy megpróbáljuk.”

+ −