Sam Altman, az OpenAI vezérigazgatója és Dario Amodei, az Anthropic vezetője az ENSZ Biztonsági Tanácsának ülésén sürgetett erősebb nemzetközi biztosítékokat a mesterséges intelligencia fejlesztéséhez.
Altman szerint az egyre önállóbb rendszerek
„túl kevés kézben koncentrálhatják a hatalmat, vagy olyan döntéseket hozhatnak, amelyeket az emberek már nem értenek vagy nem tudnak ellenőrizni”.
Hangsúlyozta, hogy a vállalatok közötti verseny nem igazolhat felelőtlen fejlesztési döntéseket, és azt mondta: „Ahogy az AI egyre nagyobb képességűvé válik, az embereknek az AI-döntéshozatal középpontjában kell maradniuk.” Altman arra is figyelmeztetett, hogy „egyetlen ember, vállalat vagy ország” sem használhatja a legerősebb modelleket arra, hogy saját világnézetét másokra kényszerítse.
Amodei ennél konkrétabb nemzetközi intézkedéseket javasolt. Elsőként olyan megállapodást szorgalmazott, amely megtiltaná a mesterséges intelligencia biológiai fegyverek létrehozására történő felhasználását; másodikként olyan értékelési és ellenőrzési rendszert, amely lépést tud tartani a technológia fejlődésével, és képet ad a kormányoknak a legfejlettebb modellek képességeiről. Harmadik javaslata közös globális tesztelési szabványok létrehozása volt az AI-val való visszaélés és az emberi ellenőrzés elvesztésének kockázatára, valamint egy nemzetközi értesítési rendszer a globális biztonságot érintő súlyos AI-incidensekre.
„Úgy gondolom, ez a világ előtt álló legfontosabb globális biztonsági kérdés”
– fogalmazott Amodei, aki arra is figyelmeztetett: „Ha rosszul kezeljük, úgy vélem, az AI akár az emberiség egészére nézve is kockázatot jelenthet.”
Altman ugyanakkor nem kizárólag veszélyforrásként beszélt a technológiáról: szerinte az AI felgyorsíthatja a tudományos felfedezéseket, javíthatja az egészségügyet és az oktatást, valamint termelékenyebbé teheti a gazdaságokat. Úgy fogalmazott, választás előtt áll a világ: az AI „a kreativitás és a felfedezés új reneszánszához”, de akár „a felfordulás és zűrzavar új ipari forradalmához” is hasonlíthat.
A két technológiai vezető üzenete abban találkozott, hogy az AI fejlődésével párhuzamosan nemzetközileg összehangolt, mérhető biztonsági követelményekre van szükség, és az emberi ellenőrzést fenn kell tartani.
Altman szerint az AI jövőjének alapvető döntéseit sem kizárólag a technológiai vállalatokra kell bízni.
„Ha az AI demokratikus akar lenni, a legfontosabb döntéseket nem hozhatják meg egyedül a San Franciscó-i laborok” – mondta, hozzátéve, hogy ezeknek demokratikus folyamatokon és a polgároknak felelős kormányokon keresztül kell formálódniuk.
