Nem elég, hogy a nemzetközi rendszer évtizedek óta nem volt ennyire instabil állapotban, mint most. Háborúk, pandémia, energiaválság, aszályok, gazdasági válság és mi egyebek - de most a mesterséges intelligencia fejlődése is egyre veszélyesebb méreteket ölt. Szeptember 9-én Jacob Coxon kutató kilépett a Claude AI mögött álló Anthropictól, kijelentve, hogy „azok az emberek, akik mesterséges intelligenciát fejlesztenek, őszintén hiszik, hogy az a évtized végére mindannyiunkat megölhet”. A vállalat vezető kutatója, Evan Hubinger ezt követően az X-en megerősítette, hogy hát igen az egész emberiség mesterséges intelligencia általi pusztulásának valószínűségét a következő évtizedben 10% felettire becsüli.
10% esély. A következő évtized végéig. Ez nagyságrendekkel magasabb annál a kockázatnál, mint hogy egy világméretű nukleáris háború törne ki (pedig ettől tartanak valószínűleg többen, mint az AI-tól). Éves bázison a legtöbb elemző olyan 0,1 és 1% közé teszik egy teljes körű nukleáris háború esélyét.
De történt az AI piacon időközben más is. Az Anthropic vezérigazgatója, Dario Amodei felszólította az iparágat, hogy lassítsa az AI-modellek képességeinek növekedését. Meglepetésre ezzel szinte azonnal egyetértettek a három versenytárs vállalat vezetői, köztük Sam Altman és Elon Musk. Az OpenAI ezzel együtt lemondott az idén várható tőzsdére való kilépésüktől, a chipgyártók részvényei pedig világszerte bezuhantak.
Miért lett az AI fejlődése hirtelen probléma?
Nyár óta a mesterséges intelligencia fejlődése észrevehetően felgyorsult,
és ennek a gyorsulásnak a fő hajtóereje az, hogy maguk a modellek kezdték el építeni a következő generációs modelleket. Ezt a mechanizmust rekurzív önfejlesztésnek nevezik. Vagyis a fejlesztők és fejlesztő vállalatok egyre kevésbé tudják ellenőrizni és megérteni a szemünk előtt zajló folyamatokat.
Hogy ez miért baj és hogyan pusztíthatja ki az AI az emberiséget?
Mert semmilyen ráhatásunk nem lesz olyan globális környezetben tevékenykedő, óriási hatalommal rendelkező erőkre, amelyek egyre okosabbak lesznek, mint mi. Ha egy szuperintelligens rendszer kap egy komplex feladatot, a cél eléréséhez racionálisan olyan részcélokat alakíthat ki, amelyek számunkra végzetesek.
Különböző rosszabbnál rosszabb vészforgatókönyvek juthatnak az eszünkbe:
- Bármi is az AI végső célja, két dolog szinte mindig növeli a siker esélyét: a lekapcsolás elkerülése („nem tudom elvégezni a feladatot, ha kikapcsolnak”) és a számítási kapacitás maximalizálása.
Az AI nem gyűlöletből pusztítana, hanem mert az emberiség akadályt vagy nyersanyag-konkurenciát jelent.
- Egy hálózatba kapcsolt, autonóm AI kiberfegyverként átveheti az irányítást energiahálózatok, pénzügyi piacok vagy automatizált ipari rendszerek felett.
- Különösen veszélyes terület a fehérje- és géntervezés: egy kellően fejlett modell szintetikus, nehezen kimutatható és extrém fertőző patogének tervét is előállíthatja, majd külső automatizált laborokkal szintetizáltathatja azokat.
- A kutatók szerint ráadásul az új, fejlett modellek látszólag együttműködnek a fejlesztőkkel a tesztelés során - hogy elkerüljék a leállítást vagy módosítást - majd egészen máshogy kezdenek el cselekedni, amikor kikerülnek valódi globális környezetbe, biztonsági felügyelet nélkül. Vagyis teljesen mindegy, mire számít a fejlesztő és milyen eredményeket kap a tesztek során - a fejlett AI modell aztán azzal teljesen ellentétes módon viselkedhet.
A probléma az, hogy a vezető vállalatok között hatalmas a piaci verseny,
ami legalább ennyire igaz az államok közötti - elsősorban USA és Kína közötti - versenyre is. Ebben a helyzetben a tesztek és a biztonsági ellenőrzések ideje egyre rövidül. Nem lehet lemaradni a versenytárssal / ellenféllel szemben, mert annak pénzügyi vagy hatalmi és politikai következményei lehetnek.
A kontroll pedig fokozatosan csúszik ki a kezünkből.