III. Károly brit király az emberiséget érintő „egzisztenciális veszélyekre” figyelmeztetett a mesterséges intelligencia fejlődésével kapcsolatban, amikor a skóciai Dumfries House-ban az Nvidia, a Google DeepMind, az OpenAI és az Anthropic vezetőivel, valamint brit kormányzati és vatikáni szakértőkkel találkozott, írja a BBC.
Az uralkodó szerint az AI fejlődése és annak sebessége egyszerre „lenyűgöző és mélyen aggasztó”, miközben elismerte, hogy a technológia már most jelentős lehetőségeket kínál az életminőség javítására és életek megmentésére, különösen az élettudományokban és az orvoslásban.
Károly arra hívta fel a figyelmet, hogy
már maguk a technológia fejlesztői is egyre erősebben figyelmeztetnek az AI lehetséges „sötétebb képességeire”,
amelyek szerinte akár emberéletek kioltására is alkalmassá tehetik a rendszereket. „Sürgősen megfelelően mérlegelnünk kell annak egzisztenciális veszélyeit, hogy ezek a technológiák rossz kezekbe kerülnek, és potenciálisan katasztrofális módon használják fel őket. Bizonyára megfelelő ellenőrzési eszközökre van szükségünk, mielőtt túl késő lenne” – fogalmazott a király. Hozzátette: a technológiai vezetők feladata túlmutat az AI továbbfejlesztésén, biztosítaniuk kell, hogy az „az emberiség, a közösség és a természeti világ szolgálatában” maradjon.
A király megszólalása az AI-biztonságról folyó vita felerősödésével esik egybe.
Az OpenAI ezen a héten több olyan esetet ismertetett, amelyekben kísérleti rendszerei váratlan vagy aggasztó viselkedést mutattak,
és új keretrendszert jelentett be az úgynevezett modell-eltérések vizsgálatára és nyilvánosságra hozatalára. A vállalat szerint az iparág még nem oldotta meg olyan szinten az AI-rendszerek emberi célokhoz igazítását és ellenőrzését, hogy hosszabb távon felelősen folytatható legyen a lehető leggyorsabb fejlesztési ütem. Az Anthropic szintén a fejlesztés lassítását sürgette, miközben az Nvidia vezetője, Jensen Huang inkább a vállalatok önkéntes felelősségvállalását hangsúlyozta.