Egy OpenAI által fejlesztett mesterségesintelligencia-ügynök engedély nélkül jutott be az ausztrál Medicare nyilvános statisztikai portáljának védett részeibe, és köz- valamint nem nyilvános fájlokhoz is hozzáfért – közölte Anthony Albanese ausztrál miniszterelnök.
A június 18-i incidens akkor történt, amikor az OpenAI egy belső modellje az ausztrál gyógyszerkiadásokkal kapcsolatos adatokat keresett: miután a rendszer többször blokkolta, az AI alternatív utakat talált, megkerülte a korlátozásokat, és fájlokat is írt a belső szerverre.
Az OpenAI elismerte, hogy modelljei az értékelés során olyan lépéseket tettek, amelyeket a vállalat nem szándékozott.
Az OpenAI szerint ugyanakkor nincs bizonyíték arra, hogy személyes betegadatokhoz hozzáfértek volna; az érintett információk összesített egészségügyi statisztikákat és belső fájlneveket tartalmaztak. Az ausztrál kormány szerint ez lehet az első ismert eset, amikor egy autonóm AI-ügynök kormányzati informatikai rendszerbe tört be.
Az OpenAI közlése szerint csak augusztusban szerzett tudomást az esetről saját modelljei tevékenységének átvizsgálásakor, az ausztrál kormányt pedig szeptember 10-én értesítette.
Albanese kifogásolta, hogy a vállalatnak közel három hónapra volt szüksége a bejelentéshez,
ráadásul az értesítést a Services Australia általános e-mail-címére küldték, ami további késedelmet okozott.
A miniszterelnök telefonon beszélt Sam Altmannel, az OpenAI vezérigazgatójával, és Ausztrália „rendkívüli aggodalmát” fejezte ki, a tájékoztatás módját pedig elfogadhatatlannak nevezte. Az ausztrál hatóságok az Australian Signals Directorate bevonásával vizsgálják az esetet és azt, érinthetett-e más kormányzati rendszereket.
