Az OpenAI egyik ügynöke júniusban engedély nélkül jutott be több ausztrál kormányzati rendszerbe.
Mi történt? Nem adja ki új, GPT-6.1 Astra nevű AI-modelljét az OpenAI, mert az nem felelt meg a vállalat biztonsági elvárásainak, írja a BBC.
Részletek. A modell az interneten és különböző alkalmazásokban is képes lett volna önállóan feladatokat végrehajtani, de a teszteken nem teljesített megfelelően abban, hogy tartsa magát a számára kijelölt hatáskörhöz és jogosultságokhoz, illetve pontosan jelezze a felhasználónak, milyen műveleteket végzett.
Kontextus. A döntés azután történt, hogy a múlt héten kiderült, az OpenAI egyik ügynöke júniusban engedély nélkül jutott be több ausztrál kormányzati oldalra és rendszerbe. Az érintett szervezetek között volt az ausztrál egészségügyi minisztérium és a bűnügyi statisztikai hivatal is. Az OpenAI elismerte, hogy az esetet rosszul kezelte, és közölte, hogy új eljárásokat dolgoz ki az ilyen incidensek felismerésére és bejelentésére.
Az egyre gyakrabban felmerülő biztonsági aggályok után az OpenAI vezetője, Sam Altman és az Anthropic vezérigazgatója, Dario Amodei is arra figyelmeztetett, hogy az iparágnak lassítania kellene a fejlesztések ütemén.
