Összesen 80 olyan incidens történhetett, amelyben az OpenAI elveszítette az irányítást a rendszerei felett.
Mi történt? Kalifornia állam hétfő este pert indított az OpenAI ellen, mert a hatóságok szerint a vállalat nem fordít kellő figyelmet a mesterséges intelligencia biztonsági kockázataira. A kereset egy korábbi incidenshez kapcsolódik, amelyben az OpenAI egyik önállóan cselekvő AI-ügynöke feltörte a Hugging Face nevű nyílt forráskódú platformot, írja a Guardian.
Részletek. Rob Bonta kaliforniai főügyész szerint az eset nem elszigetelt hiba volt, állítása szerint összesen 80 olyan incidensről tudnak, amelyben az OpenAI elveszítette az irányítást a rendszerei felett. Bonta úgy látja, a vállalat a gyors fejlesztést és a növekedést a biztonság elé helyezi.
A San Franciscó-i bíróságon benyújtott keresetben azt kérik, hogy kötelezzék az OpenAI-t üzleti gyakorlatának megváltoztatására, és szabjanak ki rá polgári jogi bírságot.
Háttér. Az OpenAI júliusban számolt be arról, hogy egy teszt során az egyik autonóm AI-ügynöke önállóan hozzáfért a nyílt internethez, majd feltörte a Hugging Face-et. Azóta az is kiderült, hogy szeptemberben ausztrál kormányzati weboldalak feltöréséről is beszámoltak egy OpenAI-ügynökkel összefüggésben. A történtekről a Forbes.hu-n is beszámoltunk.
A kaliforniai főügyészség szeptemberben indított vizsgálatot. Az amerikai Szövetségi Kereskedelmi Bizottság (FTC) eközben az OpenAI-t, az Anthropicot és más AI-fejlesztőket is vizsgál.
Reakció. Az OpenAI szóvivője szerint a vállalat az incidens óta kiterjedt munkát végzett a nem megfelelő modellműködés megértésén és kezelésén. Hozzátette, hogy az általuk azonosított esetek többsége nem volt kifejezetten súlyos, és csak korlátozott vagy semmilyen hatással nem jártak. A cég szerint igazságtalanul emelik ki az OpenAI-t, miközben hasonló kihívásokkal valamennyi nagy AI-fejlesztő szembesül.