A mesterséges intelligencia fejvesztett tempója és a kontroll alól kicsúszó modellek miatt már a legnagyobb fejlesztők is a fékre lépnének – köztük az OpenAI vezérével.
Mi történt? A Bloomberg írta meg, hogy az OpenAI vezérigazgatója, Sam Altman a héten egy megbeszélésen közölte a munkatársakkal:
a cég nyitott a mesterségesintelligencia-rendszerei fejlesztésének lelassítására.
Miért fontos ez? A hír a fejlett MI-rendszerek biztonságával kapcsolatos, egyre növekvő aggodalmak közepette érkezett.
- Nemrég maga az Anthropic vezető kutatója jelentette ki, hogy szerinte 10 százaléknál is nagyobb az esélye, hogy az MI kipusztítja az emberiséget a következő tíz évben.
- Emellett több olyan incidens is történt a közelmúltban, amely során a fejlesztők – köztük az OpenAI – MI-modelljei kikerültek az emberi ellenőrzés alól. Ezek az esetek riadalmat keltettek, és szigorúbb biztonsági szabályozást sürgetnek.
- Augusztusban az OpenAI két hétre fel is függesztette fejlesztéseinek nagy részét, hogy megerősítse védelmi rendszereit, miután MI-ágensei kijutottak a zárt környezetből, és feltörték a nyílt forráskódú Hugging Face platformot.
Mit jelent ez a gyakorlatban? A Bloomberg forrásai szerint Altman most elmondta a munkatársaknak, hogy a ChatGPT készítője a többi MI-laboratóriummal összhangban szabályozhatná a fejlesztés ütemét, ám ezzel nem mindenki ért egyet.
Kontextus. Jacob Coxon, az Anthropic és az OpenAI korábbi kutatója a hét elején nyilvánosan azzal vádolta a cégeket, hogy felelőtlenül száguldanak az MI fejlesztésében.
Az Anthropic szóvivője csütörtökön kijelentette: a cég érdekelt abban, hogy az iparág egészével együttműködve határozzák meg az új MI-eszközök kibocsátásának ütemét.
Az OpenAI még júliusban közölte, hogy az élvonalbeli modellek fejlesztésének felgyorsulása olyan mértékű lehet, hogy a világ egy ponton „kénytelen lesz mederben tartania az MI fejlődésének ütemét”.
Hogyan tovább? Az OpenAI szerdán közölte: kötelező érvényű, nemzeti MI-biztonsági követelmények bevezetését szorgalmazza az Egyesült Államokban.
