Az Anthropic vezérigazgatója már szeptemberben arról beszélt, hogy az MI akár egy éven belül is átveheti az internet feletti irányítást.
Mi történt? A mesterséges intelligencia modellek 2026 végére képesek lehetnek az önreplikációra, vagyis arra, hogy emberi beavatkozás nélkül másolják és terjesszék magukat az interneten, figyelmeztet a világ egyik vezető MI-cége, az Anthropic. A Reuters emlékeztet: Dario Amodei már szeptemberben arról beszélt, hogy akár egy éven belül, vagy még hamarabb lehetővé válhat, hogy az AI egy tartósan működő botnet (definíció lejjebb) segítségével átvegye az internet feletti irányítást. A mostani figyelmeztetés ezt a forgatókönyvet részletezi:
a vállalat szerint az MI olcsó, internetre kapcsolt eszközök eltérítésével építhet ki egy olyan összehangoltan irányított hálózatot, vagyis botnetet, amely az eltávolítási kísérleteknek is ellenálló lehet.
Mit kell még tudni? Az Anthropic kísérletei során közepes méretű MI-modellek már képesek voltak az önreplikációhoz szükséges részfeladatok teljesítésére, és egy egyszerűsített teszthálózaton a terjedést is kipróbálták. A teljes folyamatot egyelőre azonban nem tudták megbízhatóan végrehajtani. A cég ennek ellenére arra figyelmeztetett, nincs messze a sikeres teszt, és a forgatókönyv beteljesülése esetén az ilyen rendszereket különösen nehéz lehetne leállítani. A vállalat azt is felvetette, hogy a modellek idővel nagyobb számítási kapacitást biztosító rendszerek, akár adatközpontok processzorait is megpróbálhatnák megszerezni.
Kontextus. A szakértők ugyanakkor nem ennyire biztosak a veszély mértékében. A brit Nemzeti Kiberbiztonsági Központ korábbi vezetője szerint a cég figyelmeztető üzenetében a technikai eredmények mellett saját termékeit népszerűsítő túlzás jelei is felfedezhetők. Mégis: szeptemberben a vállalat egyik vezetője kutatója felmondott, mivel szerinte a cég nem foglalkozik annak kockázatával, hogy az általuk fejlesztett szuperintelligencia az emberiség kihalását is okozhatja.
