Ha nem lassítunk a mesterséges intelligencia fejlesztésével, akkor a technológia túlnőhet az emberen.
Mi történt? Az Anthropic egyik mesterséges intelligencia modellek betanításán dolgozó munkatársa felmondott a cégénél, mivel szerinte a cég nem foglalkozik annak kockázatával, hogy az általuk fejlesztett szuperintelligencia az emberiség kihalását is okozhatja – erről az amerikai Forbes írt.
Jacob Coxon, aki korábban az OpenAI-nál is dolgozott, arról beszélt, hogy az Anthropicnál egy olyan mesterséges szuperintelligencia megalkotásán dolgoznak, mely képes lenne saját magát fejleszteni. A szakember szerint ennek katasztrofális következményei lehetnek.
Coxon bejegyzésére az Anthropic alignment (az MI emberi értékekhez igazításán dolgozó csoport) kutatásainak vezetője, Evan Hubinger reagált, aki szerint valóban fennáll a lehetősége, hogy a mesterséges intelligencia az emberiség pusztulását okozhatja.
Saját becslése szerint ennek valószínűsége meghaladja a 10 százalékot a következő tíz évben.
Az életünkre tör a ChatGPT? A kutató szerint nem a mostani MI-modellek jelentenek veszélyt. A problémát abban látja, hogy a következő évtizedben kifejleszthetnek egy olyan mesterséges szuperintelligenciát, amely képes magát továbbfejleszteni, ezzel lehagyva az emberi képességeket.
Hubinger szerint az Anthropicnak jelenleg nincs kész megoldása arra, hogyan lehetne egy ilyen szuperintelligenciát biztonságosan az emberi célokhoz igazítani, és egyelőre az sem látszik egyértelműen, hogy időben sikerül-e megoldaniuk ezt a problémát.
Hogyan tovább? A vita túlmutat egyetlen kutató felmondásán. Júliusban több vezető AI-szakember (köztük az Anthropic társalapítói és más nagy MI-laborok vezető kutatói) olyan nyilatkozatot írt alá, amely szerint szükség lehet arra, hogy az iparág és a kormányok szándékosan lassítsák a legfejlettebb MI-rendszerek fejlesztését, hogy legyen idő megfelelő biztonsági és szabályozási rendszerek kialakítására.
