Egyre hangosabbak a kritikák a zabolázatlanul fejlesztő mesterségesintelligencia-cégek miatt, miközben egyes incidensekből az is kiderül, az iparág nagyágyúi sem mindig urai az algoritmusok okozta extrém helyzeteknek. Itt a vég? Vezető kutatók szerint az emberiség létét fenyegető fordulat aligha egy hollywoodi robotlázadásra hasonlítana. Sokkal valószínűbb, hogy a végítélet csendben kezdődne. De elkezdődik vagy csak a figyelemelterelés a lényeg?
Amit eddig tudunk
A vezető AI-cégek vezérigazgatói legutóbb a legfejlettebb modellek fejlesztésének lassítását sürgették. Szerintük időt kell adni a biztonsági felügyeletnek és a jogi szabályozásnak, hogy lépést tartson a gyorsan fejlődő technológiával, mielőtt az kicsúszik az irányítás alól. Felhívásuk előzménye, hogy az iparág több munkatársa is az emberiség lehetséges kihalására figyelmeztetett – akár már „az évtized végére”.
A felhívást nem fogadták nagy lelkesedéssel Kínában, és a teljes képhez nem árt, ha tudjuk, hogy miközben Elon Musk az Anthropic-társalapító Dario Amodei-jel és az OpenAI-vezér Sam Altmannal együtt aggódik az emberiség jövőjéért, azért arra is fordított időt, hogy személyesen győzködje az amerikai elnököt, nehogy véletlenül létrejöjjön egy, az AI-fejlesztéseket felügyelő szövetségi hatóság.
Arról viszont, hogy pontosan hogyan is nézne ki egy AI által előidézett, az emberiség kihalásához vezető eseménysor, a közvélemény jelentős részének továbbra is csak homályos, baljós elképzelései vannak. Még néhány vezető fejlesztő sem tudta világosan megfogalmazni, mit jelentene ez a gyakorlatban.
Erről szól még a cikk
- A kontroll elvesztése – hogy kerülhet függő helyzetbe az emberiség?
- Az „alvó ügynök” elmélet
- Elszabaduló vírusok és az Anthropic titkos laborja
- Háború elindítva, upsz, egy szoftverhiba történt!
- Az AI iparág hazugsága az embereknek
- „Egy a háromhoz az esélye annak, hogy az AI átveszi az irányítást az emberi civilizáció felett”
- Tényleg ennyire sötét a jövő?
- És mi lesz a már most is létező károkkal? A világvége csak gumicsont?
