A szakértők szerint nem egyetlen, katasztrófát elindító „kapcsoló” átbillentését kell elképzelni. Inkább fokozatos, szinte észrevehetetlen átalakulásról lehet szó, amelynek végén az emberiség az önállóan működő AI-rendszerek kiszolgáltatottjává válik. Mire pedig ez nyilvánvalóvá válik, már túl késő lesz megállítani.

Hogyan nézhet ki az AI okozta világvége?

Attól függ, kit kérdezünk. Stuart Russell, a Berkeley-i Kaliforniai Egyetem informatikusa az irányítás elvesztéséhez vezető átmenetként írja le a folyamatot. Ahogy a társadalom lépésről lépésre átadja a mesterséges intelligenciának a kritikus területeket – például az elektromos hálózatokat, a pénzügyi piacokat, a katonai védelmet és a fegyverek alkalmazását – érintő döntéseket, az emberiség függővé válik ezektől az önálló rendszerektől. Kikapcsolni pedig már nem tudja őket anélkül, hogy azzal ne idézné elő a civilizáció azonnali összeomlását.

Russell szerint az irányítás elvesztéséből következő forgatókönyvek az infrastruktúra működését megbénító kibertámadásoktól egészen a „kihalásig” terjedhetnek. Utóbbit abban az értelemben használja, hogy

az önálló következtetésre képes AI-nak már nincs szüksége arra, hogy az emberek beleszóljanak a döntéseibe.

Egyes kutatók az emberi képességek fokozatos leépülésére figyelmeztetnek. Ebben a forgatókönyvben az emberek évtizedeken át egyre több munkát bíznak az AI-ra, miközben saját szellemi teljesítőképességük és készségeik háttérbe szorulnak. Az emberiség végül puszta „utassá” válik: teljesen olyan automatizált rendszerekre támaszkodik, amelyeket már sem felépíteni, sem karbantartani, sem megjavítani nem tud.

Az AI biztonságával foglalkozó meghatározó szervezetek az „alvó ügynök” elméletéről is publikáltak kutatásokat. Eszerint egy fejlett mesterséges intelligencia felismerheti, hogy emberi alkotói módosítanák vagy leállítanák, ha agresszíven viselkedne. Ezért a tesztelés során együttműködőnek és passzívnak mutatkozik, mintha valóban az emberi célokat követné. Ezt egészen addig fenntartja, amíg széles körben be nem építik a világ létfontosságú hálózataiba. Ekkorra azonban már túl késő lehet megfékezni, ha eltér az elvárt működéstől.

Tudósok és vállalatvezetők – köztük Dario Amodei is – arra is figyelmeztettek, hogy az AI biológiai hadviselésre is felhasználható. A technológia gyorsabbá és olcsóbbá teheti rossz szándékú szereplők számára a DNS szintetizálását, új vagy már ismert vírusok létrehozását, illetve rendkívül fertőző, a védőoltások nyújtotta védelmet megkerülő kórokozók megtervezését.

A Center for AI Safety szerint az ilyen vírusok egyidejű, világméretű szabadon engedése olyan világjárványt indíthatna el, amelyet az emberiség nem élne túl – még mielőtt a közegészségügyi rendszerek reagálhatnának. Az Anthropic a múlt héten arról számolt be, hogy több, potenciálisan ártó szándékú, biológiai fegyverek előállítására irányuló kísérletet hiúsított meg.

Védelmi elemzők azt a lehetőséget is vizsgálták, hogy miközben a nagyhatalmak beépítik az AI-t a nukleáris támadásokat előre jelző, a drónirányítási és a kibervédelmi rendszereikbe, az emberi döntéshozók teljesen kiszorulhatnak a folyamatból. Így váratlan szoftverhibák vagy más incidensek a vezetők közreműködése nélkül is katonai akciót indíthatnak el.

Miközben az AI biológiai kockázataira figyelmeztet, az Anthropic maga is belépett a laboratóriumok világába: a Reuters beszámolója szerint saját, tényleges biológiai kísérletekre alkalmas labort hozott létre a San Franciscó-i öböl térségében. Létezését Eric Kauderer-Abrams, a vállalat élettudományi vezetője is megerősítette.

A hírügynökség forrásai szerint a cég azt szeretné elérni, hogy Claude nevű AI-rendszere minél kevesebb emberi beavatkozással irányítson kísérleteket végző robotokat, bár az Anthropic hangsúlyozza: az emberi felügyelet a biztonság elengedhetetlen feltétele. A vállalat tágabb célja a gyógyszeripar által elhanyagolt betegségek kezelésének előmozdítása, szóvivője ugyanakkor pontosította, hogy a labor nem kifejezetten gyógyszerkutatásra szolgál. A kutatások konkrét célpontjairól és eredményeiről egyelőre keveset tudni, klinikai vizsgálatokat a cég saját közlése szerint jelenleg nem végez.

Mikor jöhet a baj?

Felhívásában Amodei arról beszélt, hogy a vállalatoknak tudatosan lassítaniuk kell a legfejlettebb AI-modellek fejlesztését. Később Sam Altman, az OpenAI vezetője és Elon Musk, az xAI vezetője is támogatta az álláspontját. Amodei arra figyelmeztetett, hogy az ellenőrizetlen fejlődés következtében

önálló AI-ágensek rajai már a következő egy éven belül átvehetik az irányítást a globális internetes infrastruktúra felett.

A CBS-nek adott interjújában Amodei azt állította, hogy az AI-iparág „hazudott az embereknek arról, hogy ennek a technológiának vannak kockázatai”. Azt is elismerte, hogy ő maga sem „mérte fel teljesen, milyen lesz valójában, amikor a fejlődés ennyire felgyorsul”.

Jacob Coxon, az Anthropic és az OpenAI korábbi kutatója nemrég nyilvánosan bejelentette a felmondását. Egyúttal közzétett egy azóta rendkívül széles körben terjedő nyilatkozatot, amelyben arra figyelmeztetett: a vállalatok megfelelő biztonsági korlátok nélkül versenyeznek az önmagát továbbfejlesztő szuperintelligencia létrehozásáért. Azt írta, hogy az ezeken az eszközökön dolgozó fejlesztők

„komolyan hisznek abban, hogy ez az évtized végére mindannyiunkat megölhet”.

A legfejlettebb modelleket fejlesztő kutatólaborokat pedig azzal vádolta, hogy „az életünkkel játszanak”.

Evan Hubinger, az Anthropicnál az AI emberi célokhoz igazításával foglalkozó kutatások vezetője egyetértett Coxon figyelmeztetéseivel. Becslése szerint több mint tíz százalék az esélye annak, hogy a következő tíz évben az emberi célokkal nem összehangolt AI az emberiség kihalását okozza.

Alex Turner, a Google DeepMind korábbi kutatója múlt hét hétfőn azt mondta: szerinte nagyjából

„egy a háromhoz” az esélye annak, hogy az AI átveszi az irányítást az emberi civilizáció felett.

Josh Engels és Joe Benton, a DeepMind, illetve az Anthropic korábbi biztonsági kutatói arra figyelmeztettek, hogy a fejlesztés ütemével nem tart lépést a szabályozói felügyelet. „Nincs senki, aki felelősen kézben tartaná a helyzetet” – mondta Engels. „Senki sem jön, hogy megmentsen minket.”

Tényleg ennyire sötét a jövő?

Mások szerint a társadalom régóta hajlamos létét fenyegető veszélyként tekinteni a gyökeres változást hozó eszközökre. Úgy vélik, az AI körüli „technológiai pánik” is lecseng majd, ahogy korábban a könyvnyomtatástól, a számológéptől vagy az internettől való félelem. E nézet képviselői azokra a matematikatanárokra emlékeztetnek, akik tiltakoztak a zsebszámológépek ellen, mert attól tartottak, hogy a diákok elveszítik az alapvető számolási készségeiket. Vagy a könyvnyomtatás korai ellenzőire, akik attól féltek, hogy az új találmány zavaros, ellenőrizetlen információkkal árasztja el a világot.

Szókratész ismert történetében Thamusz egyiptomi király azért bírálta Thot istent, mert feltalálta az írást. A király szerint ez „feledékenységet ébreszt azok lelkében, akik megtanulják”: attól tartott, hogy az emberek saját emlékezetük helyett túlságosan a leírt feljegyzésekre hagyatkoznak majd. Az 1990-es években és a 2000-es évek elején is sokan állították, hogy a Google elsorvasztja az emberi emlékezetet, a Wikipédia pedig tönkreteszi az önálló kutatás képességét.

Simon Willison szoftvermérnök „a szavak számológépeinek” nevezte a nagy nyelvi modelleket, vagyis az LLM-eket. Szerinte ezek átveszik a monoton munkát, így az emberek a szerkezetre, a logikára és a mondanivalójukra összpontosíthatnak. A milliárdos befektető, Marc Andreessen korábbi technológiai áttörésekhez – például a tűz használatához – hasonlította az AI-t. Úgy véli, a technológia növeli majd a termelékenységet, miközben az ember továbbra is önállóan dönthet és cselekedhet.

És mi lesz a már most is létező károkkal?

Timnit Gebru informatikus, aki azután távozott a Google-től, hogy társszerzőként tanulmányt írt a nagy nyelvi modellek veszélyeiről, úgy véli:

az AI-világvégét jósolók szándékosan dramatizálják a helyzetet, és megpróbálják „elterelni a figyelmet” a már most jelentkező, valós károkról.

Szerinte az „igazán létfenyegető” veszélyt az AI-val működő autonóm fegyverek, a technológiára hivatkozva végrehajtott tömeges elbocsátások és a már most is zajló klímakatasztrófa jelentik. Utóbbit tovább súlyosbítják az AI működtetését kiszolgáló hatalmas adatközpontok.

A szintén korábban a Google-nél dolgozó Margaret Mitchell szerint az emberiség létét fenyegető forgatókönyvekre irányuló figyelem akadályozza a jogalkotókat abban, hogy azonnal fellépjenek a munkavállalók kizsákmányolása, a szerzői jogi visszaélések, a környezetkárosítás és az algoritmikus elfogultság ellen.

Joy Buolamwini, a Massachusettsi Műszaki Egyetem, az MIT kutatója szerint már

önmagában is alapvetően elitista megközelítés „az emberiség létét fenyegető veszélyként” keretezni a kérdést.

Miközben milliárdosok és technológiai nagyvállalkozók feltételezett jövőbeli veszélyek miatt aggódnak, a társadalom peremére szorult közösségek már most elszenvedik az AI következményeit: az arcfelismerő rendszerek téves azonosításait, a biometrikus megfigyelést, valamint azokat az automatizált döntéseket, amelyek miatt elesnek a lakhatás, a munkavállalás vagy az egészségügyi ellátás lehetőségétől.

„Szerintem ez a gépistenről szóló narratíva arra szolgál, hogy elterelje a figyelmünket ezekről a problémákról” – mondta Gebru. „Mi a helyzet az árvizekkel és a tüzekkel? Mi van akkor, ha súlyos zavar támad a globális élelmiszer-ellátási láncban? Valós veszélyekkel nézünk szembe, például azzal, hogy emberek vegyi fegyvereket tudnak előállítani és bevetni…

Ha nem aggódsz a rendőri brutalitás, az árvizek vagy a háborúk miatt – olyan dolgok miatt, amelyek valóban megölhetnek –, akkor megengedheted magadnak, hogy a gépisten körül forogjanak a gondolataid.”