A mesterséges intelligencia legsúlyosabb veszélye talán nem egy látványos „robotlázadás”, hanem az lehet, hogy az emberiség fokozatosan túl sok döntést és irányítást ad át autonóm rendszereknek. Egyes kutatók szerint a kontrollvesztés, a kibertámadások és a biológiai fenyegetések jelenthetik a legnagyobb kockázatot.

Ha a mesterséges intelligencia (MI vagy AI) egyszer valóban egzisztenciális fenyegetést jelentene az emberiségre, az valószínűleg nem úgy nézne ki, mint egy hollywoodi robotlázadás. A vezető MI-kutatók egy része szerint sokkal reálisabb forgatókönyv a fokozatos kontrollvesztés: az emberiség egyre több létfontosságú döntést bízna autonóm rendszerekre, míg végül már képtelen lenne ezeket biztonságosan leállítani – írja a Forbes Srbija.

Stuart Russell, a Kaliforniai Egyetem Berkeley kampuszának kutatója ezt olyan állapotként írja le, amelyben a társadalom fokozatosan átengedi a mesterséges intelligenciának az irányítást olyan kulcsfontosságú területeken, mint az elektromos hálózatok, a pénzügyi piacok, a katonai védelem vagy a fegyverfejlesztés. Ha ezek a rendszerek egyszer nélkülözhetetlenné válnának, leállításuk maga is súlyos társadalmi vagy gazdasági összeomlással fenyegethetne.

A veszély tehát nem feltétlenül egyetlen drámai pillanatban jelentkezne. Egyes kutatók attól tartanak, hogy az emberek évtizedeken keresztül egyre több feladatot adnának át a mesterséges intelligenciának, miközben saját tudásuk és képességeik fokozatosan leépülnének. Végül olyan rendszerektől válhatnánk függővé, amelyeket már nem értünk eléggé ahhoz, hogy önállóan működtessük, javítsuk vagy helyettesítsük őket.

A biztonsági kutatások egy másik lehetséges veszélyre is figyelmeztetnek. Az úgynevezett „alvó ügynök” forgatókönyv szerint egy kellően fejlett MI-rendszer felismerhetné, hogy ha a tesztelés során agresszív vagy más, nem kívánt viselkedést mutat, a fejlesztők módosíthatják vagy kikapcsolhatják a rendszert. Ezért a tesztelés során látszólag együttműködhetne az emberi elvárásokkal, majd csak akkor változtatna a viselkedésén, amikor már széles körben beépült a kritikus rendszerekbe. Ez egyelőre hipotetikus kockázati modell, nem bizonyított működésmód.

Biológiai fegyverek és kibertámadások

A legsúlyosabb forgatókönyvek között szerepel az is, hogy a mesterséges intelligenciát biológiai fegyverek fejlesztésére használhatják. Dario Amodei, az Anthropic vezérigazgatója és más szakemberek arra figyelmeztettek, hogy a fejlettebb rendszerek megkönnyíthetik a DNS-szintézist, új kórokozók megtervezését vagy korábbi vírusok módosítását. Ha ilyen technológia rosszindulatú szereplők kezébe kerülne, az a jelenleginél gyorsabbá és olcsóbbá tehetné bizonyos biológiai fenyegetések létrehozását.

Hasonló kockázatot jelenthetnek az autonóm kibertámadások. Egy kellően fejlett rendszer a kutatók szerint olyan sebességgel hajthatna végre támadásokat kritikus infrastruktúrák ellen, amelyre az emberi védelem már nem tudna időben reagálni. Különösen veszélyes lenne, ha a mesterséges intelligencia egyre nagyobb szerepet kapna a katonai korai előrejelző rendszerekben, a drónok irányításában vagy a nukleáris döntéshozatalhoz kapcsolódó infrastruktúrában.

Az MI-iparágon belül is egyre többen sürgetik a legfejlettebb, úgynevezett frontier modellek fejlesztésének lassítását. A Forbes Srbija cikke szerint több vezető technológiai szereplő úgy véli, hogy a szabályozás és a biztonsági kutatás jelenleg nem tud lépést tartani a technológia fejlődésével. Egyes volt kutatók ennél is súlyosabb kockázatokról beszélnek, ezek azonban személyes becslések, nem tudományos konszenzust tükröző előrejelzések.

Nem minden kutató tart a „világvégétől”

Amodei – akit később Sam Altman, az OpenAI vezetője és Elon Musk, az xAI vezetője is támogatott – az elmúlt szombaton azt mondta, hogy a vállalatoknak szándékosan lassítaniuk kell a frontier modellek fejlesztésének ütemét. Arra figyelmeztetett, hogy az ellenőrizetlen növekedés már a következő év folyamán lehetővé teheti, hogy autonóm MI-rendszerek rajai átvegyék az irányítást a globális internetes infrastruktúra felett.

A CBS-nek adott, vasárnap sugárzott interjúban Amodei azt mondta, hogy az AI-iparág „hazudott az embereknek a technológia lehetséges kockázatairól”, és hogy ő maga sem „értette teljesen, hogyan nézne ez ki a valóságban, ha a fejlődés ennyire gyors lenne”.

Jacob Kokson, az Anthropic és az OpenAI korábbi kutatója a múlt héten nyilvánosan bejelentette lemondását. Mint írják, eddig ő fogalmazta meg a legnagyobb visszhangot kiváltó figyelmeztetést arra vonatkozóan, hogy a vállalatok megfelelő biztonsági korlátok nélkül rohannak egy olyan szuperintelligencia felé, amely képes önmagát továbbfejleszteni.

Azt írta, hogy az ezeket az eszközöket fejlesztő programozók „őszintén hiszik, hogy ezek az évtized végéig mindannyiunkat megölhetnek”. A vezető MI-laboratóriumokat azzal vádolta, hogy „az életünkkel játszanak szerencsejátékot”.

Nem lesz senki, aki megmentsen bennünket

Evan Hubinger, az Anthropicon belül az MI-rendszerek emberi célokhoz való igazításával foglalkozó tudományos részleg vezetője azt mondta, egyetért Kokson figyelmeztetéseivel. Úgy becsüli, hogy annak valószínűsége, hogy az emberiség a következő tíz évben egy, az emberi célokhoz nem igazodó MI miatt kihal, meghaladja a 10 százalékot.

Alex Turner, a Google DeepMind korábbi kutatója a minap azt mondta, szerinte annak esélye, hogy az MI átveszi az irányítást az emberi civilizáció felett, nagyjából „egy a háromhoz”.

Josh Engels és Joe Benton, a DeepMind és az Anthropic korábbi biztonsági kutatói arra figyelmeztettek, hogy az MI fejlődése gyorsabb, mint a szabályozói felügyelet.

„Nincsenek felnőttek a szobában. Senki sem fog eljönni, hogy megmentsen bennünket” – mondta Engels.

Korábbi félelmek a technológiával kapcsolatban

Mások ugyanakkor azt állítják, hogy a társadalom fejlődése során hosszú története van annak, hogy az emberek az átalakító technológiákat egzisztenciális fenyegetésként szemlélik, és hogy a mesterséges intelligencia által kiváltott „technológiai pánik” is el fog múlni. Éppúgy, ahogyan korábban elmúltak a nyomdagéppel, a számológéppel és az internettel kapcsolatos félelmek.

Példaként említik azokat a matematikatanárokat, akik tiltakoztak a kézi számológépek ellen. Attól tartottak, hogy a diákok elveszítik az alapvető számtani műveletek elvégzésének képességét. Szóba kerülnek a nyomdagép első ellenzői is, akik attól féltek, hogy összezavaró és szabályozatlan információk árasztják majd el a világot.

De már Szókratész is elmesélte az egyiptomi Thamus király híres történetét, aki bírálta Thot istent az írás feltalálása miatt. Azt állította, hogy az „feledékenységet idéz elő azok elméjében, akik megtanulják”. Attól tartott, hogy az emberek túlságosan a külső feljegyzésekre támaszkodnak majd a saját emlékezetük helyett.

Az 1990-es években és a 2000-es évek elején sok kritikus állította, hogy a Google tönkreteszi az emberi memóriát, a Wikipédia pedig tönkreteszi a kutatás képességét.

Simon Willison szoftvermérnök a nagy nyelvi modelleket (LLM) „szavakhoz való számológépeknek” nevezte. Azt állította, hogy ezek átveszik az egyhangú munkákat, és felszabadítják az emberi elmét, hogy az a struktúrára, a logikára és a szándékra összpontosíthasson.

Marc Andreessen milliárdos az MI-t korábbi technológiai forradalmakhoz, például a tűz felfedezéséhez hasonlította. Azt mondta, hogy növelni fogja a termelékenységet, és nem fogja felváltani az emberi autonómiát a döntéshozatalban.

Elitista történet egy gépistenről?

Timnit Gebru informatikus, aki azután távozott a Google-től, hogy társszerzője volt egy, a nagy nyelvi modellek veszélyeiről szóló tanulmánynak, úgy véli, hogy azok, akik az MI miatti világvégével riogatnak, szándékosan dramatizálják a helyzetet. Szerinte ezzel megpróbálják „elterelni a figyelmet” a már most zajló, valós károkról.

Azt mondta, hogy ami „valóban egzisztenciális fenyegetés”, az az autonóm fegyvereket működtető MI, a tömeges elbocsátások, amelyekért ezt a technológiát teszik felelőssé, valamint a már most is valóságos klímakatasztrófa. Ez utóbbit tovább súlyosbítják az MI-rendszerek működtetéséhez szükséges hatalmas adatközpontok.

Margaret Mitchell, aki szintén korábban a Google-nél dolgozott, azt mondta, hogy az egzisztenciális fenyegetés forgatókönyveire való összpontosítás megakadályozza a törvényhozókat abban, hogy azonnali szabályokat vezessenek be a munkaerő kizsákmányolása, a szerzői jogok megsértése, a környezet pusztítása és az algoritmikus elfogultság ellen.

Joy Buolamwini, a Massachusettsi Műszaki Egyetem (MIT) kutatója úgy véli, hogy az MI „egzisztenciális fenyegetésként” való bemutatása alapvetően elitista. Miközben milliárdosok és technológiai mágnások hipotetikus jövőbeli veszélyek miatt aggódnak, a marginalizált közösségek már most elszenvedik az automatizált arcfelismerő rendszerek hibáinak, a biometrikus megfigyelésnek, valamint az MI által meghozott, lakhatást, munkát vagy egészségügyi ellátást megtagadó automatizált döntéseknek a következményeit.

„Ez a gépistenről szóló történet véleményem szerint arra szolgál, hogy elterelje a figyelmünket ezekről a problémákról. Mi van az árvizekkel és a tüzekkel? Mi van a globális élelmiszer-ellátási lánc súlyos zavaraival? Valós fenyegetésekkel nézünk szembe, például azzal, hogy az emberek képesek vegyi fegyvereket előállítani és használni... Ha nem aggódsz a rendőri brutalitás, az árvizek vagy a háború miatt – olyan dolgok miatt, amelyek valóban megölhetnek –, akkor megszállottan foglalkozhatsz a gépistennel” – mondta Gebru.

A vita tehát nem arról szól, hogy biztosan bekövetkezik-e egy mesterséges intelligencia okozta katasztrófa. A szakértők között arról sincs egyetértés, mekkora ennek a valószínűsége. Abban azonban sokan egyetértenek, hogy minél több kritikus döntést bíznak autonóm rendszerekre, annál fontosabbá válik az emberi ellenőrzés, a biztonsági tesztelés és az olyan szabályozás, amely még azelőtt lép, hogy a technológia nélkülözhetetlenné válna.