Rég nem látott utcabéli kedves szomszédlány fotója köszön vissza egy képről a közösségi oldalon. Ő menyasszonyi ruhában, mellette csinosan és mosolyogva a szülei. Első reakciómban azonnal a saját emlékező képességemet vontam kétségbe (jól tudom, hogy a szülők már nem élnek?), és a gondolatsorban csak másodikként jelent meg a felismerés, hogy a kép egy nagyon sikeres montázs, amit az alatta lévő szöveg is megerősített. Alig görgetem tovább a híreket, ott látom egy videóban Aleksandar Vučić szerb államfőt a szöveggel, hogy ötnapos látogatásra Kínába érkezett, és a repülőtéren ugyanúgy ellenőrizték detektorokkal, mint minden más utast. Ez a valótlan videó is elvesz egy pillanatot, mígnem lelki szemeim előtt megjelenik a tévében látott képsor az ünnepélyes fogadtatásról.

Felgyorsult világunkban, amikor a külső ingerek jelentős hányada elektronikus eszközök által jut el hozzánk, szinte mindig gondolnunk kell arra, hogy ne feltétlenül higgyünk a szemünknek. Mert mi is történik, amikor meglátunk valamit? A külvilág történéseit az érzékszerveinkkel észleljük, az észlelés eljut az agyba, ahol az ingerekre adott válasz formálódik. A válasz nem pusztán reflex, hanem egy gondolkodási folyamat eredménye, amely során az észlelés után azonosítjuk és elemezzük az inger jelentését, majd megadjuk a választ, levonjuk a következtetést. Ha képesek vagyunk gondolkodni és elemezni a kapott ingereket, nem csaphatnak be bennünket – hiszen gondolkodunk.

Gondolkodom… A Google keresőprogramba beírt kérdésre válaszul ezt írja ki a komputer is, amikor AI-alapú, vagyis mesterséges intelligencián (MI) alapuló áttekintéssel segít bennünket informálódni az éppen aktuális problémánkról vagy pillanatnyi érdeklődésünk tárgyáról. Ma már elegendő lefényképezni a bőrünkön tapasztalt picinyke elváltozást, megkérdezni a ChatGPT programot, és orvos helyett máris a mesterséges intelligenciával cseveghetünk az elváltozás lehetséges okairól. Már az idegen nyelv alapos ismerete sem fontos: elég egy fordítóprogram, és máris kész a szöveg (igaz, olykor értelmezhetetlen vagy bosszantóan merev, de a főbb részek pontosak – így válik munkanélkülivé számos fordító). A bankok, a projekttervezők és a gazdasági elemzők ma már nem működnek a mesterséges intelligencia segítsége nélkül, és sajnos a modern hadviselésben is azért vált az egész világot fenyegető rémmé, mert segíti az emberéletek kioltásához vezető gyors katonai döntéseket.

Ugyanakkor igaz, hogy az MI megkönnyíti az életünket, attól függetlenül, hogy használata mindig magában hordozza a kockázatokat is. Nem elsősorban bizonyos szakmák elsorvadása okoz kételyeket (hiszen ez a társadalmi fejlődés normális folyamata), hanem annak a veszélye, hogy a gondolkodásunkat és a lelkiismeretünket is átengedjük a gépnek, és végül mi magunk is elveszítjük a mivoltunkat, azt, ami emberré tesz bennünket.

A gép csak annyit tud, amennyire mi, emberek megtanítjuk. Az erkölcsi kérdés is ebből ered: ki mire tanítja meg, kinek a szolgálatába állítja, és kit tesz kiszolgáltatottá (hogy felülről irányított számokká, statisztikai termelékenységi mutatókká váljunk).

Na és az emberi viszonyok! Bevezetőmben nem véletlenül említettem a manipulált fotót és a manipulált videót. A két példa nem okoz kárt senkinek. Az egyik megható emlékezés a szülőkre, a másik pedig egy politikus lejáratására tett kísérlet vagy egyszerűen egy rossz vicc. De látszik, hogy az MI lehetőséget ad a dezinformációk gyors előállítására és hatékony terjesztésére, ezáltal pedig válságok előidézésére a megosztott társadalmakban.

Ezekben a napokban, a pünkösdi ünnepeket követően több médium is foglalkozik XIV. Leó pápa május 15-én aláírt, május 25-én ismertetett első körlevelével, amelyet a Vatikán (vatican.va) több világnyelven is megjelentetett. A pápa ebben a digitális forradalommal és a mesterséges intelligencia terjedésével, valamint annak az emberiségre gyakorolt hatásával foglalkozik az egyház szemszögéből. A Csodálatos emberiség (Magnifica humanitas) címmel emlegetett szöveg arra figyelmeztet, hogy az emberiség hasonló fordulóponthoz érkezett, mint az ipari forradalom korában, amikor az emberi munka jelentős része szükségtelenné vált, és proletárok milliói lettek kiszolgáltatottak. A pápai figyelmeztetés nem elsősorban az egyes csoportok hátrányos helyzete miatt fogalmazódott meg, hanem az emberiség jelenét és jövőjét érintő erkölcsi kérdéseket helyezi előtérbe. Általános érvényű üzenete, hogy a mesterséges intelligencia használatának az emberi élet védelme és az emberi méltóság szabjon határt.