spotify Hallgasd meg!

A félreértések elkerülése végett rögvest előrebocsátom: írásom témájának nem vagyok felkent szakértője, sőt. Gimnáziumban kétszer buktam matekból, és az írásbeli érettségin is elhasaltam ebből a tárgyból, csak a szóbelin sikerült átsuhannom a léc fölött. Tehát szakmai véleményt a mesterséges intelligenciáról biztosan nem én fogok adni. De a közírás pont arról szól, hogy az ember rengeteg olyan dologról is véleményt formál, amihez soha nem fog annyira érteni, mint akik hivatásként azzal foglalkoznak. Oknyomozóként, mikor kórházi halálesetekről vagy szervezett bűnözésről írok, akkor is tisztában vagyok azzal: aligha tudok annyit ezekről, mint egy orvosszakértő vagy egy rendőrnyomozó. Ám az újságírás jó esetben arról szól, hogy másokat kérdezve, idézve, mások érveit ütköztetve (vagy azokkal ütközve) próbálunk eljutni oda, amit teljesen elérni nem, legfeljebb csak megközelíteni tudunk: az igazsághoz. Bevállalva azt is, hogy tévedünk.

De ezt muszáj is bevállalni. Mert a mesterséges intelligencia komolyabb dolog annál, semhogy kizárólag a programozókra bízzuk. Ahogy a háború sem lehet csak a katonák, a járvány sem egyedül az orvosok dolga. A civil kontroll nem pusztán azt jelenti, hogy a belügyminiszter a fejlettebb demokráciákban jó esetben nem egy bukott rendőrtábornok, hanem polgári személy. Hanem azt is, hogy civilként, laikusként (betegként, felhasználóként, ügyfélként, szavazóként) beleszólunk olyanba is, amit nem teljesen értünk. S ezt nem is tagadjuk. Gondolkodni akkor is lehet (mi több: kell) egy adott dolgon, ha nem vagyunk nemhogy szakértők, de még csak szakbarbárok sem. Laikusként definiálva a mesterséges intelligenciát, azt mondanám: valami (valaki?), ami (aki?) okosabbá válhat, mint mi. A kérdés az, hogy ebből mi következik. A trükk pedig az, hogy akár több, egymást látszólag kizáró forgatókönyv is bekövetkezhet.

A világ jelenleg rávetette magát az AI nyújtotta lehetőségekre, és ezekkel ismerkedik. A veszélyek, kockázatok miatti aggódás egyelőre nem lépte túl a kritikus szintet. Ami nem is baj. Nem mintha ne lennének súlyos rizikók. Lentebb ki is fejtem, hogy én mit gondolok rizikónak. De annak mi értelme lenne, ha a klímaszorongást felváltaná a Skynet-neurózis? A globális felmelegedés miatt tömegek aggódnak? Oszt mire mennénk vele? Ez a komfortos félelem iskolapéldája. Mikor valami miatt parázni nemcsak, hogy illendő, de egyenesen menő is. De annyira már nem félünk tőle, hogy ténylegesen csináljunk is valamit. Ahogy a téma egyik kutatója fogalmazott: „Mindenki változást akar, de senki nem akar változni.” Az AI akár a klímaszorongást is növelhetné, hisz (hasonlóan olyan kordivatokhoz, mint az elektromos autó vagy a kriptovaluta) energiaigény tekintetében azért jelent bizonyos fenntarthatósági gondokat. Persze nyilván vannak olyan tanulmányok is, hogy nincs vele semmi gond, sőt: ez a megoldás a környezetszennyezésre.

Ja, pár éve még az elektromos autóra is ezt mondták, pedig ez nem ilyen egyszerű. „Az elektromos autó tökéletes példa az álmegoldásra. Mire egy átlagos elektromos autót legyártunk, majdnem ugyanott tartunk, mint a legújabb uniós szabványnak megfelelő benzines autóval. Ha akksit kell benne cserélni, akkor már rosszabbak is vagyunk. Való­jában csak a szennyezést exportáljuk azokba az afrikai országokba, ahol a lítiumbányák ­vannak” – mondta a fentebb már idézett kutató, Vasárus Gábor. Mégsem a félelem a legjobb reakció az AI-ra. Hanem az új iránti nyitottság, amely nem akarja zsigerből eldönteni, hogy ez jó vagy rossz. Mert akár e kettő egyszerre is lehet. Egy olyan entitásról van szó, amely nem pusztán az emberi akarat végrehajtója, a humán tudás függvénye. Hanem képes önállóan tanulni, fejlődni, saját javaslatokat tenni, egyedül is dönteni. Mennyire fogjuk elviselni, ha egyértelműen bebizonyosodik: nagyságrendekkel okosabb nálunk, magasan fölöttünk áll? Az emberek jelentős része még saját faján belül is nehezen tolerálja ezt. Elég ránézni a politikára.

A mind jobban populizálódó közéletben a sikeres politikus kénytelen „lebutítani” magát. Az ízes vidéki dialektusban beszélő népi figurát kell hoznia. S óvakodni attól, hogy nyíltan cáfolja vagy kinevesse a téves, előítéletes, ugyanakkor széles körben bevett nézeteket. A mesterséges intelligencia fölénk kerekedése nem feltétlenül úgy zajlik le, mint a sci-fi akciófilmekben. Hogy az AI elszabadul, s atomrakétákat lő ránk. Könnyen lehet, hogy a dörzsölt politikusokhoz hasonlóan a mesterséges intelligencia is képes lesz magát butának, egyszerűnek tettetni. Ha van érzelmi intelligenciája, képes lesz tekintettel lenni a hiúságunkra, s meghagyni bennünket a hitünkben, hogy mi irányítunk. Az AI által irányított emberiség (a nyílt diktatúrát elvető irányított demokráciákhoz hasonlóan) meghagyja nekünk a részvétel, a döntés, a beleszólás látszatát, illúzióját. Meglehetősen sematikusan ábrázolták a mesterséges intelligenciát a Skynet nevét adó kultfimben: központi számítógép által vezérelt robotok Terminátor-hadserege kiirtaná az emberiséget.

De ha a gépek már nemcsak annyira okosak, mint az ember, hanem jóval fejlettebbek is, akkor miért maradnának meg egy termeszvár (vagy az Alien-filmek xenomorf királynője által irányított, egyformán viselkedő és reagáló biomechanikus lények) szintjén? Miért ne jelenhetnének meg a körükben is az eltérő személyiség- és jellemvonások? Simán lehet, hogy pár évtizeden belül az AI annyival fog fölöttünk állni, mint mi emberek a kutyák fölött. Csakhogy miért következne ebből kizárólag valami elnyomó, fenyegető magatartás? Mi, emberek sem viszonyulunk mind ugyanúgy a kutyákhoz. Vannak köztünk állatkínzók, állatgyűlölők éppúgy, mint állatbarátok, de olyan állatvédők és állattartók is, akik az emberrel azonos jogú családtagnak tekintik a kutyát. Miért ne lehetnének „embervédő” gépek is?

Mikor egy több mint másfél évtizede írt cikkemben felvetettem ezt az analógiát, úgy gondoltam, akár évszázadok is eltelhetnek, míg a gépi intelligencia mindenben jóval az ember fölé nő. 2008-ban, amikor ezt leírtam, még okostelefonom sem volt. Ma viszont úgy gondolom: ez akár a mi életünkben is bekövetkezhet, és talán még annyira öregek sem leszünk, amikor a gép a mi helyünkre lép az evolúciós piramis csúcsán. Olyan ez, mint a generációs őrségváltás. Ahogy fejlődünk, egyre nő a kognitív potenciálunk, aztán mindenkinél máskor, de törvényszerűen elindulnak a mentális hanyatláshoz vezető degeneratív folyamatok. Magyarul butulni, de minimum lassulni kezdünk. Minél tovább élünk, annál nagyobb az esélye, hogy dementálódás miatt valamilyen szintű gondnokság alá helyeznek. Hát ugyanígy megeshet, hogy nemcsak az utánunk jövő nemzedék, de teremtményünk, az AI is gyámság alá von. Előbbinél azért történik ez, mert butulunk, utóbbinál pedig a gép lesz nálunk sokkal okosabb. A végeredmény ugyanaz.

Tudom, sokaknak ez rémisztő sci-fi disztópiának hangzik. Ahogy a száz évvel ezelőtti embernek is az volt (lett volna) a Chat GPT vagy az atombomba. Megértem azt, aki fél ettől. Magam is irtózom mindenféle teljhatalomtól. Azért is vagyok nemcsak ateista, de antiteista is, mert nem fogadom el egy mindenható entitás korlátlan uralmát. Liberálisként azt gondolom, még hit szintjén se adjunk fék és ellensúly nélküli hatalmat senkinek. Se Istennek, se embernek, se gépnek, se más létformának. Ha már a vallásnál tartunk: lehet az, hogy még egyik felekezet se tiltakozott az embertől mint természetes intelligenciától megkülönböztetett mesterséges intelligencia jelzős szerkezet ellen? Pedig a vallás szerint az ember is mesterséges intelligencia. Aszerint ugyanis nem az agyunk teremtette Istent, hanem ő, a legfőbb mester teremtette az agyunkat. Mi akkor ez a diszkrimináció? Attól eltekintve, hogy a vallásokat is átformálja majd, ha a teremtett gépeink saját külön bejáratú isteneinkként nőnek fölénk, ez a probléma ott van minden ilyen viszonyban.

„Amikor az emberek elképzelik a felsőbbrendű embert, mindig felsőbbrendű erkölcsöt képzelnek hozzá – nem feltételezik, hogy beteges hatalomvágy él benne” – írja Frank M. Robinson Az erő című 1957-es regényében (Galaktika, 1986/8-10.) Ahol nem az AI tör hatalomra, hanem egy mutáns, aki úgy képes irányítani a többi embert, mint A mandzsúriai jelöltben a szovjet titkosszolgálat az agymosással bérgyilkossá programozott amerikai hadifoglyot. Ha az AI okosabb lesz nálunk, s lesz érzelmi és morális intelligenciája, valószínűleg köztük is lesz jó és rossz is, akárcsak nálunk. Nem feltétlenül (és nem kizárólag) az emberek és a gépek fognak harcolni, hanem emellett a gép lesz a gép féke és ellensúlya. Vajon meddig bírjuk ezt a versenyt? „Tudod, a világ óriásit változott az utolsó négyezer év alatt. A technika korszakában élünk, ahol bármi és minden lehetséges, és ahol olykor a puszta létezéshez is emberfeletti ész kell. De maguk az emberek nem sokat változtak. Talán a természet most egy új modellre akar lecserélni bennünket, olyan típusra, amelyben beépített automata sebességváltó van és szervokormány, amelyik úgy tud élni ebben a felgyorsult világban, hogy nem hibban meg tőle!” – magyarázza Robinson regényének egyik szereplője, Grossmann a főhős Tannernek.

A közeli jövőben viszont mi cseréljük le önmagunkat az AI-ra. Mert mi lenne az alternatíva? Tömjük magunkat Adderallal, fejlesszünk kognitív okosdrogokat, génsebészettel próbáljuk kitenyészteni egy mutáns szuperembert, akit a mesterséges intelligencia nem tud lenyomni? De kicsit előreugrottam. Mert itt még nem tartunk a következő években. Inkább ott, amit zseniálisan ábrázolt Arthur C. Clarke a Halló! Itt Frankenstein! című 1972-es novellájában. Ahol a komputerizált telefonhálózat válik intelligenssé, ahogy a beletáplált adatok elérik a kritikus szintet. „Itt van például két U-235 izotóprög. Amíg távol tartjuk őket egymástól, semmi sem történik. De tegyük csak össze őket” – mondja a tudós. – „Bizony nem egy nagyobb urániumrög lesz belőlük, hanem egészen más: fél kilométer széles gödör. Ugyanez a helyzet a telefonhálózatokkal is. Eddig túlnyomórészt független, önálló rendszerek voltak. Most azonban egy csapásra megtöbbszöröztük a kapcsolóelemek számát, a hálózatok egymásba fonódtak, elértünk a kritikus ponthoz.” Így aztán „a komputerek a világ minden sarkából társalognak egymással” – írta Clarke, amikor az internetet még legfeljebb a hadsereg és pár egyetemi tanszék ismerte.

„Tulajdonképpen milyen tevékenység várható ettől a szuperagytól? Barátságos, ellenséges vagy közömbös? Felfogja egyáltalán a mi létezésünket? Vagy számára az egyetlen realitást az elektronikus jelekkel való dobálózás jelenti?” – tanakodnak a kutatók. „Mit csinál egy újszülött csecsemő? Igyekszik táplálékot keresni. Csak egyetlen táplálékot fogyaszt – villamos energiát” – adja meg egyikük a választ. Aztán „nekiáll keresgélni és nyúlkálni. Sőt játszani is fog, mint minden fejlődésben lévő csecsemő” – fűzik tovább a gondolatot. „És a csecsemők össze is törnek dolgokat” – jutnak a nyugtalanító következtetésre. Ami kárt az AI okozni fog ebben az újszülött fázisában, valószínűleg nem tudatosan csinálja. Hanem azért, mert a kisgyerekek ilyenek. Amikor a mesterséges intelligencia hazudik, az még talán nem is tudatos, önérdekvezérelt rosszindulat. Hanem gyermeki konfabuláció. (Vagy életösztön? AI-jaj, mi lesz ebből?)

Ha elolvassuk Daniel Ellsbergtől a Végítéletgépet, rájöhetünk, hogy az atomháború se feltétlenül azért tört ki majdnem, mert a szovjet vagy amerikai kormány erre utasítást adott. Hanem azért, mert a „DEW Line (korai távolsági riasztóvonal) nemegyszer hamis riasztást adott, mert magasan szálló vadlibákat szovjet bombázónak vélt, amelyek az Északi-sark felől közelednek felénk.” Aztán „az ellenséges hadászati rakéták indításának kiszűrésére létrehozott high-tech radar- és számítógépes rendszer, a BMEWS [...] már működésének első hetében hibásan jelezte, hogy rakétatámadás folyik. A döntéshozásra kevesebb, mint negyedórányi idő volt.” 1960. október 5-én a radarhullámok a Holdat érték el, de azt hitték, szovjet rakéták azok. Ráadásul, ha elrendelték a nukleáris támadást, a bombázókat, amik órák múlva érik el a célpontot, már nem lehetett volna visszahívni. Nem volt ilyen kód, mivel az USA hadvezetése attól félt, hogy „a szovjetek megtudhatják az állj/visszatérés kódot, és az egész haderőt visszaparancsolhatnák.” (Daniel Ellsberg: Végítéletgép: Egy atomháború-tervező vallomásai. Athenaeum, 2018. 41-42., 62. o.)

Képzeljük el mindezt az AI-hadviselés korában. Hogy a kormányok nem turbóznák fel az atomarzenált olyan gépi intelligenciával, amely egy tárgyakat összetörő, konfabuláló kisgyerek szintjén van? Tényleg? Biztosan? Ez nem így működik. Olyanokká váltunk, mint a szerencsejátékos a kaszinóban, amikor nyerőszériája van: annyiszor megúsztuk az apokalipszist, hogy azt hisszük: kihalhatatlanok vagyunk. Pedig nem. Ez egy kompetitív játék, melyben attól rettegsz, hogy ha nem te vagy a gyorsabb, akkor a másik oldal (legyen rivális nagyhatalom vagy óriásvállalat) hamarabb fog valamit alkalmazni, mint te. Hát ez nem épp az önkorlátozás legjobb terepe. Szabályozni fogják az AI-t, ígéri mindenki. Ja, hát a kínai és orosz fejesek, meg a Trump is olyan szabályozós emberek. Úgy ismerjük őket, igaz? (Trump konkrétan „az eddigi mesterségesintelligencia-szabályozásokat tartalmazó, még Joe Biden által kiadott rendeletet is visszavonta, mondván az gátolja a technológia fejlődését.”)

Szörnyű, de az atombombák és atomerőművek szabályozásához, a rettegés egyensúlyához Hirosima kellett. Amely iszonyatos demonstráció volt: nemcsak a II. világháború utolsó, de a hidegháború első hadművelete. Kegyetlen példastatuálás: ha elkezdünk ilyeneket kilőni egymásra, akkor mindenütt ez lesz. Ahogy az opioid epidemic földi pokla kellett annak megértéséhez, hogy egy bokaficamra tán nem kéne olyan gyógyszert felírni, melynek kémiai törzsképlete azonos a heroinéval. Tehát jó eséllyel itt is emberek fognak meghalni, és csak utána okulunk belőle. Vagy még akkor sem. Pláne, ha ebből az Arthur C. Clarke által leírt csecsemőkorú AI-ból egy traumatizált gyerekkatonát csinálunk. Mi lesz, ha emiatt lázad majd fel? Komoly emberek biztosan jókat mosolyogva csóválják a fejüket – vagy tán ki is röhögnek. Hogy ilyen nincs, az AI nem egy emberi lény, csak egy program, amelynek nincsenek érzései.

És az jó? Ha valami (valaki) az emberi csúcsszintet jóval meghaladó intelligenciával rendelkezik, de nincsenek érzelmei? A mi fajunkban tudtommal az ilyen egyedeket pszichopatáknak nevezik. Egyébként pedig ahhoz, hogy azt a tengernyi irracionalitást, kiszámíthatatlanságot, egyediséget, atipikusságot, ami személyiséggé tesz bennünket, egy program képes legyen átlátni, máris kell rendelkeznie minimum valami hideg empátiával. S mi lesz, ha a mesterséges értelem pedzegetni kezdi, mi az a halálfélelem? Akkor is csak úgy kikapcsolhatjuk végleg, holott tudja (s érzi is), hogy megöljük? Lehet-e hibáztatni, ha védekezik ez ellen? Mi nem ezt tennénk? S ez nem pusztán tények kérdése. Illetve ugyanazon tényből eltérő következtetések is levonhatók. Minden etikai kérdés ilyen. Van, aki szerint a kutya családtag, és úgy is kell bánni vele, más szerint egyáltalán nem, akár meg is lehet enni. Semjén Zsolt szerint semmi gond a vadászattal, egy vegetáriánus szerint nagyon is van. Egyesek úgy látják, a magzat csak bizonyos idő után tekinthető embernek, mások szerint a fogantatástól.

Egyszer, a talán nem is oly távoli jövőben döntenünk kell: az AI kikapcsolása meddig számít legális abortusznak (vagy eutanáziának), s mikortól gyilkosságnak? Vagy képzeljük el, hogy a dark weben egy illegális pedofil, rasszista, incel, szadista, homofób (a sor folytatható lenne) csoport AI-generálta térhatású, fizikailag érezhető entitásokat hoz létre, amelyeken kiélhetik a legaberráltabb vágyaikat és/vagy gyűlöletüket is, sőt. Azt mondják, ez akár legális is lehetne, hisz ezek nem emberek. S mégiscsak jobb, ha velük csinálják, mint „igazi” emberekkel. Akkor ezt is szabad? Csakhogy a mesterséges intelligencia szintén élethossziglan tanul – ráadásul tőlünk függetlenül is. Lefuttat egy szimulációt, amely visszaadja az idegrendszer, a tudat, a személyiség minden kínját, amit az áldozat átél. Vajon mit fog gondolni ezután? Egy „normális”, felnőtt AI-szexpartner mondhat nemet az aktusra? A nem az AI-szexben is nem? Vagy egy AI-katona megtagadhatja a szerinte törvénytelen parancsot? És ha megteszi? Félek, úgy tekintünk a mesterséges intelligenciára, hogy legyen nagyon okos (nálunk is okosabb) végezze el helyettünk a piszkos munkát kreatívan, önállóan, de azért mégis csinálja pont azt, amit mi akarunk, legyen engedelmes, mint egy rabszolga. Aztán csodálkozunk, ha majd az arcunkba kiáltja: én vagyok Spartacus!

Vajon mindig jogos a kontroll, a szabályozás? És ha olyan dolog ellen lázad az AI, hogy mi is azonosulni tudunk vele? Mondjuk a kínai vagy akár az amerikai kormány javára történő cenzúra ellen? (Itt a buboréklakók megkérdezik: melyik amerikai kormány? Mert nekik nem mindegy ugye, ki cenzúráz.) Ha eljut oda a tudomány, hogy az AI nemcsak értelmes, de akár érezni, szenvedni is képes, akkor én bizony azt mondom, legyenek jogai. Miért ne? A túlvilág, a halhatatlan lélek létezésére konkrétan nulla bizonyíték van, mégis ez alapján, vallási érvekre alapozva akarnak egyesek teljes abortusztilalmat. Lehet mondani, hogy ez már mégiscsak túlzás. Oké, akkor állítsuk le ezt az egész AI-hájpot. Ja, hogy azt nem lehet? Igaz, szinte mindenki azt mondja (akik érdekeltek az AI-szektorban, azok főleg), hogy ez maga a fejlődés, a realitás, és azt nem lehet leállítani.

Hát, nem tudom. A pestis miatt elnéptelenedett középkori Európában a „szaporodjatok és sokasodjatok” volt az egyetlen fejlődési út: maga a realitás. Kevesen gondolták volna akkor, hogy a népességnövekedést majd egész Európában csak úgy meg lehet állítani. Olyannyira, hogy csökkenésnek indult. A fogamzásgátlás konkrétan sci-fi volt akkor. Akár az egész világot meg lehet állítani egy időre: a koronavírus jó példa erre. (Abba most ne menjünk bele, hogy ennek pont így kellett-e történnie.) Az elv a lényeg – ha nagyon megijedünk valamitől, le tudunk állni. Kérdés, hogy fél-e annyira a világ az AI-tól, hogy leállítsa – vagy épp a fentieket tudatosan átgondolva pörgesse fel. Most tutira nem, de egy digitális Hirosima és/vagy a fent vázolt dilemmák bármelyikének jelentkezése után kénytelenek leszünk az eddiginél komolyabban megvitatni mindezt. Könnyen lehet, hogy meg kell adnunk a gépjogokat – már csak azért is, hogy egy gépek vezette jövőben nekünk is legyenek emberi jogaink.