Alexander C. Karp / Nicholas W. Zamiska: The Technological Rapublic / forrás: Facebook

Alex Karp, a Palantir alapítója és vezérigazgatója (és Nicholas W. Zamiska, a Palantir vállalati ügyekért felelős vezetője és jogtanácsosa) megírta azt a könyvet, amelyet egy milliárdos szokott írni akkor, amikor úgy érzi, a világ nem érti meg őt eléggé. A The Technological Republic tele van valódi diagnózisokkal, eredeti gondolatokkal – és egy alapvető, gondosan el nem ismert ellentmondással is. Sőt, egy erkölcsileg nagyon veszélyes végcéllal.

A könyv tézise már első olvasásra is meggyőző.

A Szilícium-völgy elpazarolta a történelem legtehetségesebb mérnöki generációját ételfutár-appokra és hirdetési algoritmusokra. Miközben az amerikai technológiai elit önelégülten épít, Kína drónrajokat fejleszt és arcfelismerő rendszereket exportál. A Nyugat – már megint – a „győztesek tévedésétől” szenved: abban a hitben él, hogy a liberális demokrácia végleg diadalmaskodott, holott a következő világháborút a szoftverek fogják eldönteni.

A kulturális diagnózis is erős: Karp meggyőzően mutatja be, hogyan semmisítette meg a hatvanas-hetvenes évek akadémiai világa a kollektív identitás fogalmát – sok esetben jogosan –, ám azt sajnos nem pótolta semmivel. A posztmodern kultúra és a piac által termelt „technológiai agnosztikusok” generációja nem elvhű pacifista: egyszerűen semmiben sem hisz igazán.

A baj pontosan itt kezdődik – méghozzá nem is egy, hanem két szinten.

Az első szint az összeférhetetlenség

Karp egy védelmi vállalat vezérigazgatójaként jegyzi a könyvet – egy olyan cég vezetőjeként, amely az amerikai hadsereg és hírszerzés egyik legfontosabb szoftverszállítója. Amikor azzal érvel, hogy a technológiai szektor köteles az állami védelmi igényeket kiszolgálni, ezt nem egy elvont moralista mondja. Olyasvalaki mondja, akinek egyébként pontosan ez az üzleti modellje. A könyv ezt az összeférhetetlenséget egyetlen lábjegyzettel sem jelöli meg, hanem elegánsan elhallgatja.

A második szint – maga a végcél

Karp a Szilícium-völgy szétforgácsoltságát hibának látja. Sok kis cég, sok különböző irány, sok „felesleges” projekt – ezt az állapotot akarja felváltani egy összehangolt, az állam és az ipar által közösen vezérelt technológiai nagyhatalommal. A „Manhattan Project 2.0” az ő szóhasználatában romantikus nosztalgia. De pontosan ez a látszólagos káosz – a sok párhuzamos fejlesztés, a szétszórt irányok, a „felesleges” ételfutár-appok melletti autonóm AI-projektek – az, ami megvédi az egyént az egyetlen hatalmi centrum zsarnokságától.

Ha minden technológiai kapacitás egyetlen állami-ipari szövetség köré szerveződik, az nem „technológiai köztársaság”. Az egy digitális Leviatán.

(A Leviatán Thomas Hobbes 1651-es filozófiai műve, egyben a politikafilozófia egyik leghíresebb fogalma. Hobbes érvelése szerint az emberek természeti állapotukban egymás ellen harcolnak – ez a „mindenki háborúja mindenki ellen”. Ebből a káoszból az egyetlen kiút: mindenki önként lemond a szabadságáról, és átadja hatalmát egy „szuverénnek”, az államnak. Ez a szuverén a Leviatán: egy mindent elnyelő, mindenható hatalmi struktúra, amely cserébe rendet és biztonságot garantál. A névadás az Ószövetségből jön: a Leviatán egy hatalmas tengeri szörny, amellyel szemben az ember tehetetlen.)

Az igazi veszély ugyanis nem az, hogy az mesterséges intelligenciát (továbbiakban: MI) ételfutárra pazaroljuk.

Az igazi veszély az, hogy az MI egyetlen kézben összpontosul – legyen az Kína, Oroszország, vagy épp egy „jóindulatú” nyugati állami-ipari komplexum, a Palantirrel az élén. A történelem minden nagy totalitárius rendszere azzal kezdődött, hogy a kollektív célt fölébe helyezte az egyénnek. Karp ezt a csapdát nem látja – vagy nem akarja látni.

A „Manhattan Project 2.0” felszólítás ráadásul morálisan is terhelt örökség. Az eredeti Manhattan Project titokban készített tömegpusztító fegyvert, amelynek első bevetése 200 000 civil halálát okozta. Karp mindezt a technika és az állam sikeres szövetségének szimbólumaként idézi, mintha ez csupán egy szervezési siker lenne, nem egy máig megoldatlan erkölcsi kérdés, valódi következmények nélkül.

A könyv hallgat az autonóm fegyverrendszerek legkényesebb problémáiról is. Ki dönt a célpontokról? Milyen demokratikus kontroll alá esnek az MI-alapú halálos döntések? Karp egy mondatban elintézi: „Az ember marad felette az úr.” Ez kevés. Ez sokkal kevesebb, mint amennyit a téma megérdemel.

A Technological Republic okos könyv. A kulturális elemzés értékes, a meggyőződés visszakövetelésének igénye jogos, a Szilícium-völgy önelégültségének kritikája szükséges. De a javasolt gyógyszer, a megoldás sokkal veszélyesebb, mint maga a betegség. Egy technokratikus állami-ipari komplexum, amelyben az egyéni és vállalati autonómia a „nemzeti projekt” oltárán áldoztatik fel, nem a szabadság megmentése, hanem annak végső feladása.

Olvasd el a könyvet. De olyan szemmel, mint aki tudja: a legveszélyesebb zsarnokságok mindig a legjobb szándékkal indulnak útnak.

 

Köszönet Kalapis Rókusnak, Cérnára

 

 

Borítókép: Alexander C. Karp / Nicholas W. Zamiska: The Technological Rapublic / forrás: Facebook