Mi a mesterséges intelligencia, mik azok az algoritmusok, mi a digitalitás?[1] Ezekről a dolgokról, miközben egyre inkább részei mindennapjainknak, a legtöbben hozzávetőleges, közvetített képekkel rendelkezünk. Nekem is a Hévíz folyóirat jelen körkérdését – „Milyen irodalommal álmodnak az androidok és az algoritmusok?” – ihlető Philip K. Dick regény (Álmodnak-e az androidok elektronikus bárányokkal?), az abból készült film (Szárnyas fejvadász), az Asimov-regények, a cyberpunk irodalom, a Mátrix jut először eszembe róluk. Ez a felismerés önmagában még trivialitás, hisz a szexualitástól az aktuálpolitikáig mindenhez kultúrán keresztül férünk hozzá. De úgy sejtem, mégis fontos, mert
a digitalitáshoz való hozzáférésünket olyan korábbi fantáziáink határozzák meg, amelyek nagyon sajátos vakfoltokhoz vezetnek-vezethetnek, és részben védtelenné tesznek bennünket.
Ha a digitalitásra mint a világ tárgyainak, jelenségeinek meghatározott csoportosítására, szervezésére, egy sajátos (gondolati és gyakorlati) tevékenységfajtára tekintünk, akkor élhetünk a feltételezéssel, hogy
a digitalitás nem késő 20. századi jelenség. Vagyis amit ma „digitalitásként” értünk, az valójában mindig is velünk lévő eljárások együttese.
A digitális számítás és a kód sajátosságát, az információ elkülöníthető jelekre bonthatóságát van, aki az ABC vagy az algebra szimbolikus jelrendszer-logikájában véli felfedezni.[2] Van, aki szerint az ipari forradalom (és a kapitalizmus) történetében oly fontos szövés és szövőgép nyugszik ugyanúgy algoritmikus alapokon, mint a kortárs internet.[3] És van, aki szerint az adatbázist már az ókori eposzok is tudtak csinálni (gondoljunk az Illiász seregszemléjére!).[4]
Ami újdonság viszont, hogy a számítógép megjelenésével a digitalitás egyre határozottabban lép fel mint a megismerés egyetemes rendezőelve – paradox módon éppen egy olyan korban, amikor elvileg mélységesen bizalmatlanok vagyunk az egyetemességre törekvő rendezőelvekkel és narratívákkal szemben. Szinte már csak az létezik, ami kódolható, algoritmikus eljárásokba szervezhető, adatbázissá tehető.
Komplex világunk megismerése, feltérképezése és belakása már nem a világteremtő romantikus költő, az igazságot feltáró filozófus vagy a társadalmi rend újszervezéséért küzdő politikus dolga, hanem számítógépes adatbázisoké, az azokból ügyesen megszervezett algoritmusoké és mesterséges intelligenciáké.
Így ahhoz, hogy meghatározzuk, milyen világot (és irodalmat) álmodnak nekünk kedves gépeink, először fel kell tennünk egy alapvetőbb kérdést: álmodnak-e egyáltalán az androidok és az algoritmusok?
Ez a cikk a Hévíz folyóirat 2023/2-es számában megjelent És lőn világosság? című esszé szerkesztett változata.
Ha a régi science fiction-ökből táplálkozó fantáziáinkra tekintünk, a válasz határozott igen. Ezekben a történetekben a számítógép és a mesterséges intelligencia általában általunk teremtett, de tőlünk idegen lény, másik, önálló szubjektum. Ebben számtalan kulturális közhely vagy mítosz működik egyszerre: a második teremtés (Isten megteremtett minket, mi pedig a gépeket), az evolúció (értelmes lények evolúciójának következő állomása egy még értelmesebb lény megteremtése), a szellemtörténet meghaladása/folytatása (az öntudat új tudatot hoz létre) és így tovább.
Jó példa erre a fantáziára Isaac Asimov egyik novellája. A végső kérdés a második teremtés körül forog, de a novellában az ember helyett a számítógép lép isteni rangra. A történet szerint az emberiség központi számítógépe (a novella 1956-os megírásakor a személyi számítógép akkor még a sci-fikben is elképzelhetetlen volt), a Multivac, évezredeken keresztül az emberi társadalommal együtt fejlődik, míg a világról összegyűjthető minden adat, és az összes élő és holt ember tudata egyesül a szuperszámítógépben. Ezután a gép tovább forog az univerzum vége, a végső entrópiamaximum beállásáig, és ezt követően is. „Időtlen ideig” rendezi tudását, majd megszólal, és az isteni szó teremtő erejével azt mondja: „LEGYEN VILÁGOSSÁG!” Asimov novellájának utolsó mondata – „És lőn világosság?” – kérdőjellel végződik. A történet zárlatában bizonytalan, hogy a számítógép és az emberiség végső egyesülése tényleg a teremtő Isten újjászületését hozza-e el.
Ma nem nehéz Asimov novellájában az internet allegóriáját felismerni, és habár új ősrobbanást még nem hozott el nekünk a világháló, saját világunkat látszólag bevilágította. Új, hálózatos ontológiák egész sora (Bruno Latourtól Barabási Albert Lászlóig) jelent meg a nyomában, mind azt állítva, hogy a világ szövedéke mint hálózat (mint internet!) átlátható, megérthető.[5]
Az egyszeri, web 2.0-ás felhasználó számára mégsem a világ beláthatósága, egy új felvilágosodás beköszönte a mindennapi tapasztalat, sokkal inkább az irányítottság és az átláthatatlanság. Nem tudjuk mi vagy kinek a döntései alapján jön létre az elénk táruló tartalom,
saját inputunkat ismerhetjük és az elénk kerülő outputot.[6] Amikor a kortárs, platformalapú interneten algoritmikusan szervezett tartalomszolgáltató felületekkel találkozunk, úgy érezhetjük, hogy a Facebook, a Spotify[7], a Youtube és társaik algoritmusa egyfajta misztikus szuperkurátor, aki/ami az oldal tartalmát személyre szabva válogatja és tálalja. Ha Gilles Deleuze kései sejtésének adunk igazat, ha valóban az ellenőrzés társadalmában élünk[8], akkor az algoritmikus átlátszatlanság, bevett nevén feketedoboz jelenség, nem a véletlen műve. Hanem a kortárs uralom leghatékonyabb bűvészkelléke: segítségével a valódi intenció – a bűvész keze – elrejthető.
De mit rejt a mágus feketedoboza, mit csinál valójában az algoritmus? Technikai szempontból programozási tudás híján nem tudok válaszolni, de programozók többsége se, hisz az algoritmusok kódja hétpecsétes titok, a cégek féltett kincse, a kapitalista versenyben őrzött piaci előny záloga. Az emberi tevékenység útját követve talán könnyebb választ találnunk:
az algoritmus a valós emberi tevékenységet transzformálja.
A fejlett tartalomrendező rendszerek a felhasználók tömegéről gyűjtött adatok alapján hozzák létre az ideális és gyakran személyre szabott „feed”-et. Persze már ez az elgondolás is részben ideologikus,
valójában nem „minket” tükröznek vissza az algoritmusok (ahogy ezt állítani szokás), hanem a mi inputjaink alapján hoznak létre az adott cég számára előnyös outputot, amelyet a hirdetők, a befektetők, a részvényesek, összefoglalva a profitlogika határoz meg.
A felhasználók valós tevékenysége, tartalomfogyasztása, reakciói stb. táplálják (feeding) az algoritmust, amely aztán ezek alapján, de már saját céljai szerint táplál minket.
De nem csak a mindennapi algoritmus, a mesterséges intelligencia is így működik: a program végtelen mennyiségű, valós emberi cselekvésből keletkező adat segítségével imitál intelligens viselkedést (például autót vezet vagy beszélget velünk), majd az interakciókból következő folyamatos önkorrekció és a növekvő adathalmaz segítségével fejlődik. A folyamat során tehát valós emberi tevékenység válik látszólag nem emberi cselekvéssé. A titkos feketedobozban – már megint – saját magunkat találtuk, de eltorzítva, adattá téve, a profitlogika szerint újraalkotva. David M. Berry szerint a folyamat nagyon hasonlít ahhoz, ahogy Marx, Marx nyomán Lukács György és a frankfurti iskola filozófusai, továbbá a marxista/marxizáló filozófia általában leírja a valós emberi tevékenység (a munka) kapitalizmusbeli áruvá válásának folyamatát, és annak következményét az elidegenedést/eldologiasodást.[9] A párhuzamot csak erősíti, hogy a nagycégek internetes platformjain az algoritmusok dolga a profitszerzés, a bevételek maximalizációjára vannak optimalizálva.
Válaszolva tehát az eredeti kérdésre: az androidok és az algoritmusok egyáltalán nem álmodnak. A mi álmainkat rabolják el.
A feladatunk tehát, hogy új álmokat álmodjunk a régiek helyére, új álmokat szőjünk arról, hogy mi a helye a digitalitásnak az emberi társadalomban.
Az eddig hivatkozott tudósok szerintem egy ilyen álomba kezdtek, a kritikai digitális humántudomány művelői megpróbálják a digitalitás kortárs valóságából kiindulva meghatározni annak egy szabadabb, igazabb, ha tetszik romantikusabb[10] jövőjét vagy legalábbis e jövő lehetőségét.
Egy ilyen jövő elképzeléséhez legelőször is – mint minden kritikai gondolkozás esetében – a digitalitás denaturalizációját kell elvégezni.
Általában (és paradox módon) a technológiát is természeti erőként szokás kezelni, külső, emberen túli hatalomként állítjuk magunk elé. Ezzel szemben a kiindulópontja minden ilyen gondolkodásnak, hogy a technológia nem emberen túli hatalom,
hanem Dougles Kellner szavaival „az emberi élet elkülöníthetetlen része, társadalmilag konstruált és konstituált.”[11] Azaz a technológia társadalmi jelenség, mindig is az emberi társadalmak részét képezte. A digitalitást megérteni csak akkor fogjuk, ha gondolatban visszahelyezzük oda, ahol van, ha megtaláljuk a helyét az emberi életet újratermelni igyekvő állandó összjátékban, a társadalmi totalitásban.
Ez a helykeresés értelemszerűen nem csak a kritikai tudomány feladata. A tudomány ugyanis egyféle hozzáférést ad a világhoz, de ez nem jelenti, hogy nincs másféle – különben minek olvasnánk például irodalmat? A művészet, és azon belül az irodalom a világ közvetítésének egyedi módja. Így ha hozzá akarunk férni a digitalizálódó kortárs valósághoz, az irodalomra is szükségünk van. A kérdés tehát nem az, hogy milyen irodalommal álmodnak az androidok és az algoritmusok, hanem hogy mi milyen irodalomról álmodjunk egy olyan korban, amelyben egyre többször az androidok és az algoritmusok álmodják a tőlünk elrabolt álmokat?
[1] – Az eredeti esszé megírásában köszönöm a segítséget, bátorítást Barna Emíliának, Bocsik Balázsnak és Vida Kamillának.
[2] – Florian CRAMER: What Is ’Post-digital?’ = Postdigital Aesthetics: Art, Computation and Design, eds. David M. BERRY, Michael DIETER, Basingstoke, Palgrave Macmillan, 2015, 12-27.
[3] – Alexander R. GALLOWAY, Weaving = Uncomputable: Play and Politics in the Long Digital Age, London, Verso, 2021.
[4] – Lev MANOVICH, The Language of New Media, USA, MIT Press, 2002, 205-206.
[5] – A hálózatos ontológiákról vagy hálózatos pesszimizmusról lásd Alexander R. GALLOWAY, The Poverty of Philosophy: Realism and Post-Fordism, Critical Inquiry, 2013/3.
[6] – A feketedobozról lásd bővebben Alexander R. GALLOWAY, Black Box = Uncomputable: Play and Politics in the Long Digital Age, London, Verso, 2021.
[7] – A zeneipari algoritmusok működéséről magyarul bővebben: TÓFALVY Tamás, BARNA Emília: Nem csak egy playlist. A humán és algoritmikus ajánlórendszerek szerepe a digitális zeneipar társadalmi egyenlőtlenségeinek újratermelésében = Kulturális iparágak, kánonok és filterbuborékok. Typotex, 2020.
[8] – Gilles DELEUZE, Utóirat az ellenőrzés társadalmához, ford. HIDEG János = Buldózer: médiaelméleti antológia, szerk. SUGÁR János, Budapest, Média Research Alapítvány, 1997, 11–17.
[9] – Lásd erről bővebben: David M. BERRY, Critical Theory and the Digital, New York, Bloomsbury Academic, 2015.
[10] – TGM után szabadon. TGM: A szocializmus mint politikai projekt halott, mint gondolat eleven│Überhaupt 50
[11] – Douglas KELLNER, Technology and Democracy: Toward A Critical Theory of Digital Technologies, Technopolitics, and Technocapitalism, Wiesbaden, Springer VS, 2021, 10. (ford. tőlem).