Megrázó és fontos előadást tartott a TED-en Zeynep Tufekci, aki a szociális média társadalomra gyakorolt hatását kutatja. Mint elmondta, lassan az egyik legnagyobb problémánk az lesz, hogy addig finomítottuk az adatgyűjtésre épülő reklámozást a neten, hogy már magunk sem tudjuk, pontosan hogyan és mi alapján kapunk meg egy hirdetést, és hogy pontosan milyen tulajdonságainkat szúrja ki a kereső-algoritmus, ami alapján a neten megkapunk egy-egy ajánlatot.

Magyar felirat: Laza Bálint, Vida Andrea

Az okos robotok kora

Tufekci elmondja, évek óta vizsgálja, hogyan is működnek a Google és a Facebook  informatikusok által fejlesztett, de tanulás útján saját életre kelő algoritmusai, amelyek a lájkolnivalót teszik elénk minden nap. Nagy probléma azonban, hogy ezek a cégek egyszerűen nem adják ki az alkalmazások részleteit, vagy az informatikusok egyszerűen már nem is tudják, mi alapján szelektálja a célközönséget a programjuk.

Ez úgy fordulhat elő, hogy ezek a robotok csak és kizárólag óriási betáplált személyes adatmennyiséggel működnek. Ha a Facebookon valaha is elkezdtünk írni egy posztot, de azután nem raktuk ki, és kitöröltük, a rendszer akkor is elmenti azt rólunk mint adatot. Ezért, ha nem is vagyunk nagyon aktívak a neten, a nagy keresők és szociális hálók akkor is rengeteg adattal rendelkeznek rólunk.

Az adatgyűjtés célja a tech-óriásoknál nem a megfigyelés, hanem hogy minél hatékonyabb reklám-robotokat fejlesszenek. Ezek a programok ugyanis automatikusan gyűjtenek és elemeznek milliónyi személyes, sokszor érzékeny adatot, és azok alapján egyre pontosabban próbálják belőni, mi az, amit ha megmutatnak nekünk, tutira megvesszük.

Így lehetséges az, emeli ki Tufekci, hogy egy csizma képes napokig követni minket a neten keresztül, még akkor is, ha végül föladjuk, és megvesszük.

A vegasi repjegytől Trump uralmáig

Rendben, tehát a reklámok amiket kapunk, tök okosak! Nem jó ez?

Nem annyira. A kutató egy érzékletes példát hozott föl erre is. Ha valaki mondjuk hat évvel ezelőtt akart a neten repülőjegyeket eladni Las Vegasba, akkor kiszúrt egy korosztályt, célcsoportot, például a komoly megtakarítással rendelkező nyugdíjasokat.

Manapság ez másként működik. A robotok ugyanis – az USA-ban főleg vásárolt – adatok alapján automatikusan finomítják, kinek dobják fel a repülőjegyeket Facebookon. Tufekci beszámol egy esetről, amikor fejlesztők előtt arról beszélt, akár az is megtörténhet, hogy a rendszer megtanulja felismerni, hogy a mániás depressziósok a mániás szakaszban biztosan vesznek majd jegyet, így egy nagyon érzékeny adatra jöhet rá a netes posztjaink alapján. Amikor befejezte az előadást, egy fejlesztő azzal ment oda hozzá, hogy „épp ezért nem tudom kiadni a programomat.” Kiderült, a baljós példa már a gyakorlatban is létezik.

Ugyanezzel a módszerrel pedig politikát is lehet árulni. Donald Trump kampánycsapata például hírhedt arról, mennyi ilyen, érzékeny adatelemzés után legyártott „sötét posztot” használt a neten, ezek egyes felhasználóknak egyedi módon jelennek meg. Az egyik tanácsadója a kampány után arról is beszámolt, hogy a választás napján a hirdetéseik tökéletesen működtek: kitettek például pár posztot, ami otthonmaradásra biztatta a fekete szavazókat Philadelphiában, és egészen pontosan ez is történt, Donald mindenki meglepetésére simán el is vitte egész Pennsylvania államot. Hogy pontosan mi volt ezekben a célzott „sötét posztokban”, azt nem tudjuk. A Facebook nem mondja meg.

Mark Zuckerberg és a Facebook egyébként bizonyítottan tudják is, mekkora politika erőt képviselnek. 2010-ben és 2012-ben ugyanis letesztelték, milyen hatással van a választásokra, ha egy egyszerű kis posztban megmutatják, hogy szavazás lesz ma, illetve egy variánsban azt is, melyik barátod jelölte meg Facebookon, hogy fog szavazni.

A kis hirdetések a felmérések szerint mindkét alkalommal közel 150 ezer plusz szavazót vittek az urnákhoz.  A 2016-os elnökválasztást pedig végül körülbelül százezer szavazó döntötte el. Ez felveti: eldönthet-e egy választást önmagában Mark Zuckerberg? Mi történik, ha az egyik jelöltet például kizárják a Facebookról?

A Youtube-nak sosem lehetsz elég kemény

Tufekci szerint ugyan a dokumentáció alapján is nehéz megmondani, pontosan mit csinálnak a nagy szájtok algoritmusai, de az tiszta, hogy a Youtube-on például képesek radikalizálni a látogatókat azért, hogy több időt töltsenek a videómegosztón. Ha megnézünk például egy Bernie Sanders-videót, következő körben már szélsőbalos összeesküvés elméletek ajánlanak nekünk. Ennél is nagyobb probléma, hogy ha például valaki egy keményebb jobbos videóstól néz meg valamit, egy-két lépésben eljuthat a primitív antiszemita tartalmakig, és különösen akkor, ha az algoritmus úgy találja, a célpont fogékony a zsidóellenes propagandára. Így pedig valamennyivel érthetőbbé válik, hogyan radikalizálódott Nyugaton egyik napról a másikra annyi ember.

Az ilyen, könnyen radikalizáló hirdetési technikák pedig hihetetlenül olcsóak: a Google-ön kb. százezer, ilyen eszmékre fogékony ember elérése egy kísérlet szerint mindössze tízezer forintból kijött. De a szélsőjobbos szervezeteknek, autoriter kormányoknak egyenesen dollármilliói vannak e műveletekre.

Tufekci szerint ez pedig észrevétlenül egy durva jövőbe vezet át minket. George Orwell 1984-ében az alávetettek tudták, hogy el vannak nyomva, így tudtak titokban ellenállni. De mi van akkor, ha az alávetetteket egyéni, mások által nem látható üzenetekkel, célzott tartalmakkal bombázza a hatalom, és ezért azt hiszik, minden, ami történik, egyéni döntésük, és saját virtuális valóságukban meg vannak győződve a propaganda igazságtartalmáról?

A szociológus szerint ezeknek a kérdéseknek a megválaszolását a Szilícium-völgy sem halogathatja tovább. Olyan csúcstechnikát kell teremtenünk, amely tiszteletben tudja tartani emberi értékeinket is, nem csupán durván kihasználja azokat.

Különben egyszerűen áldozatul eshetünk annak a diktátornak, aki a legnagyobb összeget kínálja lájkunkért és lelkünkért.