A fotó, ami nem létezik – mégis elhitted
„Ma van a születésnapom, de senki sem köszöntött fel…” – áll egy idős férfi fotója alatt. A bácsi fáradtan, de kedvesen mosolyog a kamerába. A kommentelők szíve azonnal meglágyul: százával érkeznek a jókívánságok, virtuális ölelések, vigasztaló üzenetek. Valaki még azt is felajánlja, hogy süt neki egy tortát, és postán elküldi.
Csakhogy van egy apró probléma: ez az ember nem létezik.
A képet nem egy fényképezőgép készítette, hanem egy mesterséges intelligencia. A megható szöveget sem egy magányos ember írta, hanem egy automatizált rendszer. Az egész poszt egy olyan tartalomgyár terméke, amely nap mint nap elárasztja a Facebookot és más közösségi oldalakat érzelmekre ható, de teljesen hamis történetekkel.
És ez csak egy a több ezer hasonló bejegyzés közül.
Miért hisszük el, ami nem valós?
Jogosan merül fel a kérdés: miért hisszük el ilyen könnyen ezeket a képeket és történeteket? Miért érzünk együtt olyan „emberekkel”, akik valójában nem is léteznek?
Ezzel a kérdéssel foglalkozik egy friss tanulmány is, amely a Computers in Human Behavior tudományos folyóiratban jelent meg. A válasz röviden: mert a közösségi média és a mesterséges intelligencia együtt tökéletesen rájátszik az érzelmeinkre.
Az érzelmekre optimalizált tartalomgyártás
Az elmúlt években a generatív mesterséges intelligencia – például a ChatGPT vagy a képgeneráló algoritmusok – villámgyorsan elterjedt. Ma már teljesen hétköznapi dolog, hogy AI segítségével írunk szöveget vagy készítünk képet. A gond ott kezdődik, hogy egyre nehezebb megkülönböztetni a valódit a mesterségestől.
Közben a Facebook is megváltozott. Már nem egyszerűen ismerősök posztjait látjuk, hanem egy olyan rendszert, amely az érzelmi reakciókat jutalmazza. Minél meghatóbb, felháborítóbb vagy nosztalgikusabb egy tartalom, annál több emberhez jut el. És ebben a játékban az AI verhetetlen.
Tartalomgyárak, ahol az érzelmeid a fizetőeszközök
A háttérben úgynevezett content farmok, vagyis tartalomgyárak működnek. Ezek automatizált oldalak, amelyek futószalagon gyártják a posztokat: mesterséges intelligencia készíti a képeket, írja a szövegeket, majd időzítve publikálják őket tucatnyi, egymáshoz kísértetiesen hasonló oldalon.
A cél egyszerű:
- minél több kattintás
- minél több megosztás
- minél több reklámbevétel
Minden egyes lájk, komment és együttérző reakció pénzt jelent számukra. Így jön létre egy sajátos „érzelmi gazdaság”, ahol a jóhiszeműségünk a nyersanyag, a figyelmünk pedig a valuta.
Ezeket az oldalakat gyakran nevezik clickbait farmnak, fake content oldalnak vagy content millnek. A tartalom jellemzően felszínes, félrevezető, sokszor teljesen kitalált – de érzelmileg erős. A „Nem fogod elhinni, mi történt…” típusú címek pontosan erre építenek.
Látható jelek – mégsem vesszük észre
A kutatás egyik legérdekesebb része, hogy valódi Facebook-felhasználók valódi reakcióit elemezte, nem laboratóriumi környezetben végzett kísérleteket. A vizsgálat során közel 9000 kommentet, 146 AI által generált képet és 12 aktív Facebook-oldalt elemeztek több hónapon keresztül.
Az eredmények megdöbbentők:
a képek többségén egyértelműen felismerhetők az AI hibái – furcsa arcarányok, természetellenes fények, torz ujjak, különös textúrák. Mégis, a felhasználók jelentős része kritika nélkül valósnak fogadta el ezeket a képeket, és érzelmileg reagált rájuk.
Ez teszi igazán aggasztóvá a jelenséget: nem az, hogy az AI képes képeket generálni, hanem az, hogy mi mennyire könnyen bedőlünk nekik.
Forrás: Science Direct
Borító: ChatGPT
