Az utóbbi évek egyik legnyugtalanítóbb jelensége a tényekkel és a valósággal gyakran köszönőviszonyban sem lévő, sokszor összeesküvés-elméleteken alapuló kamuhírek (fake news) gyors terjedése.

A kamuképek, a kamuvideók, azaz a kortárs deepfake vizuális tartalmak diadalmenetének politikai, társadalmi és gazdasági folyamatok is megágyaztak. A következmény a társadalom médiába – és úgy általában a valóságba – vetett bizalmának teljes elvesztése lehet, holott alapvetően ez a technológia önmagában nem ördögtől való.

Ez sem.

A médiakorszak egyik tanulsága és egyben alapja viszont, hogy a kép, különösen a mozgókép jóval hatékonyabb az írott szövegnél, azaz egy kamukép vagy kamuvideó erősebb hatással van a fogyasztóra, jobban befolyásolja, mint a szöveg.

Kamuképeket régóta készítenek, a mostani technológia azonban jobb és folyamatosan javuló minőséget garantál. Állóképek mellett bevett módszer filmekbe, videókba, reklámokba beilleszteni főként fejeket. Teljesen legális tevékenység, ugyanakkor a mesterségesintelligencia-megoldásokkal támogatott eljárás rossz célokra, lejáratásra, megtévesztésre, félrevezetésre, személyek manipulálására is használható. És ezzel el is érkeztünk az úgynevezett deepfake világhoz.

A kamuvideók – az előállításukhoz használt technológia, a gépi mélytanulás (deep learning) és a hamisítványok (fakes) szavakból összegyúrt deepfake-ek (mélyhamisítványok) – mindinkább (teljesen) hitelesnek látszanak, olyanok, mintha a valóságot ábrázolnák. Alkotóik általában közszereplőket, hírességeket próbálnak lejáratni, zsarolni velük. Ilyen mozgóképek bárkiről, élőkről és holtakról, sőt, soha nem élt személyekről is készíthetők. Ember alig , sőt gyakran egyáltalán nem kell már hozzájuk, mert lassan mindent elvégeznek az óriási adatsorokon gyakoroltatott mesterséges intelligenciák.

Nem minden kamuvideó deepfake: láthattunk már például Nancy Pelosi házelnököt is lassítva beszélni, hogy részegnek tűnjön, a mozgóképanyagról azonban messziről lerítt, hogy gúnyos hülyéskedés. Az „igazi” mélyhamisítvány másként készül. A mélytanulást az agyi idegsejtek hálózatai inspirálják, a kép- és beszédfelismeréstől a gépi fordításig számtalan infokommunikációs területen alkalmazott mesterséges neurális hálók őket utánozzák.

A legmodernebb kamukép-gyártó technológia, a 21. századi photoshoppolás alapja a GAN (Generative Adversarial Networks, generatív ellenséges hálózatok) is ilyen: egyik résztvevője, a generátor random zajból elkészíti például egy arc másolatát, mire a másik, a megkülönböztető bírálja a képet. A generátor tanul a visszacsatolásból, javít a felismerhetetlen arcon, a megkülönböztető ismét kritizál, és mindezt elképesztő tempóban addig folytatják, amíg a kimenet (output) élethű nem lesz, és kész a tökéletes másolat, vagy a soha nem létezett celeb hiteles képe.

Az utánzatok, hamisítványok politikai szerepe egyébként nem egyértelműen negatív, mert jó célokra ugyanúgy felhasználható, mint alantasokra. A technika személyek inkognitójának megőrzésére is hasznos, például Csecsenföldön forgattak dokumentumfilmet az ott üldözött LMBTQ-közösségről, és a riportalanyok fejét, hangját soha nem létezett személyekével helyettesítették.

Minden technológia alaptermészetéből fakadóan, a dezinformációt generáló eljárások is párhuzamosan fejlődnek a hamis valóságot felismerő megoldásokkal. Sok kamuhír-generátor eleve maga is észleli a kamuhíreket, a YouTube MI-alapú osztályozója pedig egyre hatékonyabban szűri az összeesküvéselméleteket, az egészségügyi és a klímakatasztrófával kapcsolatos hazugságokat és más, potenciálisan káros tartalmakat.

Japán, szingapúri és kínai kutatók megállapították, hogy a valódi videókon látható fejek az azokon értelemszerűen nem látható folyamatos szívverés miatt különböztethetők meg a kamuvideóktól. Az MIT egyik GAN-rendszere a kamuvideók gyenge pontjára, a textúrára összpontosít, és elég jó eredményeket ér el. Minél többet tanul, annál jobb lesz, a kamuvilágot pedig lassan teljesen megszokjuk.

Frissítve: 2023. december 27.