Szerző: Néhány évvel ezelőtt még komoly hollywoodi stúdiókra és több milliós költségvetésre volt szükség ahhoz, hogy egy színész arcát hitelesen megváltoztassák vagy megfiatalítsák egy filmen. Ma már egy középkategóriás laptop és egy ingyenesen letölthető szoftver is elegendő ahhoz, hogy bárki bárkinek a szájába adjon olyan mondatokat, amik soha nem hangoztak el. Ez a deepfake technológia világa, ahol a mesterséges intelligencia és a mélytanulás (deep learning) összefonódása olyan vizuális és auditív csalásokat tesz lehetővé, amelyek alapjaiban rengetik meg a bizalmunkat abban, amit a saját szemünkkel látunk és a fülünkkel hallunk.
A deepfake technikai háttere
A deepfake lényege az úgynevezett generatív ellenséges hálózatok (GAN) működésében rejlik. Képzelj el két algoritmust, amelyek egymással versenyeznek: az egyik folyamatosan próbál hamis képeket létrehozni a célszemélyről, míg a másik próbálja kiszűrni a hibákat és leleplezni a hamisítványt. Ez a belső küzdelem addig tart, amíg a generátor olyan tökéletes másolatot nem készít, amit már az ellenőrző szoftver sem tud megkülönböztetni a valóditól. Ahhoz, hogy a gép megtanulja egy arc mimikáját, az árnyékok mozgását vagy a beszéd közbeni apró izomrezdüléseket, hatalmas mennyiségű fotóra és videóra van szüksége a forrásról.
Mivel az internet korában a közéleti szereplőkről és sokszor rólunk, átlagemberekről is rengeteg digitális adat érhető el, a gépnek van miből dolgoznia. A végeredmény pedig egy olyan videó, ahol a célpont hangja, arckifejezése és gesztusai kísértetiesen hasonlítanak az eredetire, miközben a tartalom teljes mértékben a hamisító vágyait tükrözi. Ez a technológia már régen túllépett a vicces mémek és a digitálisan felcserélt arcok szintjén; mára a dezinformációs hadviselés és a kiberbűnözés egyik legveszélyesebb eszközévé vált.
Veszélyben az igazság és a személyes biztonság
A deepfake legnagyobb kockázata a „hazugok osztaléka” néven ismert jelenség. Ez azt jelenti, hogy ha a társadalom tudatára ébred a hamisított videók létezésének, akkor a valódi bizonyítékokat is könnyűszerrel le lehet söpörni az asztalról azzal az indokkal, hogy az biztosan csak egy manipulált felvétel. Ez a bizonytalanság aláássa a politikai diskurzust, a bírósági eljárások hitelességét és a hírügynökségek tekintélyét is. Ha nem hihetünk a videófelvételeknek, akkor az objektív valóság darabjaira hullik, és csak a szubjektív meggyőződések maradnak.
A veszély azonban nemcsak társadalmi, hanem egyéni szinten is megjelenik. Az adathalászat új generációja már hangalapú deepfake-et használ: a csalók egy rövid hangminta alapján képesek leutánozni egy családtag vagy egy főnök hangját, hogy pénzt csaljanak ki az áldozattól. Emellett a nem hozzájáruláson alapuló pornógráfia és a digitális bosszúhadjáratok is egyre gyakoribbak, ahol ártatlan emberek arcát illesztik kompromittáló felvételekre, visszafordíthatatlan károkat okozva a hírnevükben és a mentális egészségükben.
Hogyan védekezhetünk a csalás ellen?
Bár a mesterséges intelligencia által generált hamisítványok egyre jobbak, egyelőre még vannak árulkodó jelek, ha elég figyelmesen nézzük a felvételt. Érdemes figyelni a szemek villogására, a száj körüli furcsa elmosódásokra vagy a bőr textúrájának természetellenes simaságára. Gyakran a hang és a szájmozgás közötti apró szinkronhibák is elárulhatják a manipulációt. A technológiai cégek is gőzerővel dolgoznak olyan digitális vízjeleken és detektáló szoftvereken, amelyek automatikusan jelzik, ha egy tartalom gépi beavatkozással készült.
A legfontosabb védekezés azonban a kritikus gondolkodás és a források ellenőrzése. Ha egy videó túl hihetetlennek, túlságosan sokkolónak tűnik, vagy radikálisan eltér az adott személy korábbi megnyilvánulásaitól, érdemes megvárni a hiteles források megerősítését. A jövőben a digitális írástudás részévé kell válnia annak a felismerésnek, hogy a képernyőn látott mozgókép már nem automatikusan egyenlő a valósággal. A technológia elmosta a határokat a fikció és a tények között, így a felelősség most már ránk, a tartalomfogyasztókra hárul, hogy eldöntsük, mi marad hiteles ebben az új digitális érában.
Kép forrása: Pexels.com
