Hogyan működik a deepfake-eket létrehozó mechanizmus, a GAN?

A deepfake technológiáról és a mélytanulás útján manipulált tartalmakról többször szó esett már ezen az oldalon. A Mesterséges intelligencia 2041 című könyvben Li Kaj-fu, a Világgazdasági Fórum Mesterséges Intelligencia Tanácsának társelnöke többek között azt a mechanizmust is elmagyarázza, amelynek segítségével a mélyhamisítványokat létrehozzák.

„A generatív ellenséges hálózat (azaz a GAN) két párba állított, ‘ellenséges’ mélytanuló neurális hálózat. Az első, a hamisítóhálózat, mondjuk, kutyákról készült képek milliói alapján próbál létrehozni valamit, ami valódinak tűnik, egy szintetizált kutyaképet. A másik, a detektívhálózat összehasonlítja a hamisító szintetizált kutyaképét a valódi kutyaképekkel, és megállapítja, hogy a hamisító kimenete valódi vagy hamis. A detektívhálózat visszajelzése alapján a hamisítóhálózat újratanítja magát azzal a céllal, hogy legközelebb átverje a detektívhálózatot. A hamisítóhálózat úgy állítja be magát, hogy minimalizálja a „veszteségfüggvény” elnevezésű célfüggvényt, vagyis az általa generált képek és a valódi képek közötti különbséget. Ezután a detektívhálózat újra betanítja magát, hogy a „veszteségfüggvény” maximalizálásával felismerhetővé tegye a hamisítványokat. Ez a két folyamat akár milliószor is megismétlődhet: a hamisító és a detektív egyaránt fejleszti a képességeit, amíg el nem éri az egyensúlyt”

mutatja be a rendszert Li Kaj-fu.

Mit hozhat a jövő?

A szakértő a technológiai jelenlegi állapotával kapcsolatban leírja: a GAN által generált mélyhamisítványok ma még elég kezdetlegesek, és az általuk készített deepfake-ek nagy része algoritmusokkal, sőt néha szabad szemmel is felismerhető. Hosszú távon azonban olyan „fegyverkezési verseny” indulhat be a hamisítóhálózatok és a detektívalgoritmusok között, amelyben a „győztes” kiléte csak attól függ majd, melyik félnek lesznek erősebb számítógépei.

Li Kaj-fu szerint nagyon hosszú távon a százszázalékos felismerés is lehetségessé válhat, de már egy teljesen más megközelítéssel. „Ha minden fényképezőgép vagy telefon által készített fényképet és videót blokklánc-technológiával hitelesítünk (amely garantálja, hogy az eredetit soha nem módosították), méghozzá a felvétel készítésének időpontjában. Ezután minden weboldalra feltöltött fényképen fel kell tüntetni a blokklánc-hitelesítést. Ez az eljárás ki fogja küszöbölni a mélyhamisításokat” – írja. E rendszer múködésének a feltétele az, hogy a technológiát minden eszköz használja, a blokklánc pedig elég gyors legyen az adatok nagy volumenű feldolgozásához.

Ennek a hosszú távú megoldásnak a megszületéséig Li Kaj-fu véleménye szerint a törvényhozóknak kell olyan törvényeket megalkotniuk, amelyek a rosszindulatú deepfake-ek készítőit súlyos büntetésekkel tántorítják el a visszaélésektől.

A GAN-nal kapcsolatban a szakértő azt is megjegyzi, hogy a mechanizmusról nem szabad csak a deepfake kapcsán gondolkodni. A GAN pozitív alkalmazási módjai – például fekete-fehér filmek színesítése, glaukómafelismerés, az éghajlatváltozás hatásainak előrejelzése, új gyógyszerek felfedezése – minden bizonnyal meghaladják majd a negatív alkalmazási módokat.

Illusztráció: rishi / Unsplash