Marinov Iván MI-detektorok megbízhatósága
A Lakmusz cikke szerint a kép- és hanganyagok hitelességének a pontos megítélése nem könnyű feladat, és ez sokszor a független sajtót is komoly kihívások elé állítja. Jelenleg ugyanis nem létezik olyan MI-detektáló eszköz, amely megbízhatóan megmondaná, hogy egy felvételt mesterséges intelligencia felhasználásával készítettek-e vagy sem.
A Mynds.ai Telexnek nyilatkozó szakértője szerint a mostani szoftverekre nem érdemes felépíteni döntéseket. Szerinte „rossz állapotban van a technológiának ez a része, ami a különböző deepfake vagy MI-generált tartalmak felismerését illeti.”
A Lakmusz mindenesetre megnézte, mit lehet tudni három népszerű detektorról.
Resemble Detect
A Resemble Detect 2B mesterséges intelligencia alapú hanggenerátor egy nagyméretű adathalmazon képzett rendszer, amely többféleképpen elemzi az audio deepfake-re utaló jeleket. Elemzéskor külön hamissági pontszámot ad a hanganyag különböző részeire, majd egy küszöbértékkel összehasonlítva dönti el, hogy a hanganyag valódi-e vagy hamis. Az oldal állítása szerint több mint 94%-os pontossággal képes azonosítani a hamisítást. Magyar nyelvre azonban nem tesztelték.
ElevenLabs és AI Speech Classifier
A deepfake hanganyagok készítéséhez használható ElevenLabs felhasználói 2023-ban több olyan, hírességek hangján megszólaltatott beszédet készítettek, amelyek sosem hangzottak el. Többek között egy kamu Joe Biden beszédben az amerikai elnök bejelentette az amerikai csapatok Ukrajnába való bevonulását. A kamudömping utáni felháborodás hatására a cég készített egy mesterséges hangokat beazonosító eszközt, az AI Speech Classifiert. Ez azonban a Lakmusz szerint nem általánosan ellenőrzi a hanganyag manipuláltságát. Csak azt állapítja meg, hogy a hangfájl az ElevenLabs segítségével készült-e.
TrueMedia
A TrueMedia egy nonprofit, független technológiai szervezet MI-alapú eszköze. A deepfake videók, fényképek és hanganyagok észlelésére létrehozott detektor célja az volt, hogy a 2024-es amerikai választások előtt az embereket ne lehessen könnyen félrevezetni deepfake tartalmakkal. Készítői azonban elismerik, hogy „egyetlen detektor sem tökéletes, mert a valószínűségek vezérlik őket” – írja a Lakmusz.
Védekezés a deepfake hamisítványok ellen
A Lakmusz – a Deutsche Welle és a Global Investigative Journalism Network tanácsait összefoglalva – bemutatja, hogyan védekezhetünk az MI segítségével manipulált hamisítványok ellen.
- Az érzelmekre ható hangfelvételek és videók esetén mindig álljunk meg egy pillanatra, gondolkodjunk és gyanakodjunk.
- Ha felmerül a manipuláció gyanúja, vizsgáljuk meg, milyen viszonyban van a felvétel tartalma a már megerősített tényekkel, mi a felvétel forrása.
- Végezzünk többlépcsős ellenőrzést, több szoftver használatával. A felismerő szoftverek eredményére valószínűségként tekintsünk, ne pedig úgy, mint egy bizonyítékra.
- Hasonlítsuk össze a gyanús felvételen elhangzó beszédet az érintett személy egy hiteles felvételével. A hasonló szavak kiejtésében hallható különbség, a természetellenes szünetek, a nem reális levegővétel-ritmus egyaránt rámutathatnak az MI nyomaira.