Több, mint 8 millió hamis tartalom árasztja el 2025-ben a netet 

A mesterséges intelligencia által gyártott deepfake tartalom néhány év alatt technológiai kuriózumból hétköznapi fenyegetéssé vált. 2023-ban még csak félmillió manipulált kép és videó keringett a neten, idén viszont már nyolcmillióra teszik a számukat. A mennyiségi ugrás mellett a minőség is ijesztő: már nemcsak az átlagfelhasználó, hanem sokszor a szakértők is nehezen különböztetik meg a valóságot a hamistól.

A fenyegetés sokrétű. A gyermekek online kizsákmányolásától a pénzügyi csalásokon át a választási manipulációig mindenhol megjelentek a deepfake-ek. Ez már nemcsak társadalmi, hanem üzleti és nemzetbiztonsági kérdés is, amelyben a „valódi” és a „hamis” közti határ egyre inkább elmosódik.

Az Egyesült Királyságban az Accelerated Capability Environment (ACE) lett az egyik legfontosabb szervezőerő. Az ACE hozta létre a Deepfake Detection Challenge-e t, ahol több mint százötven szakértő és iparági nagyvállalat – köztük a Microsoft és az Amazon Web Services – próbált választ adni a problémára. Tizenhét fejlesztés érkezett, közülük hat jutott tovább, köztük olyan prototípusokkal, amelyek gyermekvédelemre, dezinformáció kiszűrésére vagy éppen hangmanipulációk felismerésére fókuszáltak. A tapasztalat világos: hiába a fejlett algoritmus, ha nincs mögötte valósághű, reprezentatív adatkészlet.

A kormány megbízásából az ACE az EVITA (Evaluating Video, Text and Audio) nevű detektor fejlesztésén is dolgozik. Itt a mennyiségről a minőségre helyezték a hangsúlyt: létrehozták a „gold standard” adatbázist, amely megbízható alapot ad a felismerő rendszerek tesztelésére – akár gyermekvédelmi tartalmak szűrésénél is. Az EVITA mellett a rendőrségi nyomozásokban is vizsgálják, hogyan lehet hatékonyan bevetni a technológiát, hiszen egyetlen lefoglalt telefonon akár egymillió gyanús kép is lehet.

A deepfake nem jövőbeli rémkép, hanem a jelen realitása. Egyetlen hamisított videó is elég lehet egy vezető karrierjének megtöréséhez vagy egy vállalat hitelességének megingatásához. Ki tudja majd eldönteni, mi számít valódinak és mi marad pusztán illúzió?