Jak se bránit deepfakes? Kamil Malinka z FIT prezentoval rizika zneužití AI

Ve středu 31. ledna se v rámci hospodářského výboru Poslanecké sněmovny konal seminář, který řešil problematiku bezpečnostních hrozeb umělé inteligence. Na pozvání poslance a předsedy podvýboru pro ochranu spotřebitele Patrika Nachera zde svůj expertní pohled širokému publiku ze státní, komerční i akademické sféry i zástupcům podvedených občanů prezentoval Kamil Malinka z FIT VUT. 

Hovořil o deep fake podvodech. Umělá inteligence jejich propracovanost neustále zvyšuje. "Jedná se o útoky na biometrické systémy, krádeže identity, nenávistnou propagandu a další. Umělá inteligence dává útočníkům "nové mocné nástroje", proti kterým jsme poměrně bezmocní", upřesňuje Kamil Malinka. Hlasové deepfake jsou již na tak vysoké úrovni, že sluchem nelze rozpoznat uměle vytvořený hlas od skutečného. Hlasem nějakého člověka útočník zavolá a něco požaduje. Může se zdát, že volá někdo známý ze známého čísla, ale ve skutečnosti se jedná o někoho naprosto cizího z jiného čísla a vy nebudete mít ani sebemenší podezření, že se jedná o podvrh. A takto navíc s vámi zvládne komunikovat i za tímto účelem naprogramovaný robot.  Úspěšnost takových telefonátů roste s tím, jak moc nebo málo se člověk na ně koncentruje. Při roztříštěné pozornosti a pod tlakem jsou lidé mnohem náchylnější podvodu podlehnout.

Kamil Malinka se problematice deep fakes a jejich vlivu na bezpečnost věnuje v rámci výzkumné skupiny Security@FIT. Spolu s další skupinou výzkumníků ze Speech@FIT a společností Phonexia spolupracují v rámci výzvy Ministerstva vnitra na kyberbezpečnostním výzkumu. Cílem je vyvinout nástroje, které dokáží uměle vytvořené nahrávky spolehlivě identifikovat.