Nástroje boje proti hlasovým DeepFakes

Tools To Combat Voice DeepFakes

grant

Deepfakes; umělá inteligence; počítačová bezpečnost

Deepfakes jsou novou aplikací umělé inteligence s významným dopadem na počítačovou bezpečnost. Jejich tvorba je stále snazší než kdykoli předtím a tyto nástroje lze využít k oklamání jednotlivců i organizací, zejména v kombinaci s taktikami sociálního inženýrství, jako je phishing. Tento projekt se proto zaměřuje na pochopení možných způsobů použití a souvisejících hrozeb při zákeřném používání deepfakes se záměrem najít spolehlivé strategie pro zmírnění těchto hrozeb. Tím můžeme zajistit, aby tyto inovace byly využívány eticky a zodpovědně, a vytvořit tak udržitelnější a spravedlivější budoucnost pro všechny. Aktivity projektu jsou zaměřeny na 4 oblasti: zlepšení jádra technologie pro detekci mluvčího, vývoj technologie pro identifikaci upraveného a uměle vytvořeného hlasu, implementaci těchto technologií do systémů firmy Phonexia a vývoj standardizovaného testovaní odolnosti hlasových biometrických systému vůči zmíněným hrozbám. Testování bude zohledňovat aktuální kvalitu metod pro tvorbu deepfakes s cílem zajistit co nejvyšší robustnost systému.

Matějka Pavel, Ing., Ph.D. (UPGM) – hlavní řešitel
Hanáček Petr, doc. Dr. Ing. (UITS)
Malinka Kamil, Mgr., Ph.D. (UITS)
Plchot Oldřich, Ing., Ph.D. (UPGM)