Ve čtvrtek 12. června se na FIT VUT koná veřejná habilitační přednáška Kamila Malinky z Ústavu inteligentních systémů

Srdečně vás zveme na veřejnou přednášku v rámci habilitačního řízení Mgr. Kamila Malinky, Ph.D., Protection mechanisms against deepfake-based attacks / Ochrana proti útokům založeným na deepfake. Přednáška se koná 12. 6. 2025 od 14:00 v zasedací místnosti G108.

Habilitační práce navazuje na dlouhodobé výzkumné aktivity Kamila Malinky, které rozvíjí také v rámci výzkumné skupiny Security@FIT. Autor se soustředí na širší kontext problematiky kyberbezpečnosti v AI. Odborný zájem soustředí nejen na samotná technická řešení – zajímá jej chování uživatelů při používání vybraných bezpečnostních nástrojů, vzdělávání budoucích IT profesionálů nebo dopad deepfakes na hlasovou a obličejovou biometrii. Jak sám upozorňuje, podstatnou a poněkud opomíjenou stránkou problému je pochopení toho, jak uživatel s bezpečnostními nástroji pracuje. Klíčovou součástí habilitační práce je návrh detekčního mechanismu pro hlasové deepfakes, který je založen na analýze spektrogramů. V závěru se pak práce zaměřuje na problém porovnávání detektorů – je navržen podrobný rámec pro hodnocení a srovnávání detektorů hlasových deepfakeů prostřednictvím vyhodnocení 40 špičkových detektorů deepfake hlasu.

Abstrakt přednášky:

First, we will briefly introduce the issue of deepfakes and its security implications. To better understand the problem, we will present the deepfake use lifecycle and illustrate applications of protection mechanisms on top of it. Most of the discussion that has been devoted to protection mechanisms has focused on deepfake detection. The disadvantage of this approach is that if detection fails, no other protection is standing in the way of a successful attack. Detection is thus an important part of building protection, but it is not the only option. First, we will discuss various protection methods such as watermarking, legal regulations, methods for obstructing deepfake creation, forensics analysis, and methods ensuring proof. In the area of deepfake face and voice detection methods, we will summarize current approaches: detection based on artifact detection, deep learning, or based on physiological features such as eye blinking. Next, we will present and evaluate the design of our detection mechanism for voice deepfakes based on spectrogram analysis. Finally, we will focus on the problem of a detector comparison. We will propose a detailed framework for evaluating and comparing deepfake speech detectors. To showcase our framework's usage and its benefits, we then used this framework to evaluate 40 state-of-the-art deepfake speech detectors. We will demonstrate the results of extensive experiments, where we extended common approaches by testing for previously unobserved forms of manipulated speech.

Na přednášku bude možné připojit se přes MS Teams, odkaz do schůzky ZDE.