„Ještě pořád jsme se bohužel nedostali do nejhoršího bodu.“ Rozhovor s Antonem Fircem, vítězem Ceny Josepha Fouriera

Letošním držitelem 3. místa Ceny Josepha Fouriera je doktorand FIT VUT Anton Firc. Ve svém výzkumu se věnuje bezpečnostním dopadům hlasových deepfakes. Jde o problematiku, která se týká většiny z nás, zjednodušeně řečeno každého, kdo pracuje na počítači či mobilním telefonu s připojením k internetu. Důvodem je i fakt, že vytvořit syntetickou nahrávku, která je v praxi pro laika jen stěží odlišitelná od skutečného lidského hlasu, dnes teoreticky dokáže kdokoliv se základním technickým vybavením, které může mít i doma. Spolehlivá detekce deepfakes je velkou výzvou – také pro výzkum Antona Firce. Co sám vnímá jako výzkumný „oříšek“ a co jej při práci motivuje? Také na to jsme se jej zeptali.

Jak jste se k tomuto výzkumnému tématu dostal, co Vás k zájmu o něj inspirovalo?

Vše začalo v podstatě náhodou. Během magisterského studia jsem přemýšlel, jakou diplomovou práci zvolit. Věděl jsem, že se chci věnovat kyberbezpečnosti, a měl jsem vytipovaného člověka, který by mohl být odborně i lidsky dobrým vedoucím. Kamil Malinka mi nabídl vícero témat, jimiž bych se mohl zabývat, a mezi nimi byly deepfakes. Hledal jsem k nim podrobnější informace – a možnosti technologie, která, obrazně řečeno, dokáže stvořit jiného člověka, mě velmi zaujaly. Dá se říct, že jsem se v tématu našel, začalo mě to bavit. Tehdy, psal se zhruba rok 2020, šlo o neprozkoumané téma. Cokoliv jsme dělali, bylo svým způsobem nové. Přechod na doktorát byl pak už jen přirozeným krokem. Téma mě i dnes mimořádně zajímá, navíc, přiznejme si, kolem něj ve společnosti panuje svého druhu „hype“, je zde společenská poptávka.

Vraťme se na počátek Vaší práce na poli hlasových deepfakes: Bylo to už tehdy silné téma, které ve společnosti rezonovalo?

Ne. Tehdy jsme byli, zjednodušeně řečeno, napřed. Když jsme začali komunikovat náš výzkum jiným stranám, které by to mohlo zajímat – policie, banky ad. –, všichni reagovali s tím, že jde o zajímavou věc, která je však aktuálně nepálí a vlastně není problémem. My však věděli, že se to změní. A dnes nás skutečně bezpečnostní složky o to intenzivněji kontaktují s prosbou o přednášky, nástroje a podobně.

Jak dlouho podle Vás půjde o palčivé celospolečenské téma?

Ještě pořád jsme se bohužel nedostali do toho nejhoršího bodu. Tím bude automatizace a širokopásmové útoky, kdy budou hromadně automaty vyvolávat například seniorům a vydávat se třeba za vnuky v nesnázích. Tam ještě nejsme. Stav se paradoxně musí zhoršit, aby na něj reagovali intenzivně i velcí technologičtí hráči. A pak samozřejmě přijde jiný typ rizika, který nám, bezpečákům, bude motat hlavy.

Výzkumný problém a následná technická řešení jsou jedna věc, ale pak tady máme samotné uživatele a jejich chování. Je pro vás lidský faktor největším oříškem z pohledu aplikace výsledků výzkumu?

Jistá překážka to je, ale nevnímáme ji jako extrémní problém. Tento aspekt je už dlouho známý a každý, kdo „obranné metody“ vyvíjí, jde do řešení s vědomím toho, že je zde uživatel, který často není motivován chovat se bezpečně. Je to pak o hledání cest, toho, jak minimalizovat možnosti chybných uživatelských rozhodnutí. Vzdělávat uživatele má rozhodně smysl, ale řešení musí počítat i s tím, že člověk se prostě nezachová správně. Svou roli hraje například srozumitelnost předávaných informací z detekčních nástrojů, tedy jak uživatele informovat o výsledku identifikace deefake a vhodné následné aktivitě tak, aby to pro něj bylo pochopitelné a on dospěl k rozumnému rozhodnutí. Musíme totiž mít na paměti, že i sama technologie může selhat.

Za svůj výzkum jste získal třetí místo v letošním ročníku Ceny Josepha Fouriera, k čemuž Vám samozřejmě gratuluji. Jak tento úspěch vnímáte? Jsou ceny důležitou motivací pro výzkumníka?

Jít po oceněních nebylo a není nějakou mou speciální motivací. I tentokrát jsme prostě zkusili přihlásit se, nešlo o nic plánovaného. Za samo ocenění jsem velmi vděčný, jsem z něj nadšený. Vážím si ho jako dokladu úspěchu na celonárodní úrovni, jako uznání kvality mé vědecké práce. Ono je toho rozruchu kolem našeho výzkumu v poslední době obecně hodně, lidé u nás poptávají přednášky, veřejnost má o téma zájem. A to s sebou nese časové nároky, vždyť i půlhodinová přednáška v jiném regionu republiky znamená celodenní časovou investici. Kdyby nám to společensky nedávalo smysl, tak to neděláme. Já osobně se aktuálně nacházím v bodu, kdy končím doktorát, a vědomí, že se věnujeme problému, který ovlivňuje výraznou část veřejnosti, je pro mě velkou motivací v této práci pokračovat. A tou motivací je ostatně i samo fungování našeho výzkumného týmu.