Detail publikace

Security Implications of Deepfakes in Face Authentication

ŠALKO, M.; FIRC, A.; MALINKA, K. Security Implications of Deepfakes in Face Authentication. In Proceedings of the ACM Symposium on Applied Computing. Avila: Association for Computing Machinery, 2024. p. 1376-1384. ISBN: 979-8-4007-0243-3.
Název česky
Bezpečnostní dopady deepfakes v oblasti rozpoznávání obličejů
Typ
článek ve sborníku konference
Jazyk
anglicky
Autoři
Šalko Milan, Ing. (UITS)
Firc Anton, Ing. (UITS)
Malinka Kamil, Mgr., Ph.D. (UITS)
URL
Klíčová slova

deepfake, rozpoznávání obličeje, biometrické systémy, strojové učení, počítačová
bezpečnost

Abstrakt

Deepfakes jsou média generovaná pomocí hlubokého učení a pro člověka jsou téměř
nerozeznatelná od skutečného obsahu. Deepfakes zaznamenaly v posledních letech
výrazný nárůst popularity. O jejich účinnosti při klamání lidí bylo napsáno mnoho
článků. Stejně, ne-li více, znepokojuje potenciální zranitelnost systémů
rozpoznávání obličeje a hlasu vůči deepfakes. Zneužití deepfakes k podvržení
automatických systémů rozpoznávání obličeje může ohrozit různé aspekty našeho
života, včetně finanční bezpečnosti a přístupu na zabezpečená místa. Tato
problematika zůstává z velké části neprozkoumaná. Tento článek proto zkoumá
technickou proveditelnost útoku na podvržené rozpoznávání obličeje. Nejprve
provedeme analýzu hrozeb, abychom pochopili, jaké případy použití rozpoznávání
obličeje umožňují provedení útoků deepfake spoofing. Na základě této analýzy
definujeme model útočníka pro tyto útoky na systémy rozpoznávání obličeje. Poté
demonstrujeme schopnost deepfakes podvrhnout dva komerční systémy rozpoznávání
obličeje. Nakonec diskutujeme o možných prostředcích, jak těmto spoofingovým
útokům zabránit.

Rok
2024
Strany
1376–1384
Sborník
Proceedings of the ACM Symposium on Applied Computing
Konference
ACM Symposium On Applied Computing, Avila, ES
ISBN
979-8-4007-0243-3
Vydavatel
Association for Computing Machinery
Místo
Avila
DOI
10.1145/3605098.3635953
UT WoS
001236958200199
EID Scopus
2-s2.0-85197667490
BibTeX 
@inproceedings{BUT188029,
  author="Milan {Šalko} and Anton {Firc} and Kamil {Malinka}",
  title="Security Implications of Deepfakes in Face Authentication",
  booktitle="Proceedings of the ACM Symposium on Applied Computing",
  year="2024",
  pages="1376--1384",
  publisher="Association for Computing Machinery",
  address="Avila",
  doi="10.1145/3605098.3635953",
  isbn="979-8-4007-0243-3",
  url="https://dl.acm.org/doi/10.1145/3605098.3635953"
}
Nahoru