Detail publikace

Joint Energy-Based Model for Robust Speech Classification System against Dirty-Label Backdoor Poisoning Attacks

ŠŮSTEK, M.; JOSHI, S.; LI, H.; THEBAUD, T.; VILLALBA LOPEZ, J.; KHUDANPUR, S.; DEHAK, N. Joint Energy-Based Model for Robust Speech Classification System against Dirty-Label Backdoor Poisoning Attacks. Proceedings of IEEE Automatic Speech Recognition and Understanding Workshop (ASRU). Taipei: IEEE Signal Processing Society, 2023. p. 1-8. ISBN: 979-8-3503-0689-7.
Název česky
Joint Energy-Based modely pro robustní systém klasifikace řeči jako ochrana proti Dirty-Label Backdoor Poisoning útokům
Typ
článek ve sborníku konference
Jazyk
anglicky
Autoři
Šůstek Martin, Ing. (UPGM)
JOSHI, S.
LI, H.
THEBAUD, T.
VILLALBA LOPEZ, J.
Khudanpur Sanjeev
Dehak Najim
URL
Klíčová slova

joint energy-based modely, poisoning útoky, klasifikace řečových příkazů, dirty-label backdoor útoky

Abstrakt

Nově navržená technika využívá Joint Energy-based Model (JEM), který integruje jak diskriminativní, tak generativní přístupy ke zvýšení odolnosti systému proti dirty-label backdoor útokům. Náš přístup je zvláště účinný, když je spouštěč útoku krátký nebo stěží postřehnutelný. Simulujeme útok na datové sadě Speech Commands skládající se z 1s zvukových klipů. Při trénování používáme JEM k modelování náhodně vybraného okna dlouhého 610 ms. Během inference kombinujeme všech (40) možných oken s využitím generativní části JEM. Výsledný systém má mírně sníženou přesnost, ale výrazně zvýšenou robustnost, která je ukázána na více různých scénářích. Nahrazení JEM standardním diskriminačním modelem (Disc) překvapivě také vykazuje zvýšenou robustnost, avšak s menším účinkem ve srovnání s JEM, avšak zachovává přesnost klasifikace. Představujeme taktéž rozšíření motivované semi-supervised trénováním, které dále zlepšuje výsledky pro JEM, ale ne Disc. JEM může také těžit z Gaussova šumu během evaluace.

Rok
2023
Strany
1–8
Sborník
Proceedings of IEEE Automatic Speech Recognition and Understanding Workshop (ASRU)
ISBN
979-8-3503-0689-7
Vydavatel
IEEE Signal Processing Society
Místo
Taipei
DOI
10.1109/ASRU57964.2023.10389697
BibTeX 
@inproceedings{BUT187975,
  author="ŠŮSTEK, M. and JOSHI, S. and LI, H. and THEBAUD, T. and VILLALBA LOPEZ, J. and KHUDANPUR, S. and DEHAK, N.",
  title="Joint Energy-Based Model for Robust Speech Classification System against Dirty-Label Backdoor Poisoning Attacks",
  booktitle="Proceedings of IEEE Automatic Speech Recognition and Understanding Workshop (ASRU)",
  year="2023",
  pages="1--8",
  publisher="IEEE Signal Processing Society",
  address="Taipei",
  doi="10.1109/ASRU57964.2023.10389697",
  isbn="979-8-3503-0689-7",
  url="https://ieeexplore.ieee.org/document/10389697"
}
Nahoru