Detail publikace

GPU-Accelerated Forward-Backward Algorithm with Application to Lattice-Free MMI

ONDEL YANG, L.; LAM-YEE-MUI, L.; KOCOUR, M.; CORRO, C.; BURGET, L. GPU-Accelerated Forward-Backward Algorithm with Application to Lattice-Free MMI. In ICASSP, IEEE International Conference on Acoustics, Speech and Signal Processing - Proceedings. Singapore: IEEE Signal Processing Society, 2022. p. 8417-8421. ISBN: 978-1-6654-0540-9.
Název česky
Forward-backward algoritmus akcelerovaný na GPU s aplikací pro Lattice-Free MMI trénování
Typ
článek ve sborníku konference
Jazyk
anglicky
Autoři
Ondel Lucas Antoine Francois, Mgr., Ph.D. (SSDIT)
Lam-Yee-Mui L'ea-Marie
Kocour Martin, Ing. (UPGM)
Corro Caio Filippo
Burget Lukáš, doc. Ing., Ph.D. (UPGM)
URL
Klíčová slova

MMI bez mřížky, end-to-end ASR, jazyk Julia, dopředu-dozadu

Abstrakt

Navrhujeme vyjádřit dopředně-zpětný algoritmus pomocí operací mezi řídkými maticemi v konkrétním semiringu. Tato nová perspektiva přirozeně vede k algoritmu přívětivému pro GPU, který lze snadno implementovat v Julii nebo jakýchkoli programovacích jazycích s nativní podporou semiring algebry. Tuto novou implementaci používáme k trénování TDNN pomocí objektivní funkce LF-MMI a porovnáváme dobu trénování našeho systému s PyChainem nedávno představenou implementací C++/CUDA ztráty LF-MMI. Naše implementace je asi dvakrát rychlejší a přitom nemusíme používat žádnou aproximaci, jako je "leaky-HMM".

Rok
2022
Strany
8417–8421
Sborník
ICASSP, IEEE International Conference on Acoustics, Speech and Signal Processing - Proceedings
ISBN
978-1-6654-0540-9
Vydavatel
IEEE Signal Processing Society
Místo
Singapore
DOI
10.1109/ICASSP43922.2022.9746824
UT WoS
000864187908145
EID Scopus
2-s2.0-85130631441
BibTeX 
@inproceedings{BUT178409,
  author="Lucas Antoine Francois {Ondel} and L'ea-Marie {Lam-Yee-Mui} and Martin {Kocour} and Caio Filippo {Corro} and Lukáš {Burget}",
  title="GPU-Accelerated Forward-Backward Algorithm with Application to Lattice-Free MMI",
  booktitle="ICASSP, IEEE International Conference on Acoustics, Speech and Signal Processing - Proceedings",
  year="2022",
  pages="8417--8421",
  publisher="IEEE Signal Processing Society",
  address="Singapore",
  doi="10.1109/ICASSP43922.2022.9746824",
  isbn="978-1-6654-0540-9",
  url="https://ieeexplore.ieee.org/document/9746824"
}
Nahoru