Detail publikace
Implementing contextual biasing in GPU decoder for online ASR
Madikeri Srikanth (FIT)
VILLATORO-TELLO, E.
Motlíček Petr, doc. Ing., Ph.D. (UPGM)
ZULUAGA-GOMEZ, J.
PANDIA, K.
GANAPATHIRAJU, A.
real-time speech recognition, contextual adaptation, GPU decoding, finite-state transducers
Dekódování GPU výrazně zrychluje výstup předpovědí ASR. Zatímco GPU se již používají pro online ASR dekódování, následné zpracování a rescoring na GPU ne zatím řádně prošetřena. Vyhodnocování s dostupným kontextem informace mohou výrazně zlepšit předpovědi ASR. Předchozí studie prokázaly životaschopnost mřížového vyhodnocování v dekódování a vážení jazykového modelu (LM) v režimu offline a online scénáře CPU. Při dekódování GPU v reálném čase, hypotézy částečného rozpoznávání jsou vytvářeny bez generování mřížky, což dělá implementaci ovlivnění složitější. Článek navrhuje a popisuje přístup k integraci kontextové ovlivnění při dekódování GPU v reálném čase při využívání standardní Kaldi GPU dekodér. Kromě zkreslení částečného Předpovědi ASR, náš přístup také umožňuje dynamický kontext přepínání umožňující flexibilní vyhodnocování každého segmentu řeči přímo na GPU. Kód je veřejně uvolněn1 a testován pomocí open-source testovací sady.
@inproceedings{BUT187754,
author="NIGMATULINA, I. and MADIKERI, S. and VILLATORO-TELLO, E. and MOTLÍČEK, P. and ZULUAGA-GOMEZ, J. and PANDIA, K. and GANAPATHIRAJU, A.",
title="Implementing contextual biasing in GPU decoder for online ASR",
booktitle="Proceedings of the Annual Conference of International Speech Communication Association, INTERSPEECH",
year="2023",
journal="Proceedings of Interspeech",
volume="2023",
number="8",
pages="4494--4498",
publisher="International Speech Communication Association",
address="Dublin",
doi="10.21437/Interspeech.2023-2449",
issn="1990-9772",
url="https://www.isca-archive.org/interspeech_2023/nigmatulina23_interspeech.html"
}