Detail publikace
NeurIPS 2020 EfficientQA Competition: Systems, Analyses and Lessons Learned
Fajčík Martin, Ing., Ph.D. (UPGM)
Dočekal Martin, Ing. (UPGM)
Ondřej Karel, Ing. (FIT)
Smrž Pavel, doc. RNDr., Ph.D. (UPGM)
a další
odpovídaní na otázky, QA, ODQA, efficientQA, paměť, disková paměť, rozpočet, korpusy pro vyhledávání
V tejto práci dokumentujeme soutěž EfficientQA z NeurIPS 2020. Soutěž se zaměřila na zodpovídání otázek v otevřené doméně (QA), kde systémy berou otázky v přirozeném jazyce jako vstup a vracejí odpovědi v přirozeném jazyce. Cílem soutěže bylo vybudovat systémy, které dokážou předvídat správné odpovědi a zároveň uspokojit přísné limity na diskovou paměť. Tyto paměťové rozpočty byly navrženy tak, aby motivovali soutěžící prozkoumat kompromis mezi ukládáním vyhledávacích korpusů a parametry naučených modelů. V této zprávě popisujeme motivaci a organizaci soutěže, přezkoumáváme nejlepší výsledky a analyzujeme předpovědi systému, abychom mohli vést diskusi o hodnocení kontroly kvality systémov pre odpovídaní na otázky nad otevřenou doménou.
@inproceedings{BUT175821,
author="MIN, S. and FAJČÍK, M. and DOČEKAL, M. and ONDŘEJ, K. and SMRŽ, P.",
title="NeurIPS 2020 EfficientQA Competition: Systems, Analyses and Lessons Learned",
booktitle="Proceedings of the NeurIPS 2020 Competition and Demonstration Track",
year="2021",
series="Proceedings of Machine Learning Research",
volume="133",
number="133",
pages="86--111",
publisher="Proceedings of Machine Learning Research",
address="online",
issn="2640-3498",
url="http://proceedings.mlr.press/v133/min21a/min21a.pdf"
}