Detail publikace
Machine Learning in Context of IoT/Edge Devices and LoLiPoP-IoT Project
Lojda Jakub, Ing., Ph.D. (UPSY)
Smrž Pavel, doc. RNDr., Ph.D. (UPGM)
Šimek Václav, Ing. (UPSY)
machine learning, IoT device, edge device, optimization, deployment
Modely strojového učení se tradičně nasazují v cloudu nebo na centralizovaných
serverech, aby se využily jejich výpočetní zdroje. Takové nasazení však může
snížit soukromí, vést k extra latenci, spotřebovat více energie atd. a následně
negativně ovlivnit vlastnosti aplikace, která je napájena z baterie a na zařízení
komunikujícím prostřednictvím bezdrátové sítě. Pro minimalizaci negativního
dopadu je nutné nasadit model přímo do zařízení, aby se minimalizovala energie
přenosu dat a provozovat model blíže ke zdroji dat a aplikaci a jejímu prostředí.
Tento druh nasazení však představuje náročný úkol kvůli velmi omezeným zdrojům,
které jsou v obdobných zařízeních a aplikacích k dispozici. Mnoho lidí
a společností se s tímto náročným problémem vypořádalo po svém a navrhlo různé
způsoby a prostředky k jeho řešení. Po definování problému a oblasti našeho zájmu
poskytuje článek přehled reprezentativních aplikací, metod a prostředků, včetně
knihoven, frameworků, datových sad, zařízení atd. Následně představuje typický
pracovní postup procesu nasazení v kontextu zařízení s omezenými zdroji. Nakonec
shrnuje reprezentativní výsledky pro populární zařízení s omezenými zdroji (např.
Arduino, ARM Cortex-M, ESP32, nRF5x, Nvidia Jetson, Raspberry Pi), aby ukázal,
jak různé jevy (např. typ modelu, nastavení, kvantizace) ovlivňují výkon modelu
(např. přesnost, ztráta), metriky (např. ROC AUC, skóre F1) a výkon zařízení
(např. doba extrakce příznaků či generování výstupu, využití paměti).
@inproceedings{BUT189402,
author="Josef {Strnadel} and Jakub {Lojda} and Pavel {Smrž} and Václav {Šimek}",
title="Machine Learning in Context of IoT/Edge Devices and LoLiPoP-IoT Project",
booktitle="Proceedings of 32nd Austrian Workshop on Microelectronics (Austrochip 2024)",
year="2024",
pages="4",
publisher="Institute of Electrical and Electronics Engineers, US",
address="Vienna",
doi="10.1109/Austrochip62761.2024.10716234",
isbn="979-8-3315-1617-8",
url="https://ieeexplore.ieee.org/document/10716234"
}