Hardware acceleration of machine learning models

This dissertation topic is available for Czech studies only.

Modely strojového učení nabívají v posledních letech stále větší popularity, jelikož jsou schopny řešit složité problémy a dosáhnout lepších výsledků ve srovnání s tradičními přístupy. Trénování i inference ML modelů dnes probíhá často na úrovni software s využitím výkonných více-jádrových CPU nebo GPU. Stále častěji se však tyto nástroje stávají součástí elektronických a vestavěných systémů s cílem dosáhnout vysoké výkonnosti nebo nízké latence a spotřeby. Jedná se nejčastěji o aplikace z oblasti image processing, data mining, robotics, ambient inteligent and others.

Cílem této disertační práce je proto návrh nových technik pro automatizovaný převod vybraných modelů strojového učení (např. konvolučních neuronových sítí, rozhodovacích stromů apod.) na úroveň hardware. Jako cílová technologie se předpokládá použití programovatelných FPGA čipů, které jsou oblíbené pro svou vysokou flexibilitu a výkonnost. 

Vytvořené nástroje pro převod ML modelů by měly zohlednit požadavky cílové aplikace např. na výkonost klasifikace, latenci nebo spotřebu a vybrat nejvhodnější řešení.