Detail publikace

RoHNAS: A Neural Architecture Search Framework with Conjoint Optimization for Adversarial Robustness and Hardware Efficiency of Convolutional and Capsule Networks

MARCHISIO, A.; MRÁZEK, V.; MASSA, A.; BUSSOLINO, B.; MARTINA, M.; SHAFIQUE, M. RoHNAS: A Neural Architecture Search Framework with Conjoint Optimization for Adversarial Robustness and Hardware Efficiency of Convolutional and Capsule Networks. IEEE Access, 2022, vol. 2022, no. 10, p. 109043-109055. ISSN: 2169-3536.
Název česky
RoHNAS: Systém pro automatický návrh architektur neuronových sítí s optimalizací pro odolnost proti útokům a hardwarovou efektivitou pro konvoluční a kapsulové sítě
Typ
článek v časopise
Jazyk
anglicky
Autoři
MARCHISIO, A.
Mrázek Vojtěch, Ing., Ph.D. (UPSY)
MASSA, A.
BUSSOLINO, B.
MARTINA, M.
Shafique Muhammad (FIT)
URL
Klíčová slova

Adversarial Robustness, Energy Efficiency, Latency, Memory, Hardware-Aware Neural Architecture Search, Evolutionary Algorithm, Deep Neural Networks, Capsule Networks

Abstrakt

Cílem algoritmů NAS (Neural Architecture Search) je najít efektivní architektury hlubokých neuronových sítí (DNN) pro danou aplikaci při daných omezujících podmínkách systému. DNN jsou výpočetně složité a také zranitelné vůči útokům. Za účelem řešení více návrhových kritérií navrhujeme RoHNAS, nový framework pro NAS, který společně optimalizuje odolnost vůči útokům protivníka a hardwarovou efektivitu DNN prováděných na specializovaných hardwarových akcelerátorech. Kromě tradičních konvolučních DNN systém RoHNAS navíc počítá se složitými typy DNN, jako jsou například kapsulové sítě. Pro zkrácení doby průzkumu RoHNAS analyzuje a vybírá vhodné hodnoty adversariální perturbace pro každou datovou sadu, kterou použije v průběhu NAS. Rozsáhlá evaluace na uzlech s více grafickými procesory (GPU) a vysoce výkonnými výpočetními jednotkami (HPC) poskytuje sadu Pareto-optimálních řešení, která využívají výhod kompromisu mezi výše diskutovanými cíli návrhu. Například Pareto-optimální DNN pro datovou sadu CIFAR-10 vykazuje 86,07 % přesnost, přičemž má energii 38,63 mJ, paměťovou náročnost 11,85 MiB a latenci 4,47 ms.

Rok
2022
Strany
109043–109055
Časopis
IEEE Access, roč. 2022, č. 10, ISSN 2169-3536
DOI
10.1109/ACCESS.2022.3214312
UT WoS
000870222300001
EID Scopus
2-s2.0-85140760282
BibTeX 
@article{BUT179460,
  author="MARCHISIO, A. and MRÁZEK, V. and MASSA, A. and BUSSOLINO, B. and MARTINA, M. and SHAFIQUE, M.",
  title="RoHNAS: A Neural Architecture Search Framework with Conjoint Optimization for Adversarial Robustness and Hardware Efficiency of Convolutional and Capsule Networks",
  journal="IEEE Access",
  year="2022",
  volume="2022",
  number="10",
  pages="109043--109055",
  doi="10.1109/ACCESS.2022.3214312",
  issn="2169-3536",
  url="https://ieeexplore.ieee.org/document/9917535"
}
Nahoru