Original title:
Návrh prediktorů přesnosti pro konvoluční neuronové sítě
Translated title:
Design of Accuracy Predictors for Convolutional Neural Networks
Authors:
Šmída, Šimon ; Mrázek, Vojtěch (referee) ; Sekanina, Lukáš (advisor) Document type: Bachelor's theses
Year:
2023
Language:
eng Publisher:
Vysoké učení technické v Brně. Fakulta informačních technologií Abstract:
[eng][cze]
Cieľom tejto práce je predstaviť metódu na konštrukciu prediktorov presnosti pre konvolučné neurónové siete s využitím databáz natrénovaných konvolučných neurónových sietí (NAS-Bench-101) a uplatnením techník strojového učenia ako stratégií na odhad výkonnosti. Štúdia začína popisom rôznych metód strojového učenia použitých pri budovaní prediktorov presnosti, nasledujúc preskúmaním konvolučných neurónových sietí a databáz predtrénovaných konvolučných neurónových sietí. Navrhovaná metóda spočíva vo výbere vhodnej úlohy pre konvolučných neurónových sietí (klasifikácia obrázkov), zostavení dátovej sady, definovaní relevantných príznakov ako vstup prediktorov a vo výbere piatich metód strojového učenia na trénovanie prediktorov. S využitím existujúcich knižníc sú prediktory presnosti implementované, natrénované a experimentálne overené na posúdenie ich funkčnosti a výkonnosti. Výsledky sú dôkladne ohodnotené, validované a poskytujú pohľad do efektívnosti navrhovanej metódy a potenciál ďalšieho vylepšenia v oblasti predpovedania presnosti konvolučných neurónových sietí.
The aim of this thesis is to present a method of constructing accuracy predictors for convolutional neural networks (CNNs) by leveraging databases of trained CNNs (NAS-Bench-101) and employing machine learning (ML) techniques as performance estimation strategies. The study begins with a description of various ML methods used in building CNN accuracy predictors, followed by an in-depth examination of CNNs and databases of pre-trained CNNs. The proposed method involves selecting a suitable task for the CNNs (image classification), assembling a dataset, defining relevant features for the predictor input, and choosing five ML methods for training the predictors. Using existing libraries, the accuracy predictors are implemented, trained, and experimentally validated to assess their functionality and performance. The results are thoroughly evaluated, providing insights into the effectiveness of the proposed method and the potential for further refinement in the field of CNN accuracy prediction.
Keywords:
konvolučné neurónové siete; prediktory presnosti; stratégie odhadu výkonnosti; vyhľadávanie architektúr neurónových sietí; accuracy predictors; convolutional neural networks; neural architecture search; performance estimation strategy
Institution: Brno University of Technology
(web)
Document availability information: Fulltext is available in the Brno University of Technology Digital Library. Original record: http://hdl.handle.net/11012/210449