Original title:
Evoluční návrh konvolučních neuronových sítí s využitím supersítě
Translated title:
Evolutionary Design of Convolutional Neural Networks Utilizing a Supernet
Authors:
Lamačka, Zbyněk ; Piňos, Michal (referee) ; Sekanina, Lukáš (advisor) Document type: Master’s theses
Year:
2024
Language:
cze Publisher:
Vysoké učení technické v Brně. Fakulta informačních technologií Abstract:
[cze][eng]
Tato práce se zabývá možnostmi automatizovaného návrhu a optimalizace konvolučních neuronových sítí (CNN) pomocí evolučních algoritmů s využitím konceptu neuroevoluce (NAS – Neural Architecture Search). NAS metody usnadňují práci architektům neuronových sítí a umožňují přístup k neuronovým sítím i lidem, kteří by se za běžných okolností k~nim nedostaly. Architektury, které vznikají automatizovanými metodami, jsou schopny překonat architektury, které byly vytvořeny zkušenými architekty. Tyto metody nejsou svázány konvenčními přístupy k návrhu, a proto mohou vznikat inovativní architektury. Cílem této práce je návrh a implementace metody neuroevoluce využívající supersíť. Koncept supersítě má za cíl proces automatického návrhu sítě zrychlit a zlevnit. Tato metoda bude vyhodnocena na základě architektur, které vygeneruje. Vyhodnocení architektur je prováděno na základě dvou kritérií – přesnost a složitost sítě. Pro vyhodnocování je použita datová sada ImageNet.
This work explores the possibilities of automated design and optimization of convolutional neural networks (CNNs) using evolutionary algorithms with the concept of Neural Architecture Search (NAS). NAS methods facilitate the work of neural network architects and allow access to neural networks by people who would not normally have access to them. Architectures that are created by automated methods are able to outperform architectures that were created by experienced architects. These methods are not bound by conventional design approaches, and therefore innovative architectures can emerge. The goal of this work is to design and implement a neuroevolutionary method using a supernetwork. The supernetwork concept aims to make the process of automatic network design faster and cheaper. This method will be evaluated based on the architectures it generates. The evaluation of the architectures considers two criteria -- accuracy and complexity of the network. The ImageNet dataset is used for the evaluation.
Keywords:
convolutional neural networks; evolutionary algorithms; neural networks; neuroevolution; supernet; evoluční algoritmy; konvoluční neuronové sítě; neuroevoluce; neuronové sítě; supersíť
Institution: Brno University of Technology
(web)
Document availability information: Fulltext is available in the Brno University of Technology Digital Library. Original record: https://hdl.handle.net/11012/248888