Original title: Genetické programování s pamětí v úloze symbolické regrese
Translated title: Genetic Programming with Memory for Symbolic Regression
Authors: Jůza, Tadeáš ; Bidlo, Michal (referee) ; Sekanina, Lukáš (advisor)
Document type: Master’s theses
Year: 2024
Language: cze
Publisher: Vysoké učení technické v Brně. Fakulta informačních technologií
Abstract: [cze] [eng]
Cílem práce je ověřit možnosti rozšíření genetického programování o paměť pro řešení problémů symbolické regrese. Dále pak vytvoření sady úloh pro testování kvality takovýchto řešení. V práci je navržen způsob praktického využití takovéhoto rozšíření, a to pro potencionální snížení energetické náročnosti načítání vah konvolučních neuronových sítí. Zde místo načítání všech vah sítě z paměti je načítáno pouze malé procento vah a zbylé jsou vygenerovány za pomocí evolučně nalezené funkce. Tento způsob byl převážně testován na vahách konvolučních vrstev malé konvoluční neuronové sítě řešící úlohu klasifikace obrazu z testovací sady MNIST. Dále byla také ověřena možnost generování vah na dalších konvolučních neuronových sítích řešících složitější problémy. Podařilo se nalézt různé kompromisy mezi přesností klasifikace a velikostí paměti vah. The purpose of this thesis is to evaluate the possibility of extending genetic programming with memory for solving symbolic regression problems. Furthermore, a set of problems for testing the quality of such solutions is developed. The thesis proposes a practical application of such an extension to reduce the energy consumption of loading weights of convolutional neural networks. Instead of retrieving all the weights of the network from external memory, only a small percentage of the weights is retrieved and the remaining ones are generated using the evolved expression. This method was primarily evaluated on reducing the set of weights of convolutional layers of a small convolutional neural network classifying the MNIST dataset. Furthermore, the possibility of generating weights was also tested on other convolutional neural networks solving more complex classification problems. The proposed method has delivered interesting tradeoffs between the classification accuracy and weight memory size.
Keywords: cartesian genetic programming; convolutional neural network; genetic programming; machine learning; neural network; symbolic regression; weight compression; genetické programování; kartézské genetické programování; komprese vah; konvoluční neuronové sítě; neuronové sítě; strojové učení; symbolická regrese

Institution: Brno University of Technology (web)
Document availability information: Fulltext is available in the Brno University of Technology Digital Library.
Original record: https://hdl.handle.net/11012/248889

Permalink: http://www.nusl.cz/ntk/nusl-617236


The record appears in these collections:
Universities and colleges > Public universities > Brno University of Technology
Academic theses (ETDs) > Master’s theses