Název:
Genetické programování s pamětí v úloze symbolické regrese
Překlad názvu:
Genetic Programming with Memory for Symbolic Regression
Autoři:
Jůza, Tadeáš ; Bidlo, Michal (oponent) ; Sekanina, Lukáš (vedoucí práce) Typ dokumentu: Diplomové práce
Rok:
2024
Jazyk:
cze
Nakladatel: Vysoké učení technické v Brně. Fakulta informačních technologií
Abstrakt: [cze][eng]
Cílem práce je ověřit možnosti rozšíření genetického programování o paměť pro řešení problémů symbolické regrese. Dále pak vytvoření sady úloh pro testování kvality takovýchto řešení. V práci je navržen způsob praktického využití takovéhoto rozšíření, a to pro potencionální snížení energetické náročnosti načítání vah konvolučních neuronových sítí. Zde místo načítání všech vah sítě z paměti je načítáno pouze malé procento vah a zbylé jsou vygenerovány za pomocí evolučně nalezené funkce. Tento způsob byl převážně testován na vahách konvolučních vrstev malé konvoluční neuronové sítě řešící úlohu klasifikace obrazu z testovací sady MNIST. Dále byla také ověřena možnost generování vah na dalších konvolučních neuronových sítích řešících složitější problémy. Podařilo se nalézt různé kompromisy mezi přesností klasifikace a velikostí paměti vah.
The purpose of this thesis is to evaluate the possibility of extending genetic programming with memory for solving symbolic regression problems. Furthermore, a set of problems for testing the quality of such solutions is developed. The thesis proposes a practical application of such an extension to reduce the energy consumption of loading weights of convolutional neural networks. Instead of retrieving all the weights of the network from external memory, only a small percentage of the weights is retrieved and the remaining ones are generated using the evolved expression. This method was primarily evaluated on reducing the set of weights of convolutional layers of a small convolutional neural network classifying the MNIST dataset. Furthermore, the possibility of generating weights was also tested on other convolutional neural networks solving more complex classification problems. The proposed method has delivered interesting tradeoffs between the classification accuracy and weight memory size.
Klíčová slova:
genetické programování; kartézské genetické programování; komprese vah; konvoluční neuronové sítě; neuronové sítě; strojové učení; symbolická regrese; cartesian genetic programming; convolutional neural network; genetic programming; machine learning; neural network; symbolic regression; weight compression
Instituce: Vysoké učení technické v Brně
(web)
Informace o dostupnosti dokumentu:
Plný text je dostupný v Digitální knihovně VUT. Původní záznam: https://hdl.handle.net/11012/248889