|
|
Automated compression of neural network weights
Lorinc, Marián ; Sekanina, Lukáš (oponent) ; Mrázek, Vojtěch (vedoucí práce)
Convolutional Neural Networks (CNNs) have revolutionised computer vision field since their introduction. By replacing weights with convolution filters containing trainable weights, CNNs significantly reduced memory usage. However, this reduction came at the cost of increased computational resource requirements, as convolution operations are more computation intensive. Despite this, memory usage remains more energy-intensive than computation. This thesis explores whether it is possible to avoid loading weights from memory and instead functionally calculate them, thereby saving energy. To test this hypothesis, a novel weight compression algorithm was developed using Cartesian Genetic Programming. This algorithm searches for the most optimal weight compression function, aiming to enhance energy efficiency without compromising the functionality of the neural network. Experiments conducted on the LeNet-5 and MobileNetV2 architectures demonstrated that the algorithm could effectively reduce energy consumption while maintaining high model accuracy. The results showed that certain layers could benefit from weight computation, validating the potential for energy-efficient neural network implementations.
|
|
|
Evoluční návrh klasifikátoru obrazů
Koči, Martin ; Bidlo, Michal (oponent) ; Drahošová, Michaela (vedoucí práce)
Táto práca sa zaoberá evolučným návrhom klasifikátora obrazov pomocou genetického programovania, konkrétne kartézskeho genetického programovania. Práca popisuje teoretické základy strojového učenia, evolučných algoritmov a genetického programovania. Súčasťou práce je popísaný návrh programu a jeho implementácia. Ďalej sú vykonané experimenty na dvoch riešených úlohách pre klasifikáciu ručne písaných číslic a klasifikáciu obrázkov kociek pomocou, ktorých sa dá určiť miera demencie pri Parkinsonovej chorobe. Najlepšie navrhnuté riešenie pre čísla má AUC 0.95 a pre kocky 0.86. Navrhnuté riešenia sú porovnané s inými metódami, konkrétne konvolučnými neurónovými sieťami (CNN) a metódou podporných vektorov (SVM). Výsledná AUC pre klasifikáciu číslic, je pre obe CNN a aj SVM 0.99 pre kocky mala CNN výslednú AUC 0.81 a SVM 0.69. Kocky sú následne porovnané z existujúcim riešením, pri ktorom bola výsledná AUC 0.70, takže na základe výsledkov experimentov je vidieť zlepšenie pri použitej metóde v tejto práci.
|
|
|
Polymorfní samočinně testovatelné obvody
Mazuch, Martin ; Růžička, Richard (oponent) ; Sekanina, Lukáš (vedoucí práce)
Táto diplomová práca sa zaoberá problematikou návrhu samočinne testovateľných polymorfných obvodov. Pojednáva o konvenčnom návrhu spoľahlivých a samočinne kontrolovaných obvodov, predstavujúc základné techniky a metódy ich návrhu a konštrukcie. Ďalej vysvetľuje metódu kartézskeho genetického programovania pre návrh kombinačných logických obvodov, ktorá je použitá v praktickej časti práce. Takisto uvádza koncepciu polymorfných hradiel a obvodov a ich praktické využitie. Predstavené sú aj existujúce samočinne kontrolovateľné polymorfné obvody a nad konkrétnymi príkladmi je vykonaná analýza ich činnosti. Ďalej je uvedený návrh realizácie návrhového systému pre samočinne kontrolovateľné polymorfné obvody. Podľa uvedeného návrhu bola vytvorená aplikácia pre návrh obvodov a tiež aj aplikácia umožňujúca simulovanie a analýzu navrhnutých obvodov. Nad vytvoreným systémom bola vykonaná rada experimentov a získaných niekoľko zaujímavých riešení. V závere sa nachádza zhrnutie dosiahnutých výsledkov a prínos práce.
|
|
|
Evoluční návrh klasifikátoru obrazů
Koči, Martin ; Bidlo, Michal (oponent) ; Drahošová, Michaela (vedoucí práce)
Táto práca sa zaoberá evolučným návrhom klasifikátora obrazov pomocou genetického programovania, konkrétne kartézskeho genetického programovania. Práca popisuje teoretické základy strojového učenia, evolučných algoritmov a genetického programovania. Súčasťou práce je popísaný návrh programu a jeho implementácia. Ďalej sú vykonané experimenty na dvoch riešených úlohách pre klasifikáciu ručne písaných číslic a klasifikáciu obrázkov kociek pomocou, ktorých sa dá určiť miera demencie pri Parkinsonovej chorobe. Najlepšie navrhnuté riešenie pre čísla má AUC 0.95 a pre kocky 0.86. Navrhnuté riešenia sú porovnané s inými metódami, konkrétne konvolučnými neurónovými sieťami (CNN) a metódou podporných vektorov (SVM). Výsledná AUC pre klasifikáciu číslic, je pre obe CNN a aj SVM 0.99 pre kocky mala CNN výslednú AUC 0.81 a SVM 0.69. Kocky sú následne porovnané z existujúcim riešením, pri ktorom bola výsledná AUC 0.70, takže na základe výsledkov experimentov je vidieť zlepšenie pri použitej metóde v tejto práci.
|
|
|
Polymorfní samočinně testovatelné obvody
Mazuch, Martin ; Růžička, Richard (oponent) ; Sekanina, Lukáš (vedoucí práce)
Táto diplomová práca sa zaoberá problematikou návrhu samočinne testovateľných polymorfných obvodov. Pojednáva o konvenčnom návrhu spoľahlivých a samočinne kontrolovaných obvodov, predstavujúc základné techniky a metódy ich návrhu a konštrukcie. Ďalej vysvetľuje metódu kartézskeho genetického programovania pre návrh kombinačných logických obvodov, ktorá je použitá v praktickej časti práce. Takisto uvádza koncepciu polymorfných hradiel a obvodov a ich praktické využitie. Predstavené sú aj existujúce samočinne kontrolovateľné polymorfné obvody a nad konkrétnymi príkladmi je vykonaná analýza ich činnosti. Ďalej je uvedený návrh realizácie návrhového systému pre samočinne kontrolovateľné polymorfné obvody. Podľa uvedeného návrhu bola vytvorená aplikácia pre návrh obvodov a tiež aj aplikácia umožňujúca simulovanie a analýzu navrhnutých obvodov. Nad vytvoreným systémom bola vykonaná rada experimentov a získaných niekoľko zaujímavých riešení. V závere sa nachádza zhrnutie dosiahnutých výsledkov a prínos práce.
|
host ::
RSS.