|
|
Evoluční optimalizace konvolučních neuronových sítí
Čoupek, Vojtěch ; Mrázek, Vojtěch (oponent) ; Sekanina, Lukáš (vedoucí práce)
Práce se zabývá problematikou komprese vah neuronové sítě pomocí techniky Weight-Sharing a~optimalizací parametrů této techniky pomocí nekonvenčních optimalizačních algoritmů. Důvodem optimalizace je snížení paměťové, respektive energetické náročnosti výpočtu odezvy neuronové sítě. Cílem je navrhnout systém, který dokáže přijmout neuronovou síť a~snížit její paměťovou náročnost, a~ověřit použitelnost této metody na několika případových studiích. Práce prozkoumává využití různých optimalizačních algoritmů, dodatečnou kompresi pomocí kvantizace nad technikou Weight-Sharing a navrhuje metodu ladění výsledků kvantizace pro zlepšení přesnosti. Tyto postupy jsou nejdříve vyzkoušeny na síti Le-Net-5 a následně aplikovány na kompresi sítě MobileNet\_v2.
|
|
|
Evolutionary Design of EEG Data Classifier
Kuželová, Simona ; Jawed, Soyiba (oponent) ; Mrázek, Vojtěch (vedoucí práce)
This thesis focuses on developing an effective classifier for candidate classification based on a set of extracted Electroencephalography (EEG) signal features. To achieve this, a genetic algorithm was utilized for feature selection and optimalization of the classifier’s parameters based on five criteria: minimizing the number of features, minimizing inference time, and maximizing classification sensitivity, specificity, and accuracy. The eyes opened EEG data of 31 candidates suffering from Major Depressive Disorder (MDD) and 28 healthy candidates were used for feature extraction, with the goal of classifying candidates as either having MDD or being healthy. Two algorithms, NSGA-II and NSGA-III, were tested. The proposed algorithm operated with three criteria, but two additional criteria, sensitivity and specificity, were added. NSGA-III was more effective in this case and was used in the remaining experiments. Constraints were introduced to improve performance, and different values for the mutation and crossover probability were tried. The classifiers from the final result have an average accuracy of $91.36\%$, sensitivity of $91.82\%$, and specificity of $90.84\%$. In the final experiments most frequently used channels were F3 and C3 channels and most commonly utilized waveband was gamma waveband. Overall, this work presents effective classifiers that were obtained using the proposed algorithm, which utilizes a genetic algorithm for parameter optimization.
|
|
|
Prediktory přesnosti konvolučních neuronových sítí
Karásek, Daniel ; Mrázek, Vojtěch (oponent) ; Piňos, Michal (vedoucí práce)
Last decade has seen a great progress in research of artificial neural network. This progress is mostly consequence of possibility to train larger models than ever before through parallelisation. However researchers reached a point where pure scaling of neural networks does not lead to major improvements. This led to a more complex research of neural network architectures, which introduced new obstacles. The most significant obstacle is the need to evaluate the accuracy of many individual architectures with various hyper-parameters. In some cases even single evaluation can take up to hours on highly specialized computers. One of the methods that can be used to overcome this obstacle is neural network accuracy predictor. Predictors are a group of algorithms that focus on estimating the final validation accuracy of a neural network with no or significantly limited training. This thesis aims to review and reimplement several accuraccy predictors for convolutional neural networks classificators.
|
|
|
Analýza teplotní mapy města Brna
Kozubek, Jakub ; Hurta, Martin (oponent) ; Mrázek, Vojtěch (vedoucí práce)
Práce se zabývá analýzou teplotních dat pro oblast města Brna. Věnuje se návrhu a ověřování hypotéz pro oteplování a ochlazování částí města. Výsledkem práce jsou metody pro statistické testování a pro regresní analýzu implementované v programovacím jazyce Python, výsledky získané pomocí těchto metod a jejich následná interpretace vzhledem k původně navrženým hypotézám.
|
|
|
Vital Signs Monitoring
Kratochvíl, Pavel ; Mrázek, Vojtěch (oponent) ; Vašíček, Zdeněk (vedoucí práce)
The aim of this project is to design, implement and evaluate a vital signs monitoring system. The proposed solution is a Bluetooth Low Energy Mesh connected system that consists of four types of nodes: battery powered wearable monitoring devices collecting photoplethysmographic (PPG) data, transmitting heart rate (HR) and peripheral oxygen saturation (SpO\textsubscript{2}) information; relay nodes retransmitting the data; provisioning nodes configuring the mesh network, and end nodes publishing the collected data via an MQTT protocol. The battery powered nodes and relay nodes are implemented on nRF52 series modules by Nordic Semiconductor, while the end nodes utilize ESP32 modules made by Espressif. Analysis of the collected PPG data is achieved by forward-backward filtering using a fourth-order Chebyshev II band-pass filter, followed by smoothing using the moving average algorithm, and extraction of vital signs indicators using a custom implementation of a peak detection algorithm with a single data pass-through. With its minimal requirements on both energy supply and supporting infrastructure, the system presents a convenient solution that could be especially compelling to medical facilities with limited funding.
|
|
|
Evoluční optimalizace extraktoru příznaků klasifikátoru EEG
Ovesná, Anna ; Hurta, Martin (oponent) ; Mrázek, Vojtěch (vedoucí práce)
Tato práce se zaměřuje na optimalizaci klasifikace EEG signálu alkoholiků a kontrolních subjektů pomocí evolučních algoritmů s vícekriteriálním přístupem. Hlavním cílem je maximalizovat přesnost, senzitivitu a specificitu klasifikačního algoritmu a minimalizovat počet použitých příznaků. Práce využívá čtyři různé klasifikátory, konkrétně Support Vector Machine, k-nearest neighbors, Naive Bayes a AdaBoost. Výběr nejlepších příznaků je optimalizován pomocí tří různých evolučních přístupů, z nichž dva převádějí vícekriteriální optimalizaci na jednokriteriální pomocí váženého součtu a omezení maximálního počtu příznaků. Pareto optimální řešení nalézá algoritmus NSGA-II. Výsledky dokazují, že evoluční algoritmy v kombinaci s vhodnými klasifikátory spolehlivě rozeznají člověka se sklonem k alkoholismu od toho se zdravým vztahem k alkoholu.
|
|
|
Návrh logaritmických násobiček
Drlíčková, Alena ; Vašíček, Zdeněk (oponent) ; Mrázek, Vojtěch (vedoucí práce)
Tato práce se zabývá možnostmi vylepšení logaritmických násobiček pomocí aproximačních metod. Cílem bylo naimplementovat logaritmické násobičky podle konstrukcí popsaných v literatuře a identifikovat možnosti jejich modifikací. V rámci této práce je popsán způsob, jakým proběhla implementace obvodů násobiček a jejich částí. Jsou zde navrženy způsoby vylepšení těchto obvodů založené na výměně jejich komponent a celkové modifikaci pomocí evoluční metody. Parametry vytvořených logaritmických násobiček jsou porovnány s hodnotami dostupných aproximačních násobiček.
|
|
|
Diferenciovatelný návrh architektury neuronových sítí
Eichler, Vojtěch ; Piňos, Michal (oponent) ; Mrázek, Vojtěch (vedoucí práce)
Cílem této práce je navrhnout systém pro diferencovatelný návrh architektury neuronových sítí, který následně umožní experimentovat s návrhem různých typů neuronových sítí. Práce vychází z nové metody DARTS (Differentiable architecture search) a přináší její implementaci v knihovně TensorFlow verze 2, kde nebyla k dispozici. Následně jsou v této práci popsány experimenty s operacemi běžných konvolučních sítí, konvolučních sítí s vrstvami využívajícími aproximačních násobiček a s operacemi kombinujícími mechanismy pozornosti a konvoluce. Přínosem této práce je tedy systém pro diferencovatelný návrh architektury neuronových sítí, který umožňuje experimenty s různými vrstvami z moderních verzí knihovny TensorFlow.
|
|
|
Profilování vestavných aplikací
Koleček, František ; Mrázek, Vojtěch (oponent) ; Strnadel, Josef (vedoucí práce)
Tato práce se zabývá profilováním vestavných aplikací. Práce je zaměřená především na platformu ARM Cortex-M. Teoretická část práce obsahuje vysvětlení základních principů a pojmů z oblasti profilování a vývoje vestavných aplikací. Dále se v ní lze dočíst o existujících profilovacích metodách a nástrojích s touto problematikou spojených. Pro praktickou část je cílem práce pomocí zvolených prostředků provést profilování různých parametrů a vyhodnotit výsledky. Rozhodl jsem se implementovat knihovnu s profilovacími nástroji umožňující měřit dobu provádění a využití zásobníku. Výsledky získané pomocí této knihovny jsou v práci analyzovány výpočtem nejistoty měření.
|
|
|
Modelování akcelerátorů neuronových sítí
Klhůfek, Jan ; Sekanina, Lukáš (oponent) ; Mrázek, Vojtěch (vedoucí práce)
Cílem této diplomové práce je zaměřit se na modelování akcelerátorů neuronových sítí s HW podporou kvantizace. Práce nejprve přibližuje koncept výpočtu konvolučních neuronových sítí (CNN) a představuje kategorie různých hardwarových architektur, které slouží k jejich zpracování. Následně jsou shrnuty optimalizační techniky modelů CNN, jejichž cílem je dosáhnout efektivního zpracování na specializovaných hardwarových architekturách. Další část práce obsahuje porovnání existujících analytických nástrojů, jež slouží k odhadu výkonnostních parametrů HW při inferenci, a které jsou rozšiřitelné o implementaci podpory kvantizace. Na základě experimentálního porovnání byl pro účely této práce vybrán nástroj Timeloop. Dále je představen popis fungování tohoto nástroje spolu s návrhem a implementací jeho rozšíření o podporu kvantizace. V závěru práce jsou experimentálně otestovány důsledky různých konfigurací kvantizace na vyhodnocené parametry inference u různých hardwarových architektur.
|
host ::
RSS.