|
|
Implementace algoritmu hlubokého učení na embedded platformě
Ondrášek, David ; Boštík, Ondřej (oponent) ; Horák, Karel (vedoucí práce)
Bakalářská práce se zabývá implementací inferenčního modelu, založeného na metodách hlubokého učení na embedded zařízení. V první části je provedena rešerše strojového a následně hlubokého učení a některých používaných state-of-the-art metod. V další části se práce zabývá výběrem nejlepšího vhodného hardware. Na konci kapitoly jsou podle výsledků vybrány pro implementaci Jetson Nano a Raspberry Pi. Dále je vytvořen vlastní dataset s třídami pro detekci bonbonů Maoam a na jeho základě potom vytrénován pomocí transfer learning inferenční model. Ten je potom použit při sestavení vlastní aplikace na detekci objektů, která je implementována na Jetson Nano a Raspberry Pi. Výsledky jsou vyhodnoceny a jsou naznačeny další možná budoucí vylepšení.
|
|
|
Machine Learning-Based Multimodal Data Processing and Mapping in Robotics
Ligocki, Adam ; Duchoň,, František (oponent) ; Saska,, Martin (oponent) ; Žalud, Luděk (vedoucí práce)
This dissertation deals with the application of object detection neural networks on multimodal data in robotics. It aims at three topics: dataset-making, multimodal data processing, and neural network training. The most important is a proposed method that allows creating a large training dataset without an expensive and time-demanding human annotation. The method uses the neural network model trained on the RGB image data and uses multiple sensors' data to create the surrounding map and transfers the annotations of objects detected in the RGB image to the other data domain, like thermal images or point cloud data. Applying this approach, the author generated the thermal image dataset, which contained hundreds of thousands of annotated images, and used them to train the network that outperformed other models trained on human-annotated data. Moreover, the thesis also studies the robustness of object detection in various data domains during difficult weather conditions. The thesis also describes the entire multimodal data processing pipeline that the author created during his Ph.D. studies. That includes developing a unique sensory framework that employs a wide range of commonly used sensors in robotics and self-driving cars. Next, it describes the process of using the sensory framework to make a large-scale publically available open-source navigation and mapping dataset called Brno Urban Dataset. Finally, it covers the description of the custom-made software tools, the Atlas Fusion and the Robotic Template Libarary that the author used to manipulate the multimodal data.
|
|
|
Vliv pozadí a velikosti databáze na trénování neuronových sítí pro klasifikaci obrazů
Mikulec, Vojtěch ; Kolařík, Martin (oponent) ; Rajnoha, Martin (vedoucí práce)
Tato bakalářská práce se zaobírá vlivem pozadí a velikosti databáze na trénování neuronových sítí pro klasifikaci obrazů. V práci jsou popsány techniky zpracování obrazů pomocí konvolučních neuronových sítí a vliv pozadí (šumu) a velikosti databáze na trénování. Práce navrhuje metody, se kterými lze dosáhnout rychlejšího a přesnějšího procesu trénování konvolučních neuronových sítí. Pro experimentování je vybrána binární klasifikace datové množiny označených tváří z různého prostředí, jejíž pozadí je pro každý experiment modifikováno nahrazením barvou nebo ořezáním. Velikost datové množiny je pro trénování konvolučních neuronových sítí klíčová, v této práci je experimentováno s velikostí trénovací množiny, což simuluje reálný problém s nedostatkem dat při trénování konvolučních neuronových sítí pro klasifikaci obrazů.
|
|
|
Computer Vision with Active Learning
Kolář, Martin ; Machová, Kristína (oponent) ; Arridge, Simon (oponent) ; Zemčík, Pavel (vedoucí práce)
Machine Vision methods benefit from improving models, tuning trained parameters, or labeling representative data. In a series of experiments, this work validates the hypothesis that Active Learning improves the accuracy of these models. By extending the pseudolabel framework to Active Learning, this work includes a One-shot-learning approach to learn novel image categories by utilising an algorithmic recommender, an online Graphical User Interface to optimise the online Exploration/Exploitation tradeoff for tagging, and a two-step offline binary Active Learning framework to improve the quality of data used for Font Capture. By demonstrating the benefit of Active Learning in these approaches, this work contributes to the hypothesis, as well as concrete Machine Vision applications.
|
|
| |
|
|
Detekce defektů desek ve výrobě polovodičů
Jašek, Filip ; Vágner, Martin (oponent) ; Dřínovský, Jiří (vedoucí práce)
Tato diplomová práce se zabývá problematikou detekce defektů desek ve výrobě polovodičů. V rámci této práce byly zkoumány metody identifikace defektních čipů a kontroly řízení výtěžnosti při výrobě polovodičů. Práce se rovněž zabývá metodami strojového učení pro rozpoznání obrazu s cílem klasifikace defektů ve výrobním procesu. První zvolený přístup využíval k inferenci sítě ResNet18, avšak ukázalo se, že jeho přesnost nedosahovala vysokých hodnot sledovaných metrik z důvodu nedostatečného množství vstupních dat. Pro tento sledovaný dataset tak bylo vyzkoušeno použití předtrénovaných sítí využívající topologie ResNet50v2. K navýšení metrik však došlo až s použitím jiného datasetu. Pomocí ladění hyperparametrů sítě a augmentací byly zkoumány další možnosti zlepšení výkonnosti sítě. V práci se také ukázalo, že použití autoenkodérů pro redukci datového toku při inferenci může navýšit rychlost samotné inference, avšak s degradací evaluačních metrik.
|
|
|
Využití konvolučních neuronových sítí pro predikci finančního selhání podniků
Šebestová, Monika ; Chramcov, Bronislav (oponent) ; Lenort, Radim (oponent) ; Režňáková, Mária (oponent) ; Dostál, Petr (vedoucí práce)
Dizertační práce se zabývá využitím konvolučních neuronových sítí pro predikci finančního selhání podniků. Při zpracování literární rešerše byla použita bibliometrická analýza, která umožnila lepší orientaci ve vědeckých pracích zaměřených na metody a přístupy využívané v minulosti pro predikci finančního selhání podniků. Na základě získaných poznatků byl navržen model hlubokého učení s architekturou GoogLeNet, jehož vstupy tvoří finanční a makroekonomické ukazatele podniků. Modelování bylo založeno na metodě transfer learning (přenosové učení), při které je možné doladit parametry předem vytvořených sítí a urychlit tak proces učení konvoluční neuronové sítě. Výchozí soubor finančních a makroekonomických ukazatelů byl sestaven z proměnných, které byly ve vědeckých pracích nejčastěji používány v modelech predikce selhání podniků. Pro konkrétní výběr ukazatelů, z nichž je model sestaven, byly použity vhodné statistické metody. Vzhledem k tomu, že konvoluční neuronové sítě pracují nejlépe se zpracováním obrazu, byly kvantitativní hodnoty vstupní ukazatelů graficky interpretovány a zkoumáno, který typ grafického zpracování je nejvhodnější pro predikci selhání firem. Z důvodu existence nevyváženého datového souboru byl v práci analyzován vliv metody SMOTE na přesnost predikce modelu. Metoda byla použita pro navýšení počtu vzorků minoritní třídy podniků. Při modelování predikce finančního selhání bylo navrženo a testováno několik variant modelů, které se lišily podobou vstupních dat. Bylo testováno, jakým způsobem ovlivní přesnost predikce odstranění odlehlých hodnot z datového souboru, časový okamžik, ze kterého data pocházejí nebo metoda výběru prediktorů. Na výsledném modelu byly dále doladěny parametry tak, aby byl schopen klasifikovat podniky z nových reálných dat. Z provedeného výzkumu vyplynulo, že s použitím správného typu grafického zpracování vstupních dat, techniky SMOTE a vhodným nastavením parametrů, dokáží konvoluční neuronové sítě s vysokou přesností předpovídat finanční selhání podniků.
|
|
|
Korekce kalibračních modelů spektroskopie laserem indukovaného plazmatu při změně ablačních energií
Dvořák, Tomáš ; Vrábel, Jakub (oponent) ; Képeš, Erik (vedoucí práce)
Tato bakalařská práce se zabývá zkoumáním transfer learningu jakožto potenciální metody korekce kalibračních modelů na bázi vícevrstvných perceptronovových neuronových sítí v rámci spektroskopie laserem indukovaného plasmatu v důsledku změny ablačních energií. Byly navrženy a natrénovány MLP kalibrační modely pro čtyři prvky (chrom, nikl, molybden a mangan) a šest různých ablačních energií (40, 50, 60, 70, 80 a 90 mJ). Modely původně natrénované na ablační energii 50 mJ byly poté použity k predikci koncentrací ze spekter měřených na různých ablačních energiích. Následné rozdíly v měření byly řešeny aplikací transfer learningu. Výsledky naznačují, že transfer learning by mohl sloužit jako validní metoda pro korekci nepřesností vznikajících v důsledku rozdílů v ablační energii, dosahující srovnatelných výsledků s modely trénovanými od základů za zlomek času a s výrazně nižší výpočetní náročností. Tato studie však nedokázala jednoznačně prokázat konzistentní zlepšení výkonu neuronových sítí pomocí transfer learningu v kontextu LIBS. Pravděpodobně přispívajícími faktory jsou nedostatečná optimalizace použitých neuronových sítí, omezená komplexita experimentálního datasetu nebo kombinace obou. Tento výzkum navazuje na a rozšiřuje literaturu a nabízí hlubší pochopení možností a omezení transfer learningu v kontextu LIBS.
|
|
|
Detekce defektů desek ve výrobě polovodičů
Jašek, Filip ; Vágner, Martin (oponent) ; Dřínovský, Jiří (vedoucí práce)
Tato diplomová práce se zabývá problematikou detekce defektů desek ve výrobě polovodičů. V rámci této práce byly zkoumány metody identifikace defektních čipů a kontroly řízení výtěžnosti při výrobě polovodičů. Práce se rovněž zabývá metodami strojového učení pro rozpoznání obrazu s cílem klasifikace defektů ve výrobním procesu. První zvolený přístup využíval k inferenci sítě ResNet18, avšak ukázalo se, že jeho přesnost nedosahovala vysokých hodnot sledovaných metrik z důvodu nedostatečného množství vstupních dat. Pro tento sledovaný dataset tak bylo vyzkoušeno použití předtrénovaných sítí využívající topologie ResNet50v2. K navýšení metrik však došlo až s použitím jiného datasetu. Pomocí ladění hyperparametrů sítě a augmentací byly zkoumány další možnosti zlepšení výkonnosti sítě. V práci se také ukázalo, že použití autoenkodérů pro redukci datového toku při inferenci může navýšit rychlost samotné inference, avšak s degradací evaluačních metrik.
|
|
|
End-to-End Speech Recognition for Low-Resource Languages
Sokolovskii, Vladislav ; Schwarz, Petr (oponent) ; Karafiát, Martin (vedoucí práce)
The automatic speech recognition area has started to adopt end-to-end neural network solutions for creating speech recognizers. However, the data hunger nature of these types of systems allows for the creation of recognizers only for high-resource languages, such as English, Chinese or Spanish. In low-resource scenarios, some solutions which alleviate the data scarcity problem have to be developed. One of the most effective techniques for this is fine-tuning a pre-trained model. The problem with the existing approaches of fine-tuning is that the token set of target and source languages does usually differ. That is why previous multi-lingual transfer learning approaches required the output layer to be changed, or mixed tokens from different languages in the output layer, or use universal token sets, or have separate output layers per language. This is undesirable because the sharing across languages in this case latent and not controllable in the output space when the language-specific graphemes are disjoint. Therefore this work proposes to map the tokens to the common set before the beginning of the pre-training. The existing solution was a transliteration of the source language to the target one, the novel approach is romanization where the token set of the target language is romanized to match the English alphabet. Subsequently, the diacritics from the romanized hypotheses can be restored using an additional restoration model. This has the advantage of increasing sharing in the output grapheme space.
|
host ::
RSS.