|
| |
|
|
Interaktivní segmentace 3D CT dat s využitím hlubokého učení
Trávníčková, Kateřina ; Hradiš, Michal (oponent) ; Kodym, Oldřich (vedoucí práce)
Tato práce se zaměřuje na možnosti využití neuronových sítí pro segmentaci CT dat s omezenými možnostmi použití anotovaných dat. Hlavním prostředkem pro zlepšení kvality segmentace kostí pomocí modelu trénovaného na malé datové sadě je zde přidání uživatelské interakce. Dále jsou zkoumány možnosti využití transfer learningu v podobě předtrénování na interaktivní segmentaci na jiné než cílové datové sadě a v podobě předtrénování na restauraci dat pomocí cílové datové sady. Všechny zkoumané metody přinášejí určité zlepšení oproti baseline metodě, kterou je použití datově specifického automatického segmentačního modelu. Při trénování s velmi malými trénovacími množinami dochází ke zvýšení hodnoty Dice skóre až o desítky procent. Praktické uplatnění těchto metod může být například v jejich použití coby nástroje pro urychlení tvorby nového segmentačního datasetu.
|
|
|
Neuronový strojový překlad pro jazykové páry s malým množstvím trénovacích dat
Filo, Denis ; Fajčík, Martin (oponent) ; Jon, Josef (vedoucí práce)
Táto práca sa zaoberá neurónovým strojovým prekladom pre tzv. low-resource jazyky. Cieľom bolo pomocou experimentov vyhodnotiť súčasné techniky a navrhnúť ich vylepšenia. Prekladové systémy v tejto práci využívali architektúru neurónových sietí transformer a boli natrénované pomocou frameworku Marian. Vybranými jazykovými pármi pre experimenty boli slovenčina s chorvátčinou a slovenčina so srbčinou. V experimentoch boli predmetom skúmania techniky transfer learning a semi-supervised learning.
|
|
|
Spoken Language Translation via Phoneme Representation of the Source Language
Polák, Peter ; Bojar, Ondřej (vedoucí práce) ; Peterek, Nino (oponent)
Revidujeme tradičný dvojkrokový prístup automatického rozpoznávania reči pre pre- klad hovoreného jazyka. Namiesto konvenčných grafémov používame fonémy ako reprezen- táciu reči v medzikroku. Počnúc akustickým modelom, revidujeme prenos medzi jazykmi a navrhujeme "coarse-to-fine" metódu, ktorá poskytuje ďalšie zrýchlenie konvergencie a zvýšenie výkonu. Ďalej skúmame prekladový model. Experimentujeme so zdrojovým a cieľovým kódovaním a zvyšujeme robustnosť pomocou fine-tuningu a transferu medzi ASR a SLT. Empiricky dokumentujeme, že toto konvenčné nastavenie s alternatívnou reprezentáciou nielen dobre funguje na štandardných testovacích súboroch, ale tiež posky- tuje kvalitné transkripty a preklady na náročných (napr. nerodilých) testovacích dátach. Náš ASR systém prekonáva komerčné ASR systémy. 1
|
|
|
Exploring Benefits of Transfer Learning in Neural Machine Translation
Kocmi, Tom ; Bojar, Ondřej (vedoucí práce) ; van Genabith, Josef (oponent) ; Cuřin, Jan (oponent)
Název práce: Zkoumání výhod přenosu znalostí v neuronovém strojovém překladu Autor: Tom Kocmi Ústav: Ústav formální a aplikované lingvistiky Vedoucí disertační práce: doc. RNDr. Ondřej Bojar, Ph.D., Ústav formální a aplikované lingvistiky Klíčová slova: transfer znalostí, strojový překlad, hluboké neuronové sítě, jazyky s málo zdroji Abstrakt: Je známo, že neuronový strojový překlad vyžaduje velké množství paralelních trénovacích vět, které obecně brání tomu, aby vynikal na párech jazyků s ne- dostatečným množstvím zdrojů. Tato práe se zabývá využitím translingválního učení na neuronových sítích jako způsobu řešení problému nedostatku zdrojů. Navrhujeme několik přístupů k transferu znalostí za účelem opětovného využití modelu předtrénovaného na jiné jazykové dvojici s velkým množstvím zdrojů. Zvláštní pozornost věnujeme jednoduchosti technik. Studujeme dva scénáře: a) když používáme předtrénovaný model bez jakýchkoli předchozích úprav jeho trénovacího procesu a b) když můžeme předem připravit prvostupňový model pro transfer znalostí pro potřeby dítěte. Pro první scénář představujeme metodu opětovného využití modelu předtrénovaného jinými výzkumníky. V druhém případě předkládáme metodu, která dosáhne ještě většího zlepšení. Kromě navrhovaných technik se zaměřujeme na hloubkovou analýzu technik transferu...
|
|
|
Implementace algoritmu hlubokého učení na embedded platformě
Ondrášek, David ; Boštík, Ondřej (oponent) ; Horák, Karel (vedoucí práce)
Bakalářská práce se zabývá implementací inferenčního modelu, založeného na metodách hlubokého učení na embedded zařízení. V první části je provedena rešerše strojového a následně hlubokého učení a některých používaných state-of-the-art metod. V další části se práce zabývá výběrem nejlepšího vhodného hardware. Na konci kapitoly jsou podle výsledků vybrány pro implementaci Jetson Nano a Raspberry Pi. Dále je vytvořen vlastní dataset s třídami pro detekci bonbonů Maoam a na jeho základě potom vytrénován pomocí transfer learning inferenční model. Ten je potom použit při sestavení vlastní aplikace na detekci objektů, která je implementována na Jetson Nano a Raspberry Pi. Výsledky jsou vyhodnoceny a jsou naznačeny další možná budoucí vylepšení.
|
|
|
Vliv pozadí a velikosti databáze na trénování neuronových sítí pro klasifikaci obrazů
Mikulec, Vojtěch ; Kolařík, Martin (oponent) ; Rajnoha, Martin (vedoucí práce)
Tato bakalářská práce se zaobírá vlivem pozadí a velikosti databáze na trénování neuronových sítí pro klasifikaci obrazů. V práci jsou popsány techniky zpracování obrazů pomocí konvolučních neuronových sítí a vliv pozadí (šumu) a velikosti databáze na trénování. Práce navrhuje metody, se kterými lze dosáhnout rychlejšího a přesnějšího procesu trénování konvolučních neuronových sítí. Pro experimentování je vybrána binární klasifikace datové množiny označených tváří z různého prostředí, jejíž pozadí je pro každý experiment modifikováno nahrazením barvou nebo ořezáním. Velikost datové množiny je pro trénování konvolučních neuronových sítí klíčová, v této práci je experimentováno s velikostí trénovací množiny, což simuluje reálný problém s nedostatkem dat při trénování konvolučních neuronových sítí pro klasifikaci obrazů.
|
|
|
Sdílení zkušeností v posilovaném učení
Mojžíš, Radek ; Šůstek, Martin (oponent) ; Hradiš, Michal (vedoucí práce)
Cílem této práce je využít metod sdílení zkušeností při učení neuronových sítí na problém posilovaného učení. Jako testovací prostředí používám staré 2D konzolové hry, jako například space invaders nebo Phoenix. Testuji vliv přeučení již natrénovaných modelů na nová podobná prostředí. Dále zkouším metody pro přenášení rysů domén. Nakonec se zaměřuji na možnosti trénování modelu na několika prostředích simultánně. Z výsledků získáme přehled o možnostech sdílení zkušeností při trénování modelů pro algoritmy posilovaného učení.
|
|
|
Posilované učení pro 3D hry
Beránek, Michal ; Herout, Adam (oponent) ; Hradiš, Michal (vedoucí práce)
Práce se zabývá učením neuronové sítě na jednoduchých úlohách v prostředí 3D střílečky Doom, zprostředkovaném výzkumnou platformou ViZDoom. Hlavním cílem je vytvoření agenta, který se učí na několika úlohách zároveň. Použitým algoritmem posilovaného učení je Rainbow, který kombinuje několik vylepšení algoritmu DQN. Pro učení na více úlohách jsem navrhnul a otestoval dvě různé architektury sítě. Jedna z nich byla úspěšná a po relativně krátké době trénování dokázal agent získat téměř 50 % z maximální možné odměny. Klíčovým prvkem úspěchu je Embedding vrstva pro parametrický popis prostředí jednotlivých úloh. Hlavním zjištěním je, že Rainbow je schopen učit se v 3D prostředí a s pomocí Embedding vrstvy i na více úlohách zároveň.
|
|
|
Zkoumání úlohy univerzálního sémantického značkování pomocí neuronových sítí, řešením jiných úloh a vícejazyčným učením
Abdou, Mostafa ; Vidová Hladká, Barbora (vedoucí práce) ; Libovický, Jindřich (oponent)
July 19, 2018 V diplomové práci prezentujeme výzkum paralelního a přenosového učení s využitím nedávno představené úlohy sémantického značkování. Zaprvé vybrané úlohy počítačového zpracování přirozeného jazyka používáme jako podpůrné úlohy pro sémantické značkování. Zadruhé se vydáváme opačným směrem, a sice sémantické značkování používáme jako podpůrnou úlohu pro tři různé úlohy počí- tačového zpracování přirozeného jazyka: tvaroslovné značkování, parsing na platformě Univer- sal Dependencies a odvozování v přirozeném jazyce. Porovnáváme úplné a částečné sdílení neu- ronových sítí spolu s učením s méně pravděpodobným nastavením negativního přenosu mezi úlo- hami. Na závěr zkoumáme vícejazyčné učení v paralelním učení. V experimentech demonstrujeme různé kombinace paralelního učení a přenosového učení. Výsledky jsou pozitivní. 1 References 2
|
host ::
RSS.