|
|
Novel Methods for Natural Language Generation in Spoken Dialogue Systems
Dušek, Ondřej ; Jurčíček, Filip (vedoucí práce) ; Ircing, Pavel (oponent) ; Žabokrtský, Zdeněk (oponent)
Název práce: Nové metody generování promluv v dialogových systémech Autor: Ondřej Dušek Katedra: Ústav formální a aplikované lingvistiky Vedoucí práce: Ing. Mgr. Filip Jurčíček, Ph.D., Ústav formální a aplikované lingvistiky Abstrakt: Tato disertační zkoumá nové přístupy ke generování přirozeného jazyka (NLG) v hlasových dialogových systémech, tj. generování odpovědí systému pro uživa- tele. Zaměřuje se přitom na zlepšení adaptivity NLG ve třech ohledech: přeno- sitelnost mezi různými doménami, přenositelnost mezi jazyky a přizpůsobení výstupu uživateli. Ve všech ohledech dosahují naše generátory zlepšení oproti dřívějším pří- stupům: 1) Naše generátory, založené na statistických metodách (prohledávání A* s perceptronovým rerankerem a architektuře rekurentních neuronových sítí sequence-to-sequence), lze natrénovat na datech bez podrobného sémantic- kého zarovnání slov na atributy vstupní reprezentace, což dovoluje jednodušší přetrénování pro nové domény než předchozí přístupy. 2) Generátor založený na neuronových sítích dále rozšiřujeme tak, že při generování bere v potaz kontext dosavadního dialogu (tj. i uživatelův způsob vyjadřování) a vytváří tak výstup přizpůsobený uživateli. 3) Vyhodnocujeme také několik úprav systému založeného na neuronových sítích, které jsou zaměřeny na generování výstupu v...
|
|
|
Converting prose into poetry using neural networks
Gokirmak, Memduh ; Popel, Martin (vedoucí práce) ; Dušek, Ondřej (oponent)
Title: Converting Prose into Poetry with Neural Networks Author: Memduh Gokirmak Institute: Institute of Formal and Applied Linguistics Supervisor: Martin Popel, Institute of Formal and Applied Linguistics Abstract: We present here our attempts to create a system that generates poetry based on a sequence of text provided to it by a user. We explore the use of machine translation and language model technologies based on the neural network architecture. We use different types of data across three languages in our research, and employ and develop metrics to track the quality of the output of the systems we develop. We find that combining machine translation techniques to generate training data to this end with fine-tuning of pre-trained language models provides the most satisfactory generated poetry. Keywords: poetry machine translation language models iii
|
|
|
Dialogový systém pro hlasové vytáčení
Požár, Borek ; Dušek, Ondřej (vedoucí práce) ; Novák, Michal (oponent)
Dialogové systémy jsou dnes velmi populární, jak mezi uživateli chytrých telefonů či reproduktorů, tak mezi firmami, které je využívají ke snížení množství potřebných pra- covníků zákaznické podpory. Hlavním cílem práce je představení vlastní implementace dialogového systému pro hlasové vytáčení v češtině. Systém je implementován jako apli- kace pro mobilní telefony s operačním systémem Android, která k rozpoznání a syntéze řeči využívá služby Google. Řízení dialogu zajišťuje instance asistenta IBM Watson im- plementovaná autorem za využití služeb poskytovaných IBM. Porovnání se seznamem kontaktů provádí nově implementovaná komponenta běžící v cloudu. Ta entity rozpo- znané pomocí asistenta porovnává se seznamem kontaktů uživatele, navíc bere v úvahu i původní uživatelův vstup. Aplikace je psána v jazyce Kotlin, porovnávací komponenta v jazyce Python. Úspěšnost systému byla vyhodnocena na základě zkušeností reálných uživatelů. Celkově se 15 uživatelů pokusilo zahájit 91 hovorů, z čehož 51 se podařilo, což znamená úspěšnost 56 %. Podle zpětné vazby jsme navrhli možná vylepšení, která rovněž popisujeme. 1
|
|
|
Analýza magnetických skyrmionů pomocí metod strojového učení
Dušek, Ondřej ; Baláž, Pavel (vedoucí práce) ; Žonda, Martin (oponent)
Název práce: Analýza magnetických skyrmionů pomocí metod strojového učení Autor: Ondřej Dušek Katedra / Ústav: Katedra fyziky kondenzovaných látek Vedoucí bakalářské práce: RNDr. Pavel Baláž, Ph.D., Katedra fyziky kondenzovaných látek Abstrakt: V rámci této práce byly zkoumány fáze feromagnetických mřížkek získaných Monte Carlo simulacemi pro Heisenbergův hamiltonián pomocí metod strojového učení. Byla použita metoda nejbližších centroidů, metoda Support Vector Machines a hluboké konvoluční neuronové sítě. Byla porovnána a diskutována úspěšnost jednotlivých metod a pro parametry Heisenbergova hamiltoniánu B a D (tedy velikost magnetického pole a parametr D Dzyaloshinskii-Moriya interakce) byl sestrojen fázový diagram. U konvolučních neuronových sítí byly vyzualizovány výstupy konvolučních vrstev, což nabízí vhled do jejich procesu klasifikace, a byl proveden odhad hranice mezi klasifikovanými fázemi. Oproti již provedeným pracím byly v této práci zkoumány výrazně větší mřížky, na kterých se objevovaly zvláštní varianty zkoumaných fází, a pokročilejší metody strojového učení. Některým jednodušším metodám činila klasifikace větších mřížek obtíže, ovšem námi vytvořený finální model hluboké konvoluční neuronové sítě dokázal fáze klasifikovat velmi spolehlivě a poradil si i s mřížkami s problematickými fázemi....
|
|
|
End-to-end dialogue systems with pretrained language models
Kulhánek, Jonáš ; Dušek, Ondřej (vedoucí práce) ; Rosa, Rudolf (oponent)
Současné dialogové systémy se obvykle skládají ze samostatných komponent, které jsou z velké části vytvořeny ručně a vyžadují rozsáhlé anotace dat. Existují end-to- end trénovatelné systémy, které jsou ale méně spolehlivé a produkují méně kvalitní výs- tupy. Současné předtrénované jazykové modely založené na transformer architektuře, jako je GPT-2, přinesly do modelování jazyka značný pokrok, ale současně vyžadují velké množství textových dat, která nejsou pro běžné dialogové domény k dispozici. Proto je při trénování těchto modelů vysoké nebezpečí přeučení. Abychom tyto překážky překonali, navrhujeme nový end-to-end dialogový systém nazvaný AuGPT. Abychom efektivněji využili trénovací data, rozšiřujeme architekturu o pomocné moduly, a aby- chom zvýšili množství a rozmanitost dat, využíváme rozsáhlé augmentace dat pomocí zpětného překladu a předtrénování na více datových sadách. Náš systém vyhodnocujeme pomocí automatických metod (korpusové metriky, simulace uživatele), lidského vyhodno- cení v rámci soutěže DSTC 9 shared task challenge (kde se náš systém umístil na třetím místě z 10) a také rozsáhlé manuální analýzy chyb. Naše metoda podstatně překonává baseline na benchmarku MultiWOZ a vykazuje výsledky konkurenceschopné s nejmod- ernějšími end-to-end dialogovými systémy. 1
|
|
| |
|
|
Generátor popisků počítačových sestav a notebooků
Matějka, Jan ; Rosa, Rudolf (vedoucí práce) ; Dušek, Ondřej (oponent)
Tato práce se zabývá problémem generování souvislých dobře formovaných vět ze strukturovaných dat. Cílem práce je vytvořit nástroj, který by mohl usnadnit vytváření stručných popisků elektroniky na základě parametrů ve formě strukturovaných dat, vhodný například pro internetové obchody. První část práce seznamuje čtenáře s možnými postupy řešení. Dále práce popisuje potřebná data k řešení tohoto problému včetně způsobů získávání těchto dat a jejich struktury. Práce následně popisuje dvě vybraná řešení a jejich implementaci. Rozebírá výhody i nevýhody těchto řešení a zhodnotí texty, které nástroj generuje.
|
|
|
Metody doménové adaptace pro rozpoznávání řeči
Kratochvíl, Jonáš ; Bojar, Ondřej (vedoucí práce) ; Dušek, Ondřej (oponent)
Naše práce si jako hlavní cíl klade vytvoření kompletního systému pro au- tomatické rozpoznávání řeči pro Český jazyk. Důraz je zejména kladen na doménové adaptace našich modelů na různorodé cílové domény. Z důvodu ne- dostatku trénovacích dat pro Český jazyk nejprve představujeme dva přístupy pro přípravu dat. Jako první nasegmentujeme naše data bez použití doménového akustického modelu. Takto připravená data použijeme pro natrénování aku- stického modelu. Tento model je poté použit pro zlepšení našich segmentů a k přípravě korpusu Poslanecké sněmovny, který čítá přes 1500 hodin. Z tohoto objemu jsme již zveřejnili 444 hodin pro volné použití bez žádných licenčních restrikcí. Pro naše experimenty používáme hybridní akustický model který kombinuje Gaussian Mixture model a Hidden Markov Model s přístupy založenými na neuronových sítích. V naší práci také představíme přístup který používáme k jazykovému modelování ve kterém hierarchicky kombinujeme n-gramové modely s rekurentními neuronovými jazykovými modely které se využívají k reskórování laticí produkovaných akustickým modelem. Jako další představujeme naše ex- perimenty s dotrénováváním neuronové sítě na malém...
|
|
|
Efficient neural speech synthesis
Vainer, Jan ; Dušek, Ondřej (vedoucí práce) ; Hajič, Jan (oponent)
Modely pro práci se sekvenčními daty založené na neuronových sítích v posledních letech výrazně přispěly ke zlepšení kvality systémů pro syntézu řeči. Zatím však nebyl navržen systém, který by se dal rychle a efektivně natrénovat, byl schopen rychlé syntézy a zároveň generoval hlas ve vysoké kvalitě. V této diplomové práci představujeme systém pro syntézu řeči založený na neuronových sítích, který je schopen generovat spektrogramy v reálném čase, má nízké nároky na výpočetní kapacity a je rychle trénovatelný. Náš systém sestává ze dvou neuronových sítí- ze studenta a z učitele. Učitel je využit k aproximaci zarovnání mezi textem, z něhož má být generována mluvená řeč, a mezi korespondujícím spektrogramem. Student využívá získaná zarovnání pro efektivní syntézu spektrogramů z fonet- ické reprezentace vstupního textu. Obě sítě využívají jednoduché konvoluční vrstvy. Náš systém trénujeme na anglické datové sadě LJSpeech. Systém je schopen generovat řeč v reálném čase na běžném procesoru a je možné jej rychle natrénovat na jedné graické kartě. Kvalita řeči generované z našeho systému byla ohodnocena jako signifikantně vyšší v porovnání s konkurenčními systémy. 1
|
|
|
Multilingual speech synthesis
Nekvinda, Tomáš ; Dušek, Ondřej (vedoucí práce) ; Peterek, Nino (oponent)
Tato práce se zabývá vícejazyčnou syntézou řeči. Porovnali jsme tři odlišné modely, které jsou založeny na Tacotronu. Tyto modely se liší především v přístupu ke sdílení infor- mací a parametrů mezi jazyky. Dva z nich navazují na současné systémy pro vícejazyčnou konverzi textu na řeč. První využívá plně sdíleného enkodéru a doménově specifického klasifikátoru, který je modifikovaný za účelem odstranění informací, které závisí na syn- tetizovaném hlase, z enkodéru. Druhý model používá separátní enkodér pro každý jazyk. V této práci navrhujeme nový přístup, který kombinuje nejlepší z obou zmíněných metod. Díky technikám metaučení umožnujě efektivní sdílení parametrů při zachování flexibility. Tyto tři modely porovnáváme na dvou úlohách. Jedna z nich se zaměřuje na sdružené vícejazyčné učení na deseti jazycích a odhaluje možnosti porovnávaných modelů sdílet znalosti mezi jazyky. Druhá se zabývá syntézou vět, které obsahují výrazy z několika různých jazyků. Dokládáme, že náš nový přístup umožˇuje efektivní sdílení informace mezi jazyky a že dle subjektivního hodnocení produkuje přirozenější řeč bez častých přeřeků a chyb ve výslovnosti.
|
host ::
RSS.