|
| |
|
|
Exploring Benefits of Transfer Learning in Neural Machine Translation
Kocmi, Tom ; Bojar, Ondřej (advisor) ; van Genabith, Josef (referee) ; Cuřin, Jan (referee)
Title: Exploring Benefits of Transfer Learning in Neural Machine Translation Author: Tom Kocmi Department: Institute of Formal and Applied Linguistics Supervisor: doc. RNDr. Ondřej Bojar, Ph.D., Institute of Formal and Applied Linguistics Keywords: transfer learning, machine translation, deep neural networks, low-resource languages Abstract: Neural machine translation is known to require large numbers of parallel train- ing sentences, which generally prevent it from excelling on low-resource lan- guage pairs. This thesis explores the use of cross-lingual transfer learning on neural networks as a way of solving the problem with the lack of resources. We propose several transfer learning approaches to reuse a model pretrained on a high-resource language pair. We pay particular attention to the simplicity of the techniques. We study two scenarios: (a) when we reuse the high-resource model without any prior modifications to its training process and (b) when we can prepare the first-stage high-resource model for transfer learning in advance. For the former scenario, we present a proof-of-concept method by reusing a model trained by other researchers. In the latter scenario, we present a method which reaches even larger improvements in translation performance. Apart from proposed techniques, we focus on an...
|
|
| |
|
|
Czech - Slav s abstinent association in the period 1908-1915
Čuřín, Jan ; Zilynskyj, Bohdan (referee) ; Ferstl, Roman (advisor)
Tématem mé diplomové práce je existence a působení Českoslovanského abstinentního svazu v letech 1908 - 1915. Na základě získaných pramenných a odborných informací se budu snažit vytvořit obraz jeho reálného působení v české společnosti v době bezprostředně předcházející vypuknutí I. světové války s krátkým časovým přesahem do válečných měsíců. Zaměřím se především na okolnosti a podmínky umožňující založení svazu v roce 1908 a na konkrétní činnost svazového aparátu v letech následujících. Cílem mé práce bude co nej podrobnější zmapování protialkoholního působení hlavních činovníků svazu, organizačních podmínek fungování svazového aparátu a vlivu společensky významných autorit na ideologické směřování svazu. Na konkrétních případech představím spolupráci přidružených uskupení se svazovým ústředím a neopomenu ani vydefinovat způsoby financování svazových aktivit či odraz jejich působení v dobovém tisku. Naopak se nebudu příliš věnovat zdravovědnému a hospodářskému vlivu fenoménu alkoholismu na zdraví a společnost obecně, neboť se jedná o úzce profilová témata spadající do tématicky jinak zaměřené práce. Těžištěm mého zájmu zůstane charakteristika fungování abstinentního svazu jako osvětového celku. V závěrečné kapitole poté předložím stručný přehled dalšího vývoje organizovaného působení abstinentních...
|
|
| |
guest ::
