|
|
Zkoumání úlohy univerzálního sémantického značkování pomocí neuronových sítí, řešením jiných úloh a vícejazyčným učením
Abdou, Mostafa ; Vidová Hladká, Barbora (vedoucí práce) ; Libovický, Jindřich (oponent)
July 19, 2018 V diplomové práci prezentujeme výzkum paralelního a přenosového učení s využitím nedávno představené úlohy sémantického značkování. Zaprvé vybrané úlohy počítačového zpracování přirozeného jazyka používáme jako podpůrné úlohy pro sémantické značkování. Zadruhé se vydáváme opačným směrem, a sice sémantické značkování používáme jako podpůrnou úlohu pro tři různé úlohy počí- tačového zpracování přirozeného jazyka: tvaroslovné značkování, parsing na platformě Univer- sal Dependencies a odvozování v přirozeném jazyce. Porovnáváme úplné a částečné sdílení neu- ronových sítí spolu s učením s méně pravděpodobným nastavením negativního přenosu mezi úlo- hami. Na závěr zkoumáme vícejazyčné učení v paralelním učení. V experimentech demonstrujeme různé kombinace paralelního učení a přenosového učení. Výsledky jsou pozitivní. 1 References 2
|
|
|
Grounding Natural Language Inference on Images
Vu Trong, Hoa ; Pecina, Pavel (vedoucí práce) ; Libovický, Jindřich (oponent)
Grounding Natural Language Inference on Images Hoa Trong VU July 20, 2018 Abstract Despite the surge of research interest in problems involving linguistic and vi- sual information, exploring multimodal data for Natural Language Inference remains unexplored. Natural Language Inference, regarded as the basic step towards Natural Language Understanding, is extremely challenging due to the natural complexity of human languages. However, we believe this issue can be alleviated by using multimodal data. Given an image and its description, our proposed task is to determined whether a natural language hypothesis contra- dicts, entails or is neutral with regards to the image and its description. To address this problem, we develop a multimodal framework based on the Bilat- eral Multi-perspective Matching framework. Data is collected by mapping the SNLI dataset with the image dataset Flickr30k. The result dataset, made pub- licly available, has more than 565k instances. Experiments on this dataset show that the multimodal model outperforms the state-of-the-art textual model. References 1
|
|
|
Hluboké učení jako sociálně konstruovaná technologie
Libovický, Jindřich ; Orhan, Mehmet A. (vedoucí práce) ; Lütke Notarp, Ulrike (oponent)
Předkládaná práce se zabývá hlubokým strojovým učením a umělou inteligencí jako sociálně konstruovanou technologií. Místo obvyklého pohledu, který vysvětluje vznik hlubokého učení jako důsledek stavu technologické reality, používám Bijkerův teoretický rámec a vysvětluji vývoj prostřednictvím hodnot a zájmů relevantních sociálních skupiny (veřejnost, lidé se zvláštním zájmem o technologie, IT specialisté a výzkumníci v oblasti umělé inteligence). Pro každou z těchto skupin jsem vybral anglicky psaná online média, která se na danou skupinu zaměřují a analzyzoval jejich obsahy v~letech 2012--2016. Analýza ukázala posun od vědeckých k technologickým tématům v článcích cílených na výzkuníky v oblasti umělé inteligence a širokou veřejnost, které považují hluboké učeníza přelomovu technologii. Články cílené na čtenáře se zvláštním zájmem o technologie se umělé inteligenci podobně věnují, ale není jí zde přikládán zvláštní status. Stejně jako v případě médií cílených na IT specialisty, považují hluboké učení za technologii jako každou jinou.
|
|
|
Using Adversarial Examples in Natural Language Processing
Bělohlávek, Petr ; Žabokrtský, Zdeněk (vedoucí práce) ; Libovický, Jindřich (oponent)
Strojové učení patří v posledních letech k hojně studovaným oborům. Jednou ze zkoumaných oblastí je využívání adverzálních příkladů, což jsou uměle vytvořené příklady, které mají dva charakteristické rysy. Jsou velmi podobné skutečným trénovacím příkladům a předem natrénované modely na nich dosahují podstatně horších výsledků. Adverzální příklady již byly studovány v kontextu hlubokých konvolučních neuronových sítí, které zpra- covávají obrázky, ale jejich vlastnosti byly jen zřídka zkoumány v souvis- losti s rekurentními sítěmi zpracovávajícími přirozený jazyk. Tato práce an- alyzuje dopady využívání adverzálních příkladů na trénování rekurentních neuronových sítí. Konkrétně se práce soustředí na rekurentní sítě, které mají na vstupu posloupnost slov nebo znaků v jejich vektorových reprezentacích. Tyto reprezentace nebyly předem natrénovány. Za účelem vyhodnocení vlivu adverzálního tréninku jsou studovány různé datové sady z oblasti zpracování přirozeného jazyka.
|
|
|
Web Editor for Movie Subtitle Post-Editing
Námešný, Matúš ; Bojar, Ondřej (vedoucí práce) ; Libovický, Jindřich (oponent)
Nástroje na počítačom podporovaný preklad pomáhajú editorom prekladať rôzne dokumenty, ako napríklad titulky, rýchlejšie a efektívnejšie. Tieto nástroje môžu byť špecifické pre jednu platformu, multiplatformové alebo webové. Niektorým editorom chýbajú funkcie, ktoré by mohli byť pre niektorých prekladateľov užitočné. Napríklad vačší dôraz na posteditáciu prekladu, možnosť spolupráce na jednom dokumente alebo návrat k predošlej verzii prekladu. Táto práca nadväzuje na webový editor titulkov FilmTit a pridáva nové funkcie ako napríklad ukladanie rôznych verzií titulkov, súčasné editovanie jedného dokumentu vicarými užívateľmi, voliteľný posteditačný stĺpec, možnosť vyhľadávať a nahradiť a lepší video prehrávač. Výsledný editor poskytuje efektívnejší spôsob spolupráce na preklade titulkov.
|
|
|
Core Fidelity of Translation Options in Phrase-Based Machine Translation
Hübsch, Ondřej ; Bojar, Ondřej (vedoucí práce) ; Libovický, Jindřich (oponent)
Jeden z často používaných přístupů ve strojovém překladu je tzv. frázový překlad. Ten překládá po krátkých úsecích slov - překládaná věta je nejprve rozdělena na malé části, ty jsou přeloženy nezávisle na sobě a následně jsou seskládány zpět dohromady. Překlady těchto krátkých částí se příslušný model naučí dopředu z velkého množství dvojjazyčných vět. Cílem této práce je detekce sémantických chyb v takto naučených překladech krátkých úseků. Jedním ze zdrojů potenciálních problémů může být horší kvalita trénovacích dat; naprosto odpovídající si sady stejných vět jsou totiž velmi vzácné. Horší jsou ale chyby způsobené některými prvky českého jazyka, zejména zdvojené negace - ty totiž způsobí, že vypro- dukované překlady mohou mít zcela protikladný význam k významu vstupní věty. V práci jsme nejprve zkusili poupravit již existující přístupy k filtrování modelů (aby nemohly překládat protikladně). Tyto existující metody se ale příliš neosvědčily, proto jsme navrhli a natrénovali vlastní model založený na neuronových sítích. Ten pro daný frázový pár řekne pravděpodobnost, s jakou si myslí, že je tento pár sémanticky korektní. Vyzkoušeli jsme, nakolik pomáhá...
|
|
|
Automatizace kvantitativní obsahové analýzy
Libovický, Jindřich ; Křeček, Jan (vedoucí práce) ; Nečas, Vlastimil (oponent)
Práce je rešerší, která shrnuje základní možnosti, které poskytují dnešní jazykové technologie pro automatizaci kódování při provádění kvantitativní obsahové analýzy. Kromě velice stručného úvodu do kvantitativní obsahové analýzy jako vědecké metody, práce obsahuje přehled dostupných softwarových nástrojů a jejich porovnání s nástroji dostupnými v roce 2002. Další část práce představuje metody, které je možné využít při navrhování systému, který kódování obsahu prováděl. Jedná se jak o postupy, které už patrně jsou součástí existujících softwarových řešení, tak metody, které byly nedávno publikovány a existuji pouze jako výzkumné prototypy. Pro lepší porozumění technologickým pasážím je poslední kapitola věnována vysvětlení některých základních pojmů vyšší matematiky. Powered by TCPDF (www.tcpdf.org)
|
|
|
Statistical Natural Language Processing Methods in Music Notation Analysis
Libovický, Jindřich ; Peterek, Nino (vedoucí práce) ; Mareček, David (oponent)
Práce shrnuje dosavadní výzkum v oblasti aplikace statistických metod počítačové lingvis- tiky při zpracování hudby a vysvětluje teoretické pozadí těchto aplikací. V druhé části práce jsou shrnuty možnosti symbolické extrakce melodie. Byl vytvořen korpus přibližně 400 hodin melodií různých hudebních stylů, který je využit pro trénování statistického modelu melodie založeného na metodách jazykového modelování. V třetí části práce je tento model využit k pokusu vytvořit alternativní metodu extrakce melodie ze zvukového záznamu, která místo běžně používaných heuristik a pravidel využívá model melodie. Systém funguje dobře pouze na jednoduchých vstupních datech, ale na standardních datech ze soutěže MIREX nedosa- huje úspěšnosti v současnosti existujících systému. Provedené experimenty s rozpoznáváním melodie pomohly lépe definovat rozdíl mezi tím, jak vypadá průběh frekvence vnímané jako melodie - fyzikální melodie, a jak je melodie vnímána na abstraktní úrovni při symbolickém zápisu - abstraktní melodie. 1
|
|
| |
host ::
RSS.