Original title: Word2vec modely s přidanou kontextovou informací
Translated title: Word2vec Models with Added Context Information
Authors: Šůstek, Martin ; Rozman, Jaroslav (referee) ; Zbořil, František (advisor)
Document type: Master’s theses
Year: 2017
Language: cze
Publisher: Vysoké učení technické v Brně. Fakulta informačních technologií
Abstract: [cze] [eng]
Tato práce se zabývá porozuměním word2vec modelů. Přestože tyto modely vznikly nedávno (2013), staly se velmi populárními. Učením těchto modelů lze obdržet vektorovou reprezentaci slov v~N-dimenzionálním prostoru reálných čísel. Pomocí operací nad těmito vektory je možné určit sémantické vazby mezi slovy. Dále se práce snaží o rozšíření představených modelů za účelem jiné reprezentace slov. K tomuto účelu je navrženo využití obrazové informace. Taktéž je diskutována možnost použití konvolučních neuronových sítí ve spojitosti s poskytnutím odlišné kontextové informace. This thesis is concerned with the explanation of the word2vec models. Even though word2vec was introduced recently (2013), many researchers have already tried to extend, understand or at least use the model because it provides surprisingly rich semantic information. This information is encoded in N-dim vector representation and can be recall by performing some operations over the algebra. As an addition, I suggest a model modifications in order to obtain different word representation. To achieve that, I use public picture datasets. This thesis also includes parts dedicated to word2vec extension based on convolution neural network.
Keywords: AI; Artificial Inteligence; Artificial Neural Networks; CNN; Convolution Neural Network; Language Modelling; LM; Natural Language Processing; NLP; Semantic Similarity; Softmax; Word Embeddings; Word2vec; AI; CNN; Konvoluční neuronové sítě; LM; Neuronové sítě; NLP; Softmax; Sémantická podobnost; Umělá inteligence; Vnořování slov; Word2vec; Zpracování přirozeného jazyka

Institution: Brno University of Technology (web)
Document availability information: Fulltext is available in the Brno University of Technology Digital Library.
Original record: http://hdl.handle.net/11012/69531

Permalink: http://www.nusl.cz/ntk/nusl-363837


The record appears in these collections:
Universities and colleges > Public universities > Brno University of Technology
Academic theses (ETDs) > Master’s theses