|
|
Knowledge Extraction with Deep Belief Networks
Bronec, Jan ; Mrázová, Iveta (vedoucí práce) ; Červíčková, Věra (oponent)
Hluboké neuronové sítě typu DBN jsou tvořeny sérií navzájem po vrstvách propojených omezených Boltzmannových strojů (RBM). Zvětšování DBN sítě typicky vede ke zlepšení její přesnosti, podobně jako v případě mnoha dalších typů neuronových sítí. Toto zvětšování ovšem bývá za cenu zvýšené výpočetní složitosti a vyšších paměťových nároků. Pro použití velké neuronové sítě v mobilním zařízení je často nutné její velikost snížit. My jsme se pro snížení velikosti sítí DBN zaměřili na techniku zvanou prořezávání. Cílem prořezávání je odstranit značnou část redundantních vah sítě a přitom zachovat její přesnost. Pro DBN sítě jsme vytipovali několik algoritmů prořezávání a jejich vlastnosti jsme porovnali na různých datech. Dále jsme studovali vlastnosti takzvaných konfidenčních pravidel extrahovaných z natrénované DBN sítě. Použitím těchto pravidel získáme srozumitelnou interpretaci znalostí naučené sítě a jednodušší alternativu k původní síti. 1
|
|
|
Social Networks: Analysis of Evolution and Sentiment
Fanči, Samuel ; Mrázová, Iveta (vedoucí práce) ; Vomlelová, Marta (oponent)
V dnešnej dobe sú sociálne siete neoddeliteľnou súčasťou nášho života. Ich analýza nám pomáha lepšie porozumieť rôznym spoločenským javom, identifikovať vplyvných jednotlivcov v spoločnosti a modelovať budúci vývoj komunít. Sociálne siete v reálnom svete majú často "power-law" distribúciu stupňov vrcholov. Náš výskum sme zamerali na skúmanie komunít dvoch známych spoločností: GameStop a Enron. Pomocou údajov získaných z Redditu a Twitteru sme natrénovali modely strojového učenia, ako sú Sup- port Vector Machines alebo neurónové siete, na analýzu sentimentu komunity GameStop. Výsledky potvrdzujú očakávaný pozitívny sentiment po náraste ceny akcií GameStop v roku 2021. Príslušné sociálne siete sme vytvorili na základe dostupných datasetov a identifikovali sme významných jednotlivcov podľa vybraných mier centrality. Pre miery PageRank a HITS Authority score sa vysoko umiestnili verejné osobnosti ako Ryan Cohen pre Ga- meStop a Jeff Skilling v prípade Enronu. Na druhej strane, pre "Betweenness" centralitu a HITS Hub score sa do popredia dostali menší influenceri z komunity GameStop a vyššie postavení manažéri z Enronu. Štatistická analýza pomocou testu "goodness-of-fit" pre "power-law" distribúciu bola vykonaná pre obe siete. Výsledky naznačujú vierohodnú zhodu iba pre distribúciu vstupných stupňov vrcholov...
|
|
|
Detection of Influential Individuals, Communities, and Link Prediction in Social Networks
König, Matúš ; Mrázová, Iveta (vedoucí práce) ; Hric, Jan (oponent)
Metody z oblasti analýzy sociálních sítí poskytují celou řadu nástrojů pro lepší pochopení struktury studovaných sítí. Těžiště práce spočívá ve stu- diu problematiky detekce komunit v sociálních sítích. V textu představíme šest z nejznámějších algoritmů pro detekci komunit a jejich hybridní vari- anty, které kombinují hrubé klastrovací techniky s metodami pro vytváření menších a jemnějších komunit. Text pak vysvětluje i podstatu metrik pou- žívaných pro kvantifikaci vlastností detekovaných komunit. Různou velikost řešených problémů zohledňují použité datasety, konkrétně Zachary karate klub a dataset Enron. Výsledky provedených experimentů jsou základem pro posouzení vlastností analyzovaných algoritmů a vyvození závěrů a doporučení pro budoucí využití metod analýzy sociálních sítí v praxi. Důležitým aspek- tem práce je přirozeně i určení adekvátního počtu komunit ve zkoumaných datech, protože ten je parametrem mnoha algoritmů pro detekci komunit. Ze stejného důvodu je třeba ověřit, zda může i nehierarchický shlukovací algo- ritmus vytvářet hierarchii dílčích komunit. K provedení všech zmiňovaných experimentů jsme použili systém CGAT - Config-based Graph Analysis Tool pro detekci komunit, který byl navržen a implementován v rámci řešené práce a je její součástí.
|
|
|
Knowledge representation in deep neural networks
Georgiev, Georgi Stoyanov ; Mrázová, Iveta (vedoucí práce) ; Pešková, Klára (oponent)
Při řešení mnohých úloh z oblasti klasifikace obrázků a detekce objektů překonávají konvoluční neuronové sítě (CNN sítě) lidské schopnosti. CNN sítě vynikají i při vytváření titulků, segmentaci obrázků a při extrakci příznaků. Modely CNN sítí jsou mimořádně přesné při rozpoznávání obrázků a extrahované znalosti dobře zobecňují, nicméně analýza jejich rozhodovacího procesu zůstává problematická. Vhodný prostředek k analýze interní reprezentace znalostí v CNN sítích představují takzvané "heat maps" (teplotní mapy) a jejich varianty, například typu "saliency maps" (charakteristické mapy), SmoothGrad a Grad-CAM. Techniky t-SNE, UMAP a ivis používané pro redukci dimenzionality pak podporují snadnou vizualizaci vícerozměrných příznaků vytvořených v jednotlivých kon- volučních vrstvách CNN sítí. Na základě výsledků získaných při vyhodnocování vlastností CNN modelů, jsme na- vrhli dva nové algoritmy pro prořezávání předučených CNN sítí: "Iterative Top Cut" a "Iterative Feature Top Cut". Oba algoritmy postupně odstraňují koncové vrstvy CNN sítí, dokud není aktivováno ukončovací kritérium algoritmu. Ukončovací kritéria berou v úvahu dosahovanou přesnost CNN sítě a kvalitu vytvořené interní reprezentace znalostí. Vynikajících výsledků dosahuje zejména metoda "Iterative Top Cut", která je schopná zredukovat velikost...
|
|
|
Předpovídání výsledků zápasů v šipkách
Konečný, Tomáš ; Pilát, Martin (vedoucí práce) ; Mrázová, Iveta (oponent)
Tato práce se zabývá různými přístupy k modelování zápasů v šipkách. Porovnáváme ratingové modely, modely založené na statistikách a model, který na stavy hry a ná- hodné přechody mezi nimi nahlíží jako na Markovův řetězec. Součástí práce navrhujeme způsob výpočtu statistik reflektující jak dlouhodobou, tak krátkodobou formu soutěží- cích. S využitím detailního datasetu obsahujícího jednotlivé šipky také odvodíme, jak na základě stavu utkání volit cíl. Modely vyhodnocujeme dle standardních kritérií klasifikač- ních úloh, navíc však s využitím kurzů sázkových kanceláří odhadujeme ziskovost, pokud by dle predikcí modelů probíhalo sázení v praxi. 1
|
|
|
Graph neural networks and their application to social network analysis
Behún, Marek ; Mrázová, Iveta (vedoucí práce) ; Vomlelová, Marta (oponent)
Současný výzkum v oblasti grafových neuronových sítí umožňuje vyu- žití technik hlubokého učení i pro data s grafovou strukturou. Tato práce se věnuje aplikaci grafových neuronových sítí na problémy analýzy sociálních sítí. Vytipovali jsme a navzájem porovnali modely hlubokého učení vhodné pro predikci ohodnocení v recenzích hotelů, tříd hotelů a jejich skóre na základě dat stahovaných z webových stránek portálu Tripadvisor. Výsledné modely považujeme za dostatečně přesné, a tedy i vhodné např. pro doporu- čovací systémy. Podstatnou část práce však představuje i popis teoretických základů grafových neuronových sítí a vizualizačních technik pro analýzu vy- soce rozměrných dat. Implementovaný software je k dispozici pro další vývoj a experimenty v dané oblasti.
|
|
|
Approximation of functions continuous on compact sets by layered neural networks
Fojtík, Vít ; Hakl, František (vedoucí práce) ; Mrázová, Iveta (oponent)
I přes rozsáhlost současného výzkumu aplikací neuronových sítí není stále prozkou- máno mnoho oblastí jejich matematického pozadí. Kvůli nutnosti porozumění možnostem a omezením neuronových sítí je zkoumání jejich expresivity velmi důležité. Přesto toto téma není zdaleka vyřešené ani pro mělké sítě. V práci sestrojíme horní mez na počet neuronů nezbytných pro aproximaci funkce spojité na kompaktu neuronovou sítí s danou přesností. Postupujeme rozdělením kompaktu na malé polytopy, aproximací charakteris- tické funkce každého z nich a složením těchto do aproximace cílové funkce. Tato metoda, která je inspirována konkrétním důkazem Stoneovy-Weierstrassovy věty, je obecnější než předchozí odhady v tomto směru s ohledem na aproximaci spojitých funkcí. Také je plně konstruktivní. 1
|
|
|
Associative recall of damaged data
Lukešová, Jana ; Štanclová, Jana (vedoucí práce) ; Mrázová, Iveta (oponent)
V tejto práci sa zameriame na asociatívne pamäte ako jeden druh neurónových sietí a porovnáme ich jednotlivé modely vzhľadom na problematiku rozpoznávania neúplných priestorových vzorov. Uvažujeme tri typy asociatívnych pamätí: Hopeldovu sieť známu aj ako štandardná asociatívna pamäť, hierarchickú asociatívnu pamäť a kaskádovú asociatívnu pamäť. Denujeme porovnávacie kritériá a otestujeme jednotlivé modely na testovacích dátach podľa týchto kritérií. Zhodnotíme a porovnáme modely na základe výsledkov testov.
|
|
|
Data a jejich klastrování
Pilmann, Jindřich ; Mrázová, Iveta (vedoucí práce) ; Kukačka, Marek (oponent)
Tato diplomová práce popisuje známé metody klastrování dat a zkoumá jejich možnou aplikaci na data z oblasti sociálních sítí. Z tohoto důvodu jsme zrekapitulovali, jak pomocí dat reálné objekty popisujeme a jaké využíváme techniky proto, abychom určili jejich vzájemnou podobnost. Poté jsme zopakovali známé klastrovací metody a možnosti validace jejich výsledků. Následně jsme popsali termín sociálních sítí a specifika dat pocházejících z této oblasti. Na základě toho jsme navrhli přístup, jak v sociálních sítí klastrovat a ten otestovali. Tento přístup jsme aplikovali na data z oblasti mezinírodního obchodu v roce 2008. Výsledky těchto experimentů jsme zhodnotili a shrnuli. Na závěr celkově hodnotíme práci a navrhujeme možnosti dalšího výzkumu v této oblasti.
|
|
|
Vstupní data a jejich význam pro vrstevnaté neuronové sítě
Gabašová, Evelina ; Mrázová, Iveta (vedoucí práce) ; Iša, Jiří (oponent)
Neuronové sítě stále zůstávají konkurence schopným modelem v některých oblastech strojového učení. Jednou z jejich nevýhod je však jejich tendence k předurčení, která může vážne omezit jejich schopnost zobecňovat. V předložené práci studujeme různé regularizační techniky založené na vynucování interních reprezentací v neuronových sítích. Interní reprezentace jsou analyzovány na základě nového teoretického modelu založeného na teorii informace, ze kterého následně vychází regularizátor minimalizující entropii interníchh reprezentací. Tento regularizátor založený na minimalizaci entropie je výpočetne náročný a z tohoto důvodu je v práci použit především jako teoretická motivace. Z důvodu potřeby efektivnější a flexibilnejší regularizace byl navrhnut nový regularizátor založený na Gaussovském směsovém modelu aktivací neuronů. Tento model je srovnán s existujícími metodami vynucování interních reprezentací v experimentální části práce. Výsledky navrhnutého modelu jsou lepší především na klasifikačních úlohách.
|
host ::
RSS.