|
|
Artificial Neural Networks and Their Usage For Knowledge Extraction
Petříčková, Zuzana ; Mrázová, Iveta (vedoucí práce) ; Procházka, Aleš (oponent) ; Andrejková, Gabriela (oponent)
Název práce: Umělé neuronové sítě a jejich využití při extrakci znalostí Autor: RNDr. Zuzana Petříčková Katedra: Katedra teoretické informatiky a matematické logiky Vedoucí disertační práce: doc. RNDr. Iveta Mrázová, CSc., Katedra teo- retické informatiky a matematické logiky Abstrakt: Vrstevnaté neuronové sítě jsou známé především díky své schopnosti dobře zobecňovat a odhalit v datech i složité nelineární závislosti. Na druhé straně má tento model tendenci vytvářet poměrně složitou vnitřní strukturu, a to především pro rozsáhlé datové sady. Při efektivním řešení náročných úloh jsou proto kladeny vysoké nároky především na rychlost procesu učení, schopnost sítě zobecňovat a na vytvoření jednoduché a transparentní struktury modelu. V této práci jsme navrhli obecnou metodologii pro učení vrstevnatých neuro- nových sítí. Jejím základem je rychlá a robustní metoda škálovaných konjugo- vaných gradientů. Tento standardní algoritmus učení je rozšířen o analytické či aproximativní oslabování citlivosti a o vynucovaní kondenzované interní re- prezentace. Redundantní vstupní a skryté neurony jsou prořezávány pomocí technik založených na citlivostní analýze a interní reprezentaci znalostí....
|
|
|
Vrstevnaté neuronové sítě a vizualizace jejich struktury
Drobný, Michal ; Mrázová, Iveta (vedoucí práce) ; Kukačka, Marek (oponent)
Model vrstevnatých neuronových sítí je v současné době známý především díky svým univerzálním aproximačním schopnostem a již základní algoritmus zpětného šíření dává výsledky aplikovatelné v reálných problémech. Tato práce je věnována problematice vrstevnatých neuronových sítí, popisuje vybrané algoritmy pro adaptaci vah a prahů na základě předložených vzorů, především algoritmus zpětného šíření a algoritmus škálovaných konjugovaných gradientů, který řadíme mezi konvergenčně extrémně rychlé algoritmy druhého řádu. Součástí práce je také aplikace pro vizualizaci struktury vrstevnatých neuronových sítí implementující výše zmíněné algoritmy, jejíž řešení je navrženo s ohledem na její využití při výuce v oblasti umělé inteligence. První část práce je věnována úvodu do problematiky a popisu obou algoritmů, následuje stručné pojednání o dalších variantách algoritmů a jejich analýza. V další části je zdůvodněn výběr vhodného programovacího jazyka pro implementaci aplikace, stanovení cílů a popis implementačních prací. Závěrem jsou pak shrnuty výsledky rychlostního a implementačního porovnání implementovaných algoritmů s vybranou nekomerční implementací ENCOG.
|
|
|
Deep neural networks and their implementation
Vojt, Ján ; Mrázová, Iveta (vedoucí práce) ; Božovský, Petr (oponent)
Hluboké neuronové sítě jsou efektivní a univerzální model schopný řešit širokou škálu úloh. Tato práce je zaměřena na studium tří různých typů hlubokých neuronových sítí - vícevrstvý perceptron, konvoluční neuronové sítě, a sítě typu DBN (deep belief). Všechny popisované modely hlubokých neurónových sítí jsou naimplementovány na paralelní hardvérové architektuře, a otestovány pro různa nastavení architektury sítě i jejích parametrů. Implementovaný systém je doplněn detailní dokumentací softvérového návrhu a popisem použitých optimalizací. Efektivitu implemenetovaného frameworku dokládají i výsledky provedených výkonnostních testů. Významnou součást práce představuje i testování dalších existujících frameworků s podporou hlubokých neuronových sítí. Porovnání ukazuje, že framework vytvořený v rámci této práce dosáhl lepších výkonnostních výsledků než testované konkurenční implementace vícevrstvých perceptronů a konvolučních neuronových sítí. Implementace sítí typu DBN dosahuje v porovnání s konkurenční implementací mírně lepších výkonnostních výsledků pro RBM vrstvy o velikosti do 1000 neuronů, ale znatelně slabších výkonnostních výsledků pro robustnější RBM vrstvy. Powered by TCPDF (www.tcpdf.org)
|
|
|
Extrakce znalostí pomocí vrstevnatých neuronových sítí
Reitermanová, Zuzana
Název práce: Extrakce znalostí pomocí vrstevnatých neuronových sítí Autor: Zuzana Reitermanová Katedra: Katedra softwarového inženýrství Vedoucí diplomové práce: Doc. RNDr. Iveta Mrázová, CSc. e-mail vedoucího: mrazova@ksi.ms.mff.cuni.cz Abstrakt: Model vrstevnatých neuronových sítí je známý především díky své univerzální aproximační schopnosti. Již základní algoritmus zpětného šíření dává výsledky použitelné v reálných aplikacích. Efektivní řešení složitých úloh by však mělo vyhovovat náročným požadavkům na rychlost procesu učení a na transparentní strukturu vytvořené sítě. Ta totiž souvisí s lepší schopností sítě zobecňovat extrahované znalosti a následně i se snazší in- terpretací funkce naučené sítě. Lepšího zobecňování lze dosáhnout použitím různých technik, jako je např. učení s nápovědou, prořezávání a analýza citlivosti. Mezi rychlé algoritmy učení pak patří metody konjugovaných gra- dientů. V první části této práce jsme shrnuli a navzájem porovnali výše zmíněné techniky. Následně jsme odvodili novou metodu, která v sobě spojuje výhody předchozích technik. Navržený algoritmus je inspirovaný extrémně rychlou metodou škálovaných konjugovaných gradientů....
|
|
|
Artificial Neural Networks and Their Usage For Knowledge Extraction
Petříčková, Zuzana ; Mrázová, Iveta (vedoucí práce) ; Procházka, Aleš (oponent) ; Andrejková, Gabriela (oponent)
Název práce: Umělé neuronové sítě a jejich využití při extrakci znalostí Autor: RNDr. Zuzana Petříčková Katedra: Katedra teoretické informatiky a matematické logiky Vedoucí disertační práce: doc. RNDr. Iveta Mrázová, CSc., Katedra teo- retické informatiky a matematické logiky Abstrakt: Vrstevnaté neuronové sítě jsou známé především díky své schopnosti dobře zobecňovat a odhalit v datech i složité nelineární závislosti. Na druhé straně má tento model tendenci vytvářet poměrně složitou vnitřní strukturu, a to především pro rozsáhlé datové sady. Při efektivním řešení náročných úloh jsou proto kladeny vysoké nároky především na rychlost procesu učení, schopnost sítě zobecňovat a na vytvoření jednoduché a transparentní struktury modelu. V této práci jsme navrhli obecnou metodologii pro učení vrstevnatých neuro- nových sítí. Jejím základem je rychlá a robustní metoda škálovaných konjugo- vaných gradientů. Tento standardní algoritmus učení je rozšířen o analytické či aproximativní oslabování citlivosti a o vynucovaní kondenzované interní re- prezentace. Redundantní vstupní a skryté neurony jsou prořezávány pomocí technik založených na citlivostní analýze a interní reprezentaci znalostí....
|
|
|
Deep neural networks and their implementation
Vojt, Ján ; Mrázová, Iveta (vedoucí práce) ; Božovský, Petr (oponent)
Hluboké neuronové sítě jsou efektivní a univerzální model schopný řešit širokou škálu úloh. Tato práce je zaměřena na studium tří různých typů hlubokých neuronových sítí - vícevrstvý perceptron, konvoluční neuronové sítě, a sítě typu DBN (deep belief). Všechny popisované modely hlubokých neurónových sítí jsou naimplementovány na paralelní hardvérové architektuře, a otestovány pro různa nastavení architektury sítě i jejích parametrů. Implementovaný systém je doplněn detailní dokumentací softvérového návrhu a popisem použitých optimalizací. Efektivitu implemenetovaného frameworku dokládají i výsledky provedených výkonnostních testů. Významnou součást práce představuje i testování dalších existujících frameworků s podporou hlubokých neuronových sítí. Porovnání ukazuje, že framework vytvořený v rámci této práce dosáhl lepších výkonnostních výsledků než testované konkurenční implementace vícevrstvých perceptronů a konvolučních neuronových sítí. Implementace sítí typu DBN dosahuje v porovnání s konkurenční implementací mírně lepších výkonnostních výsledků pro RBM vrstvy o velikosti do 1000 neuronů, ale znatelně slabších výkonnostních výsledků pro robustnější RBM vrstvy. Powered by TCPDF (www.tcpdf.org)
|
|
|
Vrstevnaté neuronové sítě a vizualizace jejich struktury
Drobný, Michal ; Mrázová, Iveta (vedoucí práce) ; Kukačka, Marek (oponent)
Model vrstevnatých neuronových sítí je v současné době známý především díky svým univerzálním aproximačním schopnostem a již základní algoritmus zpětného šíření dává výsledky aplikovatelné v reálných problémech. Tato práce je věnována problematice vrstevnatých neuronových sítí, popisuje vybrané algoritmy pro adaptaci vah a prahů na základě předložených vzorů, především algoritmus zpětného šíření a algoritmus škálovaných konjugovaných gradientů, který řadíme mezi konvergenčně extrémně rychlé algoritmy druhého řádu. Součástí práce je také aplikace pro vizualizaci struktury vrstevnatých neuronových sítí implementující výše zmíněné algoritmy, jejíž řešení je navrženo s ohledem na její využití při výuce v oblasti umělé inteligence. První část práce je věnována úvodu do problematiky a popisu obou algoritmů, následuje stručné pojednání o dalších variantách algoritmů a jejich analýza. V další části je zdůvodněn výběr vhodného programovacího jazyka pro implementaci aplikace, stanovení cílů a popis implementačních prací. Závěrem jsou pak shrnuty výsledky rychlostního a implementačního porovnání implementovaných algoritmů s vybranou nekomerční implementací ENCOG.
|
|
|
Extrakce znalostí pomocí vrstevnatých neuronových sítí
Reitermanová, Zuzana
Název práce: Extrakce znalostí pomocí vrstevnatých neuronových sítí Autor: Zuzana Reitermanová Katedra: Katedra softwarového inženýrství Vedoucí diplomové práce: Doc. RNDr. Iveta Mrázová, CSc. e-mail vedoucího: mrazova@ksi.ms.mff.cuni.cz Abstrakt: Model vrstevnatých neuronových sítí je známý především díky své univerzální aproximační schopnosti. Již základní algoritmus zpětného šíření dává výsledky použitelné v reálných aplikacích. Efektivní řešení složitých úloh by však mělo vyhovovat náročným požadavkům na rychlost procesu učení a na transparentní strukturu vytvořené sítě. Ta totiž souvisí s lepší schopností sítě zobecňovat extrahované znalosti a následně i se snazší in- terpretací funkce naučené sítě. Lepšího zobecňování lze dosáhnout použitím různých technik, jako je např. učení s nápovědou, prořezávání a analýza citlivosti. Mezi rychlé algoritmy učení pak patří metody konjugovaných gra- dientů. V první části této práce jsme shrnuli a navzájem porovnali výše zmíněné techniky. Následně jsme odvodili novou metodu, která v sobě spojuje výhody předchozích technik. Navržený algoritmus je inspirovaný extrémně rychlou metodou škálovaných konjugovaných gradientů....
|
host ::
RSS.