Název:
Vrstevnaté neuronové sítě a vizualizace jejich struktury
Překlad názvu:
Multi-layered neural networks and visualization of their structure
Autoři:
Drobný, Michal ; Mrázová, Iveta (vedoucí práce) ; Kukačka, Marek (oponent) Typ dokumentu: Bakalářské práce
Rok:
2011
Jazyk:
cze
Abstrakt: [cze][eng] Model vrstevnatých neuronových sítí je v současné době známý především díky svým univerzálním aproximačním schopnostem a již základní algoritmus zpětného šíření dává výsledky aplikovatelné v reálných problémech. Tato práce je věnována problematice vrstevnatých neuronových sítí, popisuje vybrané algoritmy pro adaptaci vah a prahů na základě předložených vzorů, především algoritmus zpětného šíření a algoritmus škálovaných konjugovaných gradientů, který řadíme mezi konvergenčně extrémně rychlé algoritmy druhého řádu. Součástí práce je také aplikace pro vizualizaci struktury vrstevnatých neuronových sítí implementující výše zmíněné algoritmy, jejíž řešení je navrženo s ohledem na její využití při výuce v oblasti umělé inteligence. První část práce je věnována úvodu do problematiky a popisu obou algoritmů, následuje stručné pojednání o dalších variantách algoritmů a jejich analýza. V další části je zdůvodněn výběr vhodného programovacího jazyka pro implementaci aplikace, stanovení cílů a popis implementačních prací. Závěrem jsou pak shrnuty výsledky rychlostního a implementačního porovnání implementovaných algoritmů s vybranou nekomerční implementací ENCOG.The model of multi-layered neural networks of the back-propagation type is well-known for their universal approximation capability and even the standard back-propagation training algorithm used for their adjustment often provides results applicable to real-world problems. The present study deals with the issue of the multi-layered neural networks. It describes selected variants of training algorithms, mainly the standard back-propagation training algorithm and the scaled conjugate gradients algorithm, which ranks among the extremely fast second-order algorithms. One of the parts of the present study is also an application for the visualisation of the structure of multi-layered neural networks whose solution is designed with respect to its potential utilization in the education of artificial intelligence. The first part of the study introduces the subject matter and formally describes both algorithms, followed by a short description of other variants of the algorithms and their analysis. The next part discusses the selection of the appropriate programming language for the implementation of the application, specifies the goals and describes the implementation works. The conclusion summarizes the test results of the speed and implementation comparison with the selected noncommercial-based software ENCOG.
Klíčová slova:
algoritmus zpětného šíření; Umělé neuronové sítě; vrstevnaté neuronové sítě; škálované konjugované gradienty; Artificial Neural Networks; Back-Propagation; Multi-Layered Neural Networks; Scaled Conjugate Gradients