Název: Paralelní trénování hlubokých neuronových sítí
Překlad názvu: Parallel Deep Learning
Autoři: Šlampa, Ondřej ; Sochor, Jakub (oponent) ; Hradiš, Michal (vedoucí práce)
Typ dokumentu: Diplomové práce
Rok: 2017
Jazyk: cze
Nakladatel: Vysoké učení technické v Brně. Fakulta informačních technologií
Abstrakt: [cze] [eng]
Cílem této práce je navrhnou způsob jak zhodnotit výhodnost použití paralelního trénování neuronových sítí. V této práci jsem provedl analýzu paralelního trénování se zaměřením na délku trénování. Vycházím ze sekvenční délky trénování a délky přenosu vah po síti. Výsledkem této práce je návrh vzorců, které slouží k odhadu zrychlení na více výpočetních jednotkách. Tyto vzorce je možné použít na zjištění ideálního počtu pracovních jednotek pro trénování. Aim of this thesis is to propose how to evaluate favourableness of parallel deep learning. In this thesis I analyze parallel deep learning and I focus on its length. I take into account gradient computation length and weight transportation length. Result of this thesis is proposal of equations, which can estimate the speedup on multiple workers. These equations can be used to determine ideal number of workers for training.
Klíčová slova: distribuovaný výpočet; konvoluční neuronové sítě; Neuronové sítě; odhad délky výpočtu; paralení výpočet; počítačové sítě; Python.; soft computing; Tensorflow; trénování; computation length estimation; computer networks; convolutional neural networks; distributed computing; Neural networks; parallel computing; Python.; soft computing; Tensorflow; training

Instituce: Vysoké učení technické v Brně (web)
Informace o dostupnosti dokumentu: Plný text je dostupný v Digitální knihovně VUT.
Původní záznam: http://hdl.handle.net/11012/69598

Trvalý odkaz NUŠL: http://www.nusl.cz/ntk/nusl-547928


Záznam je zařazen do těchto sbírek:
Školství > Veřejné vysoké školy > Vysoké učení technické v Brně
Vysokoškolské kvalifikační práce > Diplomové práce