|
|
Knowledge representation in deep neural networks
Georgiev, Georgi Stoyanov ; Mrázová, Iveta (vedoucí práce) ; Pešková, Klára (oponent)
Při řešení mnohých úloh z oblasti klasifikace obrázků a detekce objektů překonávají konvoluční neuronové sítě (CNN sítě) lidské schopnosti. CNN sítě vynikají i při vytváření titulků, segmentaci obrázků a při extrakci příznaků. Modely CNN sítí jsou mimořádně přesné při rozpoznávání obrázků a extrahované znalosti dobře zobecňují, nicméně analýza jejich rozhodovacího procesu zůstává problematická. Vhodný prostředek k analýze interní reprezentace znalostí v CNN sítích představují takzvané "heat maps" (teplotní mapy) a jejich varianty, například typu "saliency maps" (charakteristické mapy), SmoothGrad a Grad-CAM. Techniky t-SNE, UMAP a ivis používané pro redukci dimenzionality pak podporují snadnou vizualizaci vícerozměrných příznaků vytvořených v jednotlivých kon- volučních vrstvách CNN sítí. Na základě výsledků získaných při vyhodnocování vlastností CNN modelů, jsme na- vrhli dva nové algoritmy pro prořezávání předučených CNN sítí: "Iterative Top Cut" a "Iterative Feature Top Cut". Oba algoritmy postupně odstraňují koncové vrstvy CNN sítí, dokud není aktivováno ukončovací kritérium algoritmu. Ukončovací kritéria berou v úvahu dosahovanou přesnost CNN sítě a kvalitu vytvořené interní reprezentace znalostí. Vynikajících výsledků dosahuje zejména metoda "Iterative Top Cut", která je schopná zredukovat velikost...
|
host ::
RSS.