Název:
Architektury hlubokého učení pro analýzu populačních neaurálních dat
Překlad názvu:
Deep-learning architectures for analysing population neural data
Autoři:
Houška, Petr ; Antolík, Ján (vedoucí práce) ; Pilát, Martin (oponent) Typ dokumentu: Diplomové práce
Rok:
2021
Jazyk:
eng
Abstrakt: [eng][cze] Accurate models of visual system are key for understanding how our brains process visual information. In recent years, deep neural networks (DNN) have been rapidly gaining traction in this domain. However, only few studies attempted to incorporate known anatomical properties of visual system into standard DNN architectures adapted from the general machine learning field, to improve their interpretability and performance on visual data. In this thesis, we optimize a recent biologically inspired deep learning architecture designed for analysis of population data recorded from mammalian primary visual cortex when presented with natural images as stimuli. We reimplement this prior modeling in existing neuroscience focused deep learning framework NDN3 and assess it in terms of stability and sensitivity to hyperparameters and architecture fine-tuning. We proceed to extend the model with components of various DNN models, analysing novel combinations and techniques from classical computer vision deep learning, comparing their effectiveness against the bio-inspired components. We were able to identify modifications that greatly increase the stability of the model while securing moderate improvement in overall performance. Furthermore, we document the importance of small hyperparameters adjustments versus...Modelování zrakového systému je klíčové k pochopení, jak mozek zpracovává vizuální informace. V posledních letech se v tomto oboru etablovaly metody hlubokého učení. Jen málo výzkumů se, ovšem pokusilo zkombinovat známé anatomické vlastnosti zrakového systému s přístupy hlubokého učení, adaptovanými z klasického strojového učení, s cílem zlepšit přesnost a interpretovatelnost výsledných modelů na obrazových datech. V této práci se zaměříme na optimalizaci biologicky inspirované hluboké architektury, navržené pro modelování populačních dat zachycených z primární zrakové kůry savčích mozků při zrakové stimulaci fotkami přírodních motivů. Tento model reimplementujeme v rámci existujícího frameworku zaměřeného na neurobiologické modelování pomocí metod hlubokého učení NDN3 a posoudíme jej v kontextu stability a citlivosti vůči změnám hyperparametrů a ladění architektury. Následně tento model rozšíříme o komponenty z architektur klasického hlubokého strojového vidění a porovnáme tyto nové kombinace s biologicky inspirovanými verzemi. Podařilo se nám identifikovat modifikace, které výrazně zlepšují stabilitu modelu a zároveň dosahují středního zlepšení v přesnosti. Taktéž jsme zdokumentovali důležitost ladění hyperparametrů vůči větším architektonickým změnám, a tím položili základy dalšímu výzkumu nových...
Klíčová slova:
hluboké učení|výpočetní neurověda|modelování V1|biologicky inspirované architektury; deep-learning|computational neuroscience|v1 modeling|bio-inspired architectures|visual computation