|
|
Reprezentační neuronové sítě pro diferencovatelné renderování objemu
Nejedlý, Jaroslav ; Rittig, Tobias (vedoucí práce) ; Antolík, Ján (oponent)
Tato práce prozkoumává možnost použití reprezentačních neuronových sítí jako dato- vých struktur pro modely předpovídající vzhled. Představujeme representační síť, která je adaptací populární NeRF sítě. Tato reprezentační síť je studována na 2D obrázcích i trojrozměrných volumetrických datech. Tato práce také vyhodnocuje výstupy modelu, který předpovídá vzhled, do kterého je použita reprezentační síť jako zdroj dat. Naše analýza ukazuje, že reprezentace 2D obrázků a jednoduchých volumetrických útvarů je realizováno s obstojnou kvalitu. Nicméně, výstupy vzhled předpovídající sítě jsou suboptimální. Vyvodili jsme, že reprezentační sítě představené v této práci by měli být vylepšeny a že model předpovídající vzhled by měl být doladěn s použitím reprezentační sítě na vstupu. 1
|
|
|
Algonauts challenge 2023: predicting human fMRI activity in response to visual stimulation
Petliak, Nataliia ; Antolík, Ján (vedoucí práce) ; Bojar, Ondřej (oponent)
V této diplomové práci zkoumáme využití předtrénovaných hlubokých neuronových sítí, zejména Vision Transformers (ViT), pro predikce lidské fMRI aktivity při stimu- laci vizuálními stimuli. Dataset z Algonauts Challenge 2023, která slouží jako rozsáhlý standard pro data fMRI lidského mozku, nám umožňuje hodnotit výkon ViT ve srovnání s etablovanými architekturami CNN, jako jsou VGG a ResNet. Naše studie zdůrazňuje složitost tohoto úkolu, zejména při přesném modelování různorodých oblastí celé vizuální kůry. Identifikujeme konkrétní vrstvy ViT, které jsou v souladu s hierarchickým zpra- cováním mozku a ukazují se jako nejpředpovědnější. Jedním z omezení, na které jsme narazili u předtrénovaného ViT, je jeho snížená adaptabilita kvůli vrozené variabilitě subjektů. Toto omezení zdůrazňuje výzvu ve vývoji jediného modelu, který je univer- zálně účinný pro různé jedince. Abychom toto řešili, implementujeme iterativní strategii trénování, začínající vrstvami, které fungují nejlépe napříč všemi subjekty, následované jemným laděním pro specifické vizuální oblasti jednotlivých subjektů. Navzdory těmto snahám se účinnost ViT liší; u některých subjektů dosahuje uspokojivých výsledků, ale u jiných se potýká, zejména ve word-selectivnich oblastech. Přidání textových dat ke vstupu vede ke zlepšení výkonu modelu v...
|
|
|
Nástroj pro průzkum a vizualizaci modelu pro simulátor mozku Mozaik
Ježek, Filip ; Antolík, Ján (vedoucí práce) ; Pešková, Klára (oponent)
Simulace biologických neuronových sítí jsou důležitým nástrojem pro po- rozumění tomu, jak mozek zpracovává informace. Mozaik je workflow fra- mework, který umožňuje takové simulace vytvářet, spouštět a analyzovat. V současné době ale neexistuje snadný způsob, jak v něm vizualizovat ani síť, ani datové struktury vytvořené jednotlivými analýzami. Tato práce je webová aplikace, která umožňuje vizualizovat sítě a datové struktury ulo- žené v datastorech pro jednotlivé simulace. Dané vizualizace lze vyhledávat pomocí komplexních dotazů, interaktivně je zkoumat a vzájemně mezi sebou srovnávat. To výrazně zefektivňuje práci výzkumníků, kteří s frameworkem Mozaik zacházejí.
|
|
|
Design optogenetického stimulačního protokolu ve V1 pro vyvolání vizuálního vjemu pomocí strojového učení
Parada, Jakub ; Antolík, Ján (vedoucí práce) ; Korvasová, Karolína (oponent)
The Optogenetic stimulation of neurons in the primary visual cortex (V1) is a novel and promising technique for vision restoration for people with acquired blindness. One of the challenges of such a technique is finding artificial stimuli which invoke desired cortical activities. This thesis explores whether neural networks and deep learning can be used for reverse engineering artificial stimuli patterns for optogenetic cortical implant prosthesis (LED) from cortical activity pattern recordings, assuming that similar cortical activity recordings are caused by similar visual stimuli. Various DNN architectures outperforming baseline solutions in stimulus reconstruction will be explored. Loss functions such as MSE and Structural similarity (SSIM) will be used. Questions such as if loss of information in the high-frequency domain of the reconstructed stimuli negatively affects correspondence between the desired cortical activity and the activity elicited by artificial stimuli patterns will be investigated. MSE evaluation metric will be used to determine the degree of similarity between the two types of cortical activities. Due to the limited availability of biological data, we use a model of V1 combined with a model of optogenetic cortical prosthesis (LED) and stimulation developed by Antolík et al. [2021] to...
|
|
|
Characterizing computations in a model of biological vision using deep-neural-network approaches.
Nepožitek, David ; Antolík, Ján (vedoucí práce) ; Hoksza, David (oponent)
V této práci zkoumáme dva druhy modelů primárního vizualního kor- texu: hlubokou neuronovou síť pro identifikaci systému a spiking neuronovou síť modelující primární vizuální kortex kočky. Další pokrok v modelování zrakových systémů nám může pomoci podrobněji pochopit vnitřní fungování mozku; navíc může pomoci vyvinout lepší zrakové protézy nebo dále zdokon- alit modely, které zpracovávají obrazové vstupy, například modely použí- vané pro klasifikaci objektů. K předvídání aktivací neuronů spiking neu- ronové sítě při prezentaci přirozených vizuálních podnětů používáme nejmod- ernější hlubokou neuronovou síť. Ukazujeme, že vyladěním hyperparametrů vysvětluje hluboká neuronová síť přibližně 85% vysvětlitelného rozptylu po- zorovaného v reakcích neuronů biologického modelu. To je výrazně přesnější ve srovnání s předpověďmi reakcí skutečných neuronovů, což naznačuje, že skutečné neurony mají určité vlastnosti, které nejsou v této spiking neuronové síti zachyceny. Zároveň však tvrdíme, že síť by nebyla schopna dokonalých předpovědí ani v případě, že by bylo k dispozici velké množství dat. Ukazu- jeme, že síť naráží na obtíže s modelováním neuronů, které vykazují velké množství šumu, a take s přesným předpovídáním vyšších počtů aktivací. Dále analyzujeme reprezentace natrénované neuronové sítě laděním fáze,...
|
|
|
Decoding visual stimuli from cortical activity
Vašek, Vojtěch ; Antolík, Ján (vedoucí práce) ; Šikudová, Elena (oponent)
Cílem této práce je vyvinout model pomocí metod strojového učení, který dokáže dekódovat obrazové stimuly z kortikální aktivity v primární zrakové kůře (V1) a umožní tak lépe pochopit vztah mezi aktivitou V1 a zrakovým vnímá- ním. Vzhledem k omezené dostupnosti biologických dat je nutné použít k vy- tvoření trénovacích dat model "spiking"neuronové sítě oblasti V1. Pro genero- vání kvalitních obrazových stimulů budou zkoumány techniky strojového učení, zejména neuronové sítě. K trénování dekódovacích modelů budou použity stan- dardní ztrátové funkce a také diskriminační ztrátová funkce známá z trénování sítí typu GAN. Lineární regresní modely budou použity jako referenční. Mezi otázky, které budou řešeny patří hledání vhodného modelu pro dekódování, vliv počtu zaznamenávaných neuronů nebo prezentovaných podnětů, ztráta infor- mace v oblasti vysokých frekvencí obrazu a vliv vnitřního šumu v neuronech na rekonstrukci vizuálních podnětů. Tato práce přináší trénovatelnou konvoluční síť, která překonává jiné jednodušší modely, jako je lineární regrese. Ukazuje, že ztrátovou funkcí, která poskytuje nejlepší výsledky, je MSSSIM. Vnitřní šum v neuronech však rekonstrukci omezuje a rekonstruují se především nízké frek- vence obrazu. Pro dekódování je důležitá velikost souboru trénovacích dat a počet zaznamenaných...
|
|
|
Predicting accuracy in Multiple Object Tracking tasks from trajectory statistics
Chembrolu, Surya Prakash ; Děchtěrenko, Filip (vedoucí práce) ; Antolík, Ján (oponent)
Title: Predicting accuracy in Multiple Object Tracking tasks from trajectory statistics Author: Surya Prakash Chembrolu Department: Department of Software and Computer Science Education Supervisor: Mgr. Filip Děchtěrenko, Ph.D., Department of Software and Com- puter Science Education Abstract: Cognitive science is an interdisciplinary area covering neuroscience, psychology, linguistics, philosophy, and computer science. Computer science and cognitive science mutually benefit from each other because computer science is very helpful to design and perform experiments in order to understand how the brain works likewise research output from cognitive science can lead to new con- cepts and models in artificial intelligence. Within cognitive science, Multiple Object Tracking (MOT) paradigm is used to study visual attention. In MOT experiments, participants are required to keep track of some moving objects in parallel. In this study, a data-driven approach is taken in order to explain the tracking performance of the subjects taking part in MOT experiments. The stimuli in MOT known as trajectories or tracks presented in previous studies were taken and the difficulty of those trajectories is quantified based on trajec- tory statistics. Then a model is created to explain tracking performance and this model is tested...
|
|
|
Rotation-equivariant convolutional neural network for design of visual prosthetic stimulation protocol
Picek, Martin ; Antolík, Ján (vedoucí práce) ; Pilát, Martin (oponent)
Sousední neurony v primární zrakové kůře (V1), první kortikální oblasti zpracovávající vizuální informace, jsou selektivní vůči podnětům prezentovaným v sousedních polohách zorného pole se specifickou hranovou orientací. Tvoří tak tzv. retinotopické a orientační mapy V1. Vzhledem k absenci zařízení pro kortikální stimulaci s vysokým rozlišením za- tím obnovení zraku pomocí protetických implantátů ve V1 nevyužilo výhody orientačních map. Brzy však lze očekávat dostupnost kortikálních implantátů s dostatečně vysokým rozlišením stimulace, aby bylo možné zacílit na samostatné orientační sloupce. Vzhledem k tomu, že v kortexu jsou zakódovány i jiné stimulační prvky, jako je barva, velikost nebo fáze, ale nelze je spolehlivě zapojit ani stimulací s vysokým ro- zlišením, klademe si v této práci otázku, jak dobře lze vizuální stimuly zakódovat ve V1 pokud je známa pouze orientace a preference polohy. K vyřešení této otázky navrhu- jeme hlubokou neuronovou síť (DNN) poskytující deskriptor nervové aktivity pro jak- oukoli cílovou kortikální pozici a danou orientační preferenci. Toho je dosaženo použitím rotačně-ekvivariantní konvoluční neuronové sítě (reCNN) s poslední vrstvou, která má pouze jeden kanál pro každou orientaci, vracející požadovaný trojrozměrný tenzor hodnot. Specializovaný výstup odhaduje polohy...
|
|
|
Finding invariances in sensory coding through gradient methods.
Kovács, Peter ; Antolík, Ján (vedoucí práce) ; Šikudová, Elena (oponent)
Kľúčom k porozumeniu spracovania zrakových vnemov je získať vhľad do senzorick- ého kódovania jednotlivých neurónov. Za týmto účelom došlo za posledných 50 rokov k veľkému pokroku v trénovaní modelov na neurálnych dátach s cieľom identifikovať mapo- vanie senzorického priestoru na neurálne odpovede. Najmä pokrok hlbokých neurónových sietí v neurovede umožnil vytvorenie modelov s vynikajúcou prediktívnou silou. Takéto pokročilé neurálne modely sú však zložité a ich zlá interpretovateľnosť doteraz bránila hlbšiemu pochopeniu princípov vizuálneho kódovania. Na riešenie tohto problému bola v nedávnej štúdii navrhnutá metóda, ktorá identi- fikuje stimul, ktorý najviac aktivuje neurón. Senzorické kódovanie vysoko nelineárnych neurónov, ktoré majú vysoké zastúpenie v prvotných fázach vizuálneho spracovania, je však príliš zložité na to, aby ich mohol jediný stimul dostatočne charakterizovať. Ro- bustnejším spôsobom, ako charakterizovať toto kódovanie, je identifikácia vstupného pod- priestoru stimulov, ktoré identicky aktivujú neurón - teda nájdenie invariancií senzorickej reprezentácie neurónu. V tejto práci je navrhnutý nový postup na nájdenie takýchto invariantných stimu- lov. Navrhovaná technika je založená na neurónovej sieti - generátore, ktorý mapuje gaussovský šum z latentného priestoru na množinu...
|
|
|
Predikce rychlosti a absolutni rychlosti pohybu z lidských intrakraniálních EEG dat pomocí hlubokých neuronových sítí.
Vystrčilová, Michaela ; Antolík, Ján (vedoucí práce) ; Pilát, Martin (oponent)
Lidský mozek řídí činnosti našeho těla včetně pohybů rukou. V této diplo- mové práci jsme se snažili porozumět tomu, jak je informace o pohybu rukou zakódovaná do elektrické aktivity mozku a jak lze tuto aktivitu použít při predikování rychlosti a absolutní rychlosti pohybu rukou. Pomocí osvědčené hluboké neuronové sítě (Deep4Net), používané k dekódování signálů z EEG, jsme dekódovali rychlost a absolutní rychlost pohybů rukou z intrakraniálního EEG. Úspěšně jsme dosáhli očekávaných hodnot korelace mezi predikovanými a skutečnými proměnnými. Zároveň jsme stanovili vliv amplitud vlnových pásem v různých frekvencích na predikce této sítě. Zjistili jsme, že vliv mod- ulací ve vlnovém pásmu high-gamma je menší, než se očekávalo na základě předchozích studií. Současně jsme identifikovali dvě možné úpravy architek- tury Deep4Net, které mohou vést k lepším predikčním schopnostem. Zaprvé jsme odhalili, že odstraněním max-poolingových vrstev lze dosáhnout stati- sticky signifikantně lepších korelačních koeficientů. Zadruhé jsme objevili, že nerovnoměrné receptivní pole této sítě způsobuje, že se více soustřeďuje na méně relevantní informace, což představuje nevýhodu. 1
|
host ::
RSS.