Original title: Aktivní učení Bayesovských neuronových sítí pro klasifikaci obrazu
Translated title: Active learning for Bayesian neural networks in image classification
Authors: Belák, Michal ; Šabata, Tomáš (advisor) ; Vomlelová, Marta (referee)
Document type: Master’s theses
Year: 2020
Language: eng
Abstract: [eng] [cze]
In the past few years, complex neural networks have achieved state of the art results in image classification. However, training these models requires large amounts of labelled data. Whereas unlabelled images are often readily available in large quantities, obtaining l abels takes considerable human effort. Active learning reduces the required labelling effort by selecting the most informative instances to label. The most popular active learning query strategy framework, uncertainty sampling, uses uncertainty estimates of the model being trained to select instances for labelling. However, modern classification neural networks often do not provide good uncertainty estimates. Baye sian neural networks model uncertainties over model parameters, which can be used to obtain uncertainties over model predictions. Exact Bayesian inference is intractable for neural networks, however several approximate methods have been proposed. We experiment with three such methods using various uncertainty sampling active learning query strategies. V posledných rokoch dosahujú zložité neurónové siete špičkové výsledky v klasifikácií obrazu. Trénovanie takýchto modelov však vyžaduje veľké množstvo označkovaných dát. Kým neoznačkované obrázky sú často dostupné vo ve ľkom množstve, značkovanie vyžaduje značné ľudské úsilie. Aktívne učenie znižuje nároky na značkovanie vyberan ím najinformatívnejších inštancií na označkovanie. Najpoužívanejšia rodina stratégií pre vyberanie inštancií na znač kovanie v aktívnom učení využíva odhad neistoty predpovedí modelu, ktorý sa trénuje. Moderné neurónové siete vš ak často neposkytujú spoľahlivé odhady neistoty. Bayesovské neurónové siete modelujú neistotu parametrov model u, ktorá sa premieta do neistoty v predpovediach modelu. Presná Bayesovská inferencia je však neriešiteľná pre neur ónové siete, v literatúre však existujú rôzne približné metódy. V našich experimentoch používame tri takéto metódy, ktoré kombinujeme s rôznymi stratégiami pre vyberanie inštancií, využívajúcimi neistotu v ich predpovediach.
Keywords: active learning; Bayesian learning; Bayesian neural networks; deep learning; image classification; machine learning; neural networks; aktivní učení; Bayesovské neuronové sítě; Bayesovské učení; hluboké učení; klasifikace obrazu; neuronové sítě; strojové učení

Institution: Charles University Faculties (theses) (web)
Document availability information: Available in the Charles University Digital Repository.
Original record: http://hdl.handle.net/20.500.11956/121002

Permalink: http://www.nusl.cz/ntk/nusl-496394


The record appears in these collections:
Universities and colleges > Public universities > Charles University > Charles University Faculties (theses)
Academic theses (ETDs) > Master’s theses