|
|
Classifier of astrophysics data
Rylko, Vojtěch ; Vrábelová, Pavla (referee) ; Zendulka, Jaroslav (advisor)
Cílem této práce je implementace algoritmu pro dolování z dat pro použítí v astrofyzice. V práci jsou představeny základní pojmy a principy dolování z dat. Zejména jeho obecná definice, rozlišení mezi klasifikací a regresí a vyhodnocování přesnosti modelu. Text se zabývá převážně učením s učitelem. Blíže představeny jsou algoritmy založené na rozhodovacích stromech. Je definován rozhodovací strom jako model a uveden obecný algoritmus pro tvorbu rozhodovacích stromů z dat. Jsou diskutována různá kritéria dělení v uzlech (zejména založená na etropii), kritéria pro ukončení růstu a ořezávání stromů. Pro ilustraci jsou uvedeny vybrané algoritmy - ID3, CART, RainForest a BOAT. Na dříve uvedených informacích je založena kapitola o souborech rozhodovacích stromů. Zabývá se základními způsoby jejich kombinací (bagging a arcing) . Detailněji je popsán obecný algoritmus náhodných lesů a RandomForest TM jako příklad jeho praktické realizace. Na základě srovnání algoritmů a provedených experimentů v literatuře jsou k implementaci vybrány náhodné lesy. Implementovaný algoritmus je detailněji popsán - k dělení uzlů používá Gini entropie a průměrnou kvadratickou chybu, ignoruje chybějící hodnoty a pro kombinaci výstupů jednotlivých stromů používá většinové hlasování / průměr. Jako formát vstupních a výstupních dat je zvolena podmnožina ARFF formátu. Architektura implementace je ilustrována UML diagramy s popisujícím komentářem. Jednotlivé aspekty implementace jsou stručně popsány - implementačním jazykem je C++11, je využívána knihovna Boost (zejména chytré ukazatele, serializace, nastavení parametrů a konfigurační soubory, ...) společně s dalšími volně dostupnými knihovnami (google-glog pro logování, googletest pro jednotkové testování, ...). Grafického výstupu je dosaženo tiskem modelu náhodného lesu do XML souboru a jeho transformací skriptem do jazyka DOT. Pro oveření validity a vlastností implementace a jejího srovnání s jinými implementacemi náhodných stromů (Waffles, RF-ACE a R - balíček randomForest) jsou navrženy, popsány a provedeny exprimenty: klasifikace astronomických těles na základě barevných indexů, regrese rudého posuvu na základě barevných indexů, osm klasifikačních a pět regresních experimentů na datech z UCI repository. Průběh experimentů je plně automatizován skripty (Bash, Python a R) a je měřena doba učení modelů. Z výsledků experimentů vyplývá, že autorova implementace si vedla výborně při klasifikaci a průměrně při regresi; z časového hlediska měla problémy při datech s mnoha instancemi. Výsledkem práce je zdokumentovaná, snadno rozšiřitelná implementace náhodných lesů v jazyce C++ s grafickým znázorněním modelu, mnoha možnostmi nastavení a experimentálně ověřenou funkčností. Diskuze o dalším možném pokračování projektu se zabývá zejména odstraněním problemů s časovou náročností a přídáním nových funkcionalit.
|
|
|
Machine-Learning Methods in Natural Language Processing
Vodička, Jan ; Otrusina, Lubomír (referee) ; Smrž, Pavel (advisor)
Bachelor's thesis deals with sentiment analysis using machine learning methods, mainly naive bayes classifier. Input text can be classified as positive or negative message. There are used several data sources for create of automatic annotated corpus - social network Twitter, price comparator Heureka, movie database ČSFD and restaurant portal Scuk. These sources are compared in terms of performance in assessing the sentiment. Consequently, the final training dataset is created and used at almost real-time Twitter sentiment analysis.
|
|
|
OCR on iOS Platform
Hakulin, Lukáš ; Žák, Pavel (referee) ; Angelov, Michael (advisor)
This thesis is dedicated to text recognition in image on iOS mobile platform. It describes principles and methods for text location, feature extraction and classification. Portion of this work is devoted to design and implementation of simple application. With this application is possible to recognize information about location of furniture in IKEA's storeroom.
|
|
| |
|
|
Machine Learning in Image Classification
Král, Jiří ; Španěl, Michal (referee) ; Hradiš, Michal (advisor)
This project deals vith analysis and testing of algorithms and statistical models, that could potentionaly improve resuts of FIT BUT in ImageNet Large Scale Visual Recognition Challenge and TRECVID. Multinomial model was tested. Phonotactic Intersession Variation Compensation (PIVCO) model was used for reducing random e ffects in image representation and for dimensionality reduction. PIVCO - dimensionality reduction achieved the best mean average precision while reducing to one-twenyth of original dimension. KPCA model was tested to approximate Kernel SVM. All statistical models were tested on Pascal VOC 2007 dataset.
|
|
| |
|
|
Learnable Evolution Model for Optimization (LEM)
Weiss, Martin ; Vašíček, Zdeněk (referee) ; Schwarz, Josef (advisor)
Numerical optimization of multimodal or otherwise nontrivial functions has stayed around the peak of the interest of many researchers for a long time. One of the promising methods that appeared is the hybrid approach of the Learnable Evolution Model that combines the well-established ways of artificial intelligence and machine learning with recently popular and efective methods of evolutionary programming. In this work, the method itself was reviewed with respect to what has been already implemented and tested and several possible new implementations of the method were proposed and some of them consequently implemented. The resulting program was then tested against a set of chosen nontrivial real-valued functions and its results were compared to those achieved with EDA algorithms.
|
|
|
Automatic Image Labelling
Sýkora, Michal ; Beran, Vítězslav (referee) ; Hradiš, Michal (advisor)
This work focuses on automatic classification of images into semantic classes based on their contentc, especially in using SVM classifiers. The main objective of this work is to improve classification accuracy on large datasets. Both linear and nonlinear SVM classifiers are considered. In addition, the possibility of transforming features by Restricted Boltzmann Machines and using linear SVM is explored as well. All these approaches are compared in terms of accuracy, computational demands, resource utilization, and possibilities for future research.
|
|
|
Multi-Modal Restricted Boltzmann Machines
Svoboda, Jiří ; Beran, Vítězslav (referee) ; Hradiš, Michal (advisor)
This thesis explores how multi-modal Restricted Boltzmann Machines (RBM) can be used in content-based image tagging. This work also cointains brief analysis of modalities that can be used for multi-modal classification. There are also described various RBMs, that are suitable for different kinds of input data. A design and implementation of multimodal RBM is described together with results of preliminary experiments.
|
|
|
Bayesian Networks Applications
Chaloupka, David ; Rozman, Jaroslav (referee) ; Zbořil, František (advisor)
This master's thesis deals with possible applications of Bayesian networks. The theoretical part is mainly of mathematical nature. At first, we focus on general probability theory and later we move on to the theory of Bayesian networks and discuss approaches to inference and to model learning while providing explanations of pros and cons of these techniques. The practical part focuses on applications that demand learning a Bayesian network, both in terms of network parameters as well as structure. These applications include general benchmarks, usage of Bayesian networks for knowledge discovery regarding the causes of criminality and exploration of the possibility of using a Bayesian network as a spam filter.
|
guest ::
