Original title: Spojení statistické fyziky a technik strojového učení s důrazem na aplikace pro spektroskopická data
Translated title: Interconnection between statistical physics and machine learning, with applications to spectroscopic data
Authors: Vrábel, Jakub ; Suominen, Pekka (referee) ; Azevedo Silva, Nuno Miguel (referee) ; Kaiser, Jozef (advisor)
Document type: Doctoral theses
Year: 2025
Language: eng
Publisher: Vysoké učení technické v Brně. CEITEC VUT
Abstract: [eng] [cze]
Tato práce zkoumá obousměrný vztah mezi fyzikou a strojovým učením, a to jak v oblasti fundamentálního poznání, tak v oblasti praktických aplikací. Přestože strojové učení, a zejména hluboké učení, dosáhlo pozoruhodných úspěchů ve všech vědeckých oblastech, absence interpretovatelnosti modelů hlubokého učení zůstává zásadní překážkou skutečného vědeckého pokroku. Pojednávám o tom, jak může fyzika přispět ke strojovému učení prostřednictvím dvou komplementárních přístupů: poskytováním struktur pro teoretické pochopení systémů hlubokého učení a inspirováním nových algoritmů. V obrácené roli přezkoumávám a ukazuji, jak může hluboké učení řešit výzvy ve fyzikálních vědách, zejména ve spektroskopii, a jak profituje ze zakomponování fyzikou inspirovaných mechanismů. Hlavní přínosy této práce se dělí do tří směrů. Zaprvé, rozvíjím empirické a teoretické chápání neuronových sítí s využitím konceptů z vysokorozměrné geometrie a teorie perkolace a nabízím tak vhled do nového jevu zvaného Input Space Mode Connectivity. Zadruhé, vyvíjím fyzikou inspirovanou metodu učení, která zahrnuje induktivní tendence respektující procesy generování dat ve spektroskopii, což vede k lepší interpretovatelnosti. Zatřetí aplikuji metody hlubokého učení na analýzu spektroskopických dat se zaměřením na spektroskopii laserem buzeného plazmatu (LIBS), kde demonstruji aplikace a zlepšuji analytické schopnosti ve spracování dat. This thesis explores the bidirectional relationship between physics and machine learning, advancing both fundamental understanding and practical applications at their intersection. While machine learning, and deep learning in particular, has achieved remarkable success across all scientific domains, the lack of interpretability in deep learning models remains a major obstruction to true scientific progress. I discuss how physics can contribute to machine learning through two complementary approaches: providing theoretical frameworks for understanding deep learning systems and inspiring novel algorithmic improvements. Conversely, I review and demonstrate how deep learning can address challenges in the physical sciences, particularly in spectroscopy, and how it benefits from incorporating physics-inspired inductive biases. The key contributions of this thesis fall into three main directions. First, I advance the empirical and theoretical understanding of deep neural networks using concepts from high-dimensional geometry and percolation theory, offering insights into a novel phenomenon called Input Space Mode Connectivity. Second, I develop a physics-inspired learning method that incorporates inductive biases respecting data-generating processes in spectroscopy, leading to enhanced interpretability. Third, I apply deep learning methods to spectroscopic data analysis, with a focus on Laser-Induced Breakdown Spectroscopy (LIBS), demonstrating practical applications and improving analytic capabilities.
Keywords: fyzika; fyzikou-inspirované strojové učení; hluboké učení; interpretovatelnost; spektroskopická data; strojové učení; deep learning; interpretability; machine learning; physics; physics-inspired learning; spectroscopic data

Institution: Brno University of Technology (web)
Document availability information: Fulltext is available in the Brno University of Technology Digital Library.
Original record: http://hdl.handle.net/11012/250862

Permalink: http://www.nusl.cz/ntk/nusl-678658


The record appears in these collections:
Universities and colleges > Public universities > Brno University of Technology
Academic theses (ETDs) > Doctoral theses