Název: Konvergence stochastického gradientu v úlohách strojového učení
Překlad názvu: Convergence of stochastic gradient descent in machine learning problems
Autoři: Jelínková, Marie ; Branda, Martin (vedoucí práce) ; Kozmík, Karel (oponent)
Typ dokumentu: Bakalářské práce
Rok: 2022
Jazyk: cze
Abstrakt: [cze] [eng]
Tato práce se zabývá hledáním minima účelové funkce, která je součtem diferenco- vatelné (možno i nekonvexní) a obecné konvexní funkce. Zaměřili jsme se na metody stochastického a projektovaného gradientového sestupu ze strojového učení. Představu- jeme metodu kombinující oba přístupy. Postupně zavedeme potřebné pojmy a představíme RSPG algoritmus schopný řešit daný problém. Dokážeme jeho konvergenci pro konvexní i nekonvexní funkce. Součástí práce je i krátká numerická studie. 1 The aim of this thesis is solving minimization problems where the objective function is a sum of a differentiable (yet possibly non-convex) and general convex function. We focus on methods of stochastic and projected gradient descent from machine learning. By combining those two approaches we introduce an algorithm for solving such problems. The work is composed in a gradual manner where we firstly define necessary concepts needed for describing RSPG algorithm. Then we proceed to show the convergence of the algorithm for both convex and non-convex objective functions. A short numerical study is also included at the end. 1
Klíčová slova: strojové|učení|optimalizace|stochastický|gradient|projekce; machine|learning|optimization|stochastic|gradient|projection

Instituce: Fakulty UK (VŠKP) (web)
Informace o dostupnosti dokumentu: Dostupné v digitálním repozitáři UK.
Původní záznam: http://hdl.handle.net/20.500.11956/175756

Trvalý odkaz NUŠL: http://www.nusl.cz/ntk/nusl-509624


Záznam je zařazen do těchto sbírek:
Školství > Veřejné vysoké školy > Univerzita Karlova > Fakulty UK (VŠKP)
Vysokoškolské kvalifikační práce > Bakalářské práce