|
Cross-entropy based combination of discrete probability distributions for distributed decision making
Sečkárová, Vladimíra ; Kárný, Miroslav (vedoucí práce) ; Jurečková, Jana (oponent) ; Janžura, Martin (oponent)
dizertační práce Název práce: Kombinování diskrétních pravděpodobnostních rozdělení pomocí křížové entropie pro distribuované rozhodování Autor: Vladimíra Sečkárová Email autora: seckarov@karlin.mff.cuni.cz Katedra: Katedra pravděpodobnosti a matematické statistiky Matematicko-fyzikální fakulta, Univerzita Karlova v Praze Vedoucí disertační práce: Ing. Miroslav Kárný, DrSc., Ústav teorie informace a automatizace AV ČR, v.v.i. Email vedoucího: school@utia.cas.cz Abstrakt: Tato práce se zabývá návrhem systematického kombinování diskrétních pravděpo- dobnostních distribucí založeném na teorii rozhodování a teorii informace, konkrét- ně na křížové entropii (známé také jako Kullbackova-Leiblerova (KL) divergence). Optimální kombinací je pravděpodobnostní funkce minimimalizující podmíněnou střední hodnotu KL-divergence. Hustota pravděpodobnosti, která se váže k této střední hodnotě, rovněž minimalizuje KL-divergenci za podmínek vztažených k řešenému problému. Ačkoliv je kombinace odvozena pro pravděpodobnostní typ informace na společném nosiči, můžeme ji po transformaci a/anebo rozšíření použít i pro míchání jiných typů informace. Práce také zahrnuje diskuzi o navrho- vaném kombinování a...
|
|
O významu entropie
Janžura, Martin
Cílem je ukázat význam základních pojmů teorie informace,tj. entropie a I-divergence, jak pro statistické úlohy tak i pro limitní věty teorie pravděpodobnosti.
|
|
O jednom přibližném řešení marginálního problému
Janžura, Martin
S využitím principu maximální entropie je řešení marginálního problému získáno ve formě parametrického exponenciálního (Gibbs-Markovova) rozdělení.Neznámé parametry mohou být vypočteny pomocí optimalizační procedury, která odpovídá maximálně věrohodnému odhadu, ale je numericky obtížně proveditelná pro vysoce rozměrné systémy.Numericky snáze proveditelná je řešení založené na algebraické Moebiově formuli. Tato formula obsahuje členy, které nejsou přímo k dispozici, ale mohou být aproximovány. Tato aproximace tvoří hlavní výsledek práce.
|
| |
| |
|
Abstracts of the 24th European Meeting of Statisticians & 14th Prague Conference on Information Theory, Statistical Decision Functions and Random Processes
Janžura, Martin ; Mikosch, T.
This issue contains short summariesof the contributed and invited papers, as well as posters, accepted for presentation at the 24th European Meeting of Statisticians, jointly held with the 14th Prague Conference on Information Theory, Statistical Decision Functions and Random Processes, Prague, 19-23 August, 2002.
|
| |
| |
| |
| |