|
| |
|
|
Robustní regrese a robustní neuronové sítě
Janáček, Patrik ; Kalina, Jan (vedoucí práce) ; Maciak, Matúš (oponent)
Klasická metoda nejmenších čtverců v lineární regresi je náchylná na přítomnost od- lehlých hodnot v datech. Cílem této práce je představit několik robustních alternativ metody nejmenších čtverců v rámci lineární regrese a diskutovat jejich vlastnosti. Ná- sleduje představení robustních neuronových sítí inspirovaných těmito odhady, které jsou porovnány v rámci simulační studie. Slibnou se jeví zejména metoda nejmenších váže- ných čtverců v kombinaci s adaptivními váhami, která je schopna kombinovat vysokou robustnost s efektivitou při absenci kontaminace v datech. 1
|
|
|
A Bootstrap Comparison of Robust Regression Estimators
Kalina, Jan ; Janáček, Patrik
The ordinary least squares estimator in linear regression is well known to be highly vulnerable to the presence of outliers in the data and available robust statistical estimators represent more preferable alternatives. It has been repeatedly recommended to use the least squares together with a robust estimator, where the latter is understood as a diagnostic tool for the former. In other words, only if the robust estimator yields a very different result, the user should investigate the dataset closer and search for explanations. For this purpose, a hypothesis test of equality of the means of two alternative linear regression estimators is proposed here based on nonparametric bootstrap. The performance of the test is presented on three real economic datasets with small samples. Robust estimates turn out not to be significantly different from non-robust estimates in the selected datasets. Still, robust estimation is beneficial in these datasets and the experiments illustrate one of possible ways of exploiting the bootstrap methodology in regression modeling. The bootstrap test could be easily extended to nonlinear regression models.
|
|
|
Optimalizační metody prvního řádu v úlohách strojového učení
Janáček, Patrik ; Branda, Martin (vedoucí práce) ; Kozmík, Karel (oponent)
Cílem práce je představit metodu stochastického gradientu pro optimalizaci diferenco- vatelné účelové funkce a diskutovat její konvergenci. Nejprve je formulována úloha učení s učitelem a princip minimalizace empirického rizika (ERM). Následuje představení sto- chastického gradientu (SG) a jeho analýza, nejprve v případě silně konvexní účelové funkce a následně pro obecnou nekonvexní funkci. V poslední části je prakticky vyřešena klasi- fikace emailového spamu. 1
|
|
|
On the Effect of Human Resources on Tourist Infrastructure: New Ideas on Heteroscedastic Modeling Using Regression Quantiles
Kalina, Jan ; Janáček, Patrik
Tourism represents an important sector of the economy in many countries around the world. In this work, we are interested in the effect of the Human Resources and Labor Market pillar of the Travel and Tourism Competitiveness Index on tourist service infrastructure across 141 countries of the world. A regression analysis requires to handle heteroscedasticity in these data, which is not an uncommon situation in various available human capital studies. Our first task is focused on testing significance of individual variables in the model. It is illustrated here that significance tests are influenced by heteroscedasticity, which remains true also for tests for regression quantiles or robust regression estimators, resistant to a possible contamination of data by outliers. Only if a suitable model is considered, which takes heteroscedasticity into account, the effect of the Human Resources and Labor Market pillar turns out to be significant. Further, we propose and present a new diagnostic tool denoted as aquintile plot, allowing to interpret immediately the heteroscedastic structure of the linear regression model for possibly contaminated data.
|
host ::
RSS.