|
|
Introduction to Feature Selection Toolbox 3 – The C++ Library for Subset Search, Data Modeling and Classification
Somol, Petr ; Vácha, Pavel ; Mikeš, Stanislav ; Hora, Jan ; Pudil, Pavel ; Žid, Pavel
We introduce a new standalone widely applicable software library for feature selection (also known as attribute or variable selection), capable of reducing problem dimensionality to maximize the accuracy of data models, performance of automatic decision rules as well as to reduce data acquisition cost. The library can be exploited by users in research as well as in industry. Less experienced users can experiment with different provided methods and their application to real-life problems, experts can implement their own criteria or search schemes taking advantage of the toolbox framework. In this paper we first provide a concise survey of a variety of existing feature selection approaches. Then we focus on a selected group of methods of good general performance as well as on tools surpassing the limits of existing libraries. We build a feature selection framework around them and design an object-based generic software library. We describe the key design points and properties of the library.
|
|
|
Sequential Retreating Search Methods in Feature Selection
Somol, Petr ; Pudil, Pavel
Inspired by Floating Search, our new pair of methods, the Sequential Forward Retreating Search (SFRS) and Sequential Backward Retreating Search (SBRS) is exceptionally suitable for Wrapper based feature selection. (Conversely, it cannot be used with monotonic criteria.) Unlike most of other known sub-optimal search methods, both the SFRS and SBRS are parameter-free deterministic sequential procedures that incorporate in the optimization process both the search for the best subset and the determination of the best subset size. The subset yielded by either of the two new methods is to be expected closer to optimum than the best of all subsets yielded in one run of the Floating Search. Retreating Search time complexity is to be expected slightly worse but in the same order of magnitude as that of the Floating Search. In addition to introducing the new methods we provide a testing framework to evaluate them with respect to other existing tools.
|
|
|
Má smysl vyvíjet nové metody výběru příznaků?
Somol, Petr ; Novovičová, Jana
Jedno z aktuálních témat diskutovaných v současné době ve vztahu k oboru rozpoznávání je otázka skutečné účinnosti moderních metod výběru příznaků. Výběr příznaků je stále zkoumaná oblast neboť může zlepšit jak účinnost tak i hospodárnost automatických rozhodovacích systémů v mnoha aplikačních oblastech, z nichž mezi nejdůležitější patří lékařská diagnostika. Výběr příznaků může také zlepšit účinnost klasifikátorů, navržených na základě omezeného množství dat, nebo přispět k interpretaci modelů. Zejména poslední dobou bylo vyvinuto mnoho metod a metodologií slibujících významné zlepšení. Nicméně objevila se také řada kritických příspěvků prohlašujících, že jednoduché staré nástroje jsou ve skutečnosti lepší než složité moderní metody, které, navzdory slibům, selhávají v reálných aplikacích. Ve zprávě zkoumáme toto tvrzení, ukazujeme několik ilustrativních příkladů, vyvozujeme závěry a doporučení týkající se očekávané účinnosti metod výběru příznaků.
|
host ::
RSS.