Random forest; (pre-)pruning; model compression; node budget; memory constraint; big data
Abstract :
[en] Decision forests such as Random Forests and Extremely randomized trees are state-of-the-art supervised learning methods. Unfortunately, they tend to consume much memory space. In this work, we propose an alternative algorithm to derive decision forests under heavy memory constraints. We show that under such constraints our method usually outperforms simpler baselines and can even sometimes beat the original forest.
Disciplines :
Computer science
Author, co-author :
Begon, Jean-Michel ; Université de Liège > Dép. d'électric., électron. et informat. (Inst.Montefiore) > Algorith. des syst. en interaction avec le monde physique
Joly, Arnaud ; Université de Liège > Dép. d'électric., électron. et informat. (Inst.Montefiore) > Systèmes et modélisation
Geurts, Pierre ; Université de Liège > Dép. d'électric., électron. et informat. (Inst.Montefiore) > Algorith. des syst. en interaction avec le monde physique
Language :
English
Title :
Joint learning and pruning of decision forests
Publication date :
12 September 2016
Number of pages :
2
Event name :
The 25th Belgian-Dutch Conference on Machine Learning (Benelearn)
Event organizer :
KULeuven (Kulak)
Event place :
Kortrijk, Belgium
Event date :
Du 12 au 13 Septembre 2016
Audience :
International
Tags :
CÉCI : Consortium des Équipements de Calcul Intensif