Definíció
A random forest több döntési fa ensemble módszer. A predikciók aggregálása (átlag regresszióban, szavazás klasszifikációban) csökkenti az overfitting kockázatát az egyes fákhoz képest.
Bootstrap aggregálás
Bagging: minden fa bootstrap mintán (véletlen visszavételezéssel) tanul. Az out-of-bag (OOB) minta validációs célra használható.
Feature randomness
Minden felosztásnál véletlen jellemző részhalmazból választ. Ez növeli a fák divergenciáját és javítja a generalizációt.
Feature importance
Feature importance: a jellemzők átlagos impurity csökkenése vagy permutációs importance a modell teljesítmény változásából.
Elemzési megjegyzések
A random forest kezeli a nemlinearitást és interakciókat, de nagy modellek lassabb predikciót és magasabb memóriaigényt eredményezhetnek éles környezetben.