XGBoost. I po co to komu?

Będzie o drzewach, lasach i nie tylko... a jednak ani nie o dendrologii, ani nie o leśnictwie…. Drzewa decyzyjne, lasy losowe i... XGBoost. I po co to komu?

W pierwszej części zapraszam na prezentację („XGBoost rządzi, ale może jeszcze więcej”), którą dzieli się samouk i trener uczenia maszynowego – Vladimir Alekseichenko.

Zagadnienie poruszone w prezentacji, m.in.:

1. XGBoost

2. drzewa decyzyjne, lasy losowe

3. ważność cech, nieliniowe zależności w cechach

4. learning step (długość kroku), “n estimators” (ilość kroków)

5. wynik pośredni

6. trenowanie drzew z mniejszą i większa głębokością w tym samym modelu

W drugiej części podrzucam spis dodatkowych źródeł wiedzy w obrębie tematu:

=> Official GitHub repository

=> XGBoost page

=> Official documentation page

=> Higgs Boson Discovery with Boosted Trees

=> XGBoost: A Scalable Tree Boosting System

Instalacja:

=> XGBoost documentation website

XGBoost w Pythonie:

=> Python Package Introduction

=> XGBoost Python Feature Walkthrough

XGBoost w R:

=> CRAN page for the xgboost package

=> R vignette Package ‘xgboost

=> Discover Your Data

=> XGBoost Presentation

=> XGboost: eXtreme Gradient Boosting

=> Understand your dataset with XGBoost

---

Źródło:

• https://www.pexels.com/photo/nature-forest-trees-park-38136/

• https://github.com/dmlc/xgboost

• https://github.com/dmlc/xgboost/tree/master/demo

• https://xgboost.readthedocs.io/en/latest/

• http://proceedings.mlr.press/v42/chen14.pdf

• https://arxiv.org/abs/1603.02754

• http://xgboost.readthedocs.io/en/latest/build.html

• https://cran.r-project.org/web/packages/xgboost/index.html

• https://cran.r-project.org/web/packages/xgboost/vignettes/discoverYourData.html

• https://cran.r-project.org/web/packages/xgboost/vignettes/xgboostPresentation.html

• https://cran.r-project.org/web/packages/xgboost/vignettes/xgboost.pdf

• http://xgboost.readthedocs.io/en/latest/R-package/xgboostPresentation.html

• http://xgboost.readthedocs.io/en/latest/R-package/discoverYourData.html

• http://xgboost.readthedocs.io/en/latest/python/python_intro.html

• https://github.com/tqchen/xgboost/tree/master/demo/guide-python

---

#boostedtrees #trenowaniedrzew #ważnośćcech #learningstep #Python #nestimators #drzewadecyzyjne #lasylosowe #R #XGBoost