Ovdje će se nalaziti materijali i kodovi koje ćemo koristiti na predavanjima.

1. Uvod
   • problem učenja, teorija statističkog učenja, kNN i linearna regresija, odnos između pristranosti i varijance
   • bilješke
   • uvodno_predavanje.pdf (kod)
2. Procjena greške i odabir modela
   • unakrsna validacija, stupnjevi slobode
   • bilješke
   • cv_ilustracija (kod)
   • CV_primjer (kod) -- rezultat simulacijske studije
3. Regularizacija linearnog modela
   • greška metode najmanjih kvadrata, ridge regresija, PCA, multikolinearnost
   • bilješke
   • ridge_simulacijski_primjer.pdf -- usporedba testne greske u odnosu na ls metodu
   • ridge_kolinearnost (kod)
4. Odabir varijabli u linearnom modelu
   • best subset selection, forward/backward-stepwise selection, lasso
   • bilješke
   • ridge_vs_lasso_shrinkage.pdf
   • ridge_vs_lasso_MSE.pdf
   • ISLR_ridge_lasso_bss (kod)
5. Nelinearna regresija
   • bilješke: splajnovi, lokalna regresija, aditivni modeli
   • splajnovi_ISLR (kod)
   • DR_baza (kod)
   • ESL_primjeri_lok_regresija.pdf
   • lok_regresija_ISLR (kod)
   • ISLR_aditivan_model.R
6. Generalizirani linearni modeli (GLM)
   • prvi dio -- slideovi (eksponencijalne familije, teorija GLM-a, logistička regresija, modeliranje proporcija)
     • kodovi i podaci
   • drugi dio -- slideovi (Poissonova regr., prekomjerna disperzija, interakcije, stope, generalizacije)
     • kodovi i podaci
7. Osnovne metode za klasifikaciju
   • Bayesov klasifikator, multinomijalna regresija, generativne metode
   • bilješke
   • kodovi
8. Metode bazirane na stablima
   • bilješke: CART (stabla odlučivanja), bagging i slučajne šume, boosting
   • kodovi
   • L2_boosting_ilustracija.png (preuzeto od Kevin Murphy) -- J je 4, tj. svako stablo radi 3 dijeljenja
   • upute za korištenje gbm paketa (sadrži i uvod u teoriju gbm-a)

Završni ispit

• Primjer završnog ispita (21./22.)