Pristupačnost
Ovdje će se nalaziti materijali i kodovi koje ćemo koristiti na predavanjima.
- Uvod
- problem učenja, teorija statističkog učenja, kNN i linearna regresija, odnos između pristranosti i varijance
- bilješke
- uvodno_predavanje.pdf (kod)
- Procjena greške i odabir modela
- unakrsna validacija, stupnjevi slobode
- bilješke
- CV_ilustracija (kod)
- CV_primjer (kod) -- rezultat simulacijske studije
- Regularizacija linearnog modela
- greška metode najmanjih kvadrata, ridge regresija, PCA, multikolinearnost
- bilješke
- ridge_simulacijski_primjer.pdf -- usporedba testne greske u odnosu na ls metodu
- ridge_kolinearnost (kod)
- Odabir varijabli u linearnom modelu
- best subset selection, forward/backward-stepwise selection, lasso
- bilješke
- ridge_vs_lasso_shrinkage.pdf
- ridge_vs_lasso_MSE.pdf
- ISLR_ridge_lasso_bss (kod)
- Nelinearna regresija
- bilješke: splajnovi, lokalna regresija, aditivni modeli
- splajnovi_ISLR (kod)
- DR_baza (kod)
- lok_regresija_primjeri.pdf
- lok_regresija_ISLR (kod)
- ISLR_aditivan_model (kod)
- Generalizirani linearni modeli (GLM)
- bilješke: eksponencijalne familije, GLM
- heart (kod) -- primjer s binomnom familijom razdioba
- podaci: heart.csv
- Osnovne metode za klasifikaciju
- bilješke: Bayesov klasifikator, logistička regresija, generativni modeli i kNN metoda
- pusenje (kod) -- tzv. Simpsonov paradoks
- wine_LDA (kod)
- LDA_primjeri.pdf
- S_and_P (kod) -- ilustracija svih metoda
- Metode bazirane na stablima
- bilješke: CART (stabla odlučivanja), bagging i slučajne šume, boosting
- CaliforniaHousing (kod) -- regresijska stabla
- podaci: cadata.dat
- Carseats (kod) -- klasifikacijska stabla
- Boston_bag_i_rf (kod) -- slučajne šume i bagging
- L2_boosting_ilustracija.png (preuzeto od Kevin Murphy) -- J je 4, tj. svako stablo radi 3 dijeljenja
- Boston_boosting (kod) -- primjena L2 boostinga
Završni ispit
- termin: 15.2.2023., 10 sati, predavaona 001
- Primjer završnog ispita (21./22.)