Podatkovno inženjerstvo

Repozitorij

Repozitorij je prazan

Anketa

Na ovoj stranici trenutno nije odabrana niti jedna anketa!

Podatkovno inženjerstvo

Šifra: 296819
ECTS: 5.0
Nositelji: doc. dr. sc. Marko Horvat
Izvođači: Predavanja:
doc. dr. sc. Marko Horvat

Auditorne vježbe:
Helena Marciuš , mag. inf. et math.
Prijava ispita: Studomat
Opterećenje:

1. komponenta

Vrsta nastaveUkupno
Predavanja 15
Auditorne vježbe 30
* Opterećenje je izraženo u školskim satima (1 školski sat = 45 minuta)
Opis predmeta:
CILJ KOLEGIJA: Studente osposobiti za:
- rad s alatima za razvoj kompleksnih data pipeline-a;
- razvoj agregacijskih frameworka s obzirom na razinu apstrakcije prema korisniku sustava;
- razumijevanje teorije tokova podataka te implementaciju sustava za obradu toka podatak u realnom vremenu;
- konfiguraciju relacijskih i ne relacijskih baza podataka za skalabilnu pohranu i čitanje podataka;
- objektno orijentiranu implementaciju naprednih komponenata za pretraživanje relacijskih i ne relacijskih baza podataka;
- dizajniranje i implementaciju podatkovnih rješenja u oblaku.

NASTAVNI SADRŽAJI:
1. Razvoj data pipelinea i agregacijskih frameworka. Transformacije. Vrste data pipeline sustava. State machine u data pipelineu. Workflow Monitoring. Razine korištenja sustava za procesiranje. Sadržaj pomoćnih paketa. Razine paralelizacije u obradi podataka.
2. Obrada tokova podataka. Motivacija i osnove tokova podataka. Sustavi poruka. Operacije s prozorima. Okidači i watermarkovi. Sustavi za obradu tokova podataka. Kappa, Lambda i hibridne arhitekture.
3. Pohrana analitičkih rezultata. Vrste agregata i rezultata analiza. Optimizacije pri pohrani velike količine podataka. Sustavi za pretraživanje podataka. Sučelja za generiranje slika i izvještaja.
4. Podatkovno inženjerstvo u oblaku. Osnove inženjerstva u oblaku. Infrastruktura u oblaku. Sigurnost u oblaku. Implementacija sustava za obradu podatak u oblaku.
Literatura:
  1. Streaming systems: the what, where, when, and how of large-scale data processing, Akidau, T., Chernyak, S., & Lax, R., O'Reilly Media, Inc., 2018.
  2. Designing data-intensive applications: The big ideas behind reliable, scalable, and maintainable systems, Kleppmann, M., O'Reilly Media, Inc., 2017.
  3. Big Data, Cloud Computing, and Data Science Engineering (Vol. 844), Lee, R. (Ed.), Berlin/Heidelberg, Germany: Springer, 2019.
  4. Data Stream Processing and Analytics, https://vasia.github.io/dspa21/index.html, Boston University, CS 591 K1, 2021.
  5. Big Data Processing, https://burcuku.github.io/cse2520-bigdata/, TU Delft, CSE2520, 2022.
Preduvjeti za:
Upis predmeta :
Položen : Napredne baze podataka
1. semestar Ne predaje se
Ostali izborni predmeti - Redovni Studij - Računarstvo i matematika

2. semestar
Ostali izborni predmeti - Redovni Studij - Računarstvo i matematika

3. semestar Ne predaje se
Ostali izborni predmeti - Redovni Studij - Računarstvo i matematika

4. semestar
Ostali izborni predmeti - Redovni Studij - Računarstvo i matematika
Termini konzultacija:
  • doc. dr. sc. Marko Horvat:

    Srijeda, 10-12 (obavezna najava mejlom)

    Lokacija: A306

Obavijesti