FOI nastava
FOI logo

Lista kolegija iz:

ak.god:
2016/2017
semestar:
5. semestar

2016/2017

5ECTSa

Preddiplomski

Informacijski/Poslovni sustavi v1.1

Program Obavezan
Informacijski sustavi IS Ne
Poslovni sustavi PS Ne
5. semestar
3. nastavna godina

Uvod u teoriju informacija npp:72640

Engleski naziv

Introduction to Information Theory

Katedra

Katedra za teorijske i primijenjene osnove informacijskih znanosti

Kategorija ("boja")

TO

Cilj kolegija

Cilj kolegija je upoznati studente s osnovnim idejama Teorije infor-macije odgovarajući na sljedeća fundamentalna pitanja: • kako prenijeti i spremiti što je moguće više informacija • kolika je maksimalna količina informacije koja se može prenijeti kroz pojedine vrste kanala i mreža, • koju zaštitu i sigurnost moramo osigurati kod prijenosa i spre-manja informacija. Kroz primjenu matematičke teorije primjerene studentima ovog fa-kulteta, obrazlažu se informacijsko-teorijski temelji na kojima počiva suvremena telekomunikacijska i računarska tehnologija.

Nastava

Predavanje
30sati
Seminar
30sati

Ishodi učenja predmeta

  • biti upoznat s temeljima teorije informacije kao egzaktne matematičke teorije
  • dobiti primjer i poticaj za proučavanje temeljnih tehničkih disciplina i matematičkih teorija
  • poznavati ideju vodilju, te matematički opis i realizaciju zaštitnog kodiranja kao sveprisutne primjene teorije informacije u suvremenoj računarskoj i telekomunikacijskoj praksi
  • razumjeti ciljeve i načela kodiranja i suštinu Shannonovog teorema o kodiranju kao fundamentalnog informacijskog zakona
  • razumjeti dublji pojam količine informacije kroz Shannonovu entropiju, njenu vezu s računarstvom i kodiranjem
  • upoznati apstraktni prikaz komunikacijskog sustava kroz njegove stohastičke odrednice, te teorijsko-informacijske veličine za njegovo opisivanje: ulazna i izlazna entropija, ekvivokacija, irelevancija (šum) i uzajamna informacija;
  • upoznati primjer matematičke teorije s primjenom u tehničkom i fundamentalnom području znanosti

Sadržaj predavanja

  • Uvod u teoriju informacije
    1. Uvod. Primjena TI od računarstva i telekomunikacija do ostalih znanosti. Sintaktički, semantički, pragmatički aspekti, korisnost informacije. Semantika i semiologija. Kvantitativni pristup informaciji. Deterministički i probabilistički sustavi. 2. Kratak pregled teorije vjerojatnosti. Algebra događaja, funkcija vjerojatnosti, uvjetna vjerojatnost, Bayesov teorem, vjerojatnosni prikaz apstraktnog komunikacijskog sustava, matrični prikaz. 3. Shannonova entropija. Vlastita informacija signala. Entropija kao prosječna količina informacije. Svojstva entropije. Teorem o maksimalnoj i minimalnoj entropiji. Teorem o spontanom povećanju entropije. (4h) 4. Uzajamna informacija. Uvjetne entropije (ekvivokacija, irelevancija) i entropije uređenih parova događaja. Uzajamna informacija (transinformacija). Primjeri i analiza apstraktnih kanala, te binarnog simetričnog kanala (BSC). (4h) 5. Izvori informacije. Vrste i svojstva. Entropija izvora, omjer entropije. Izvori bez memorije. AEP. Markovljev izvor (stacionarna distribucija i entropija), Markovljevi lanci. Ergodički izvori. (3h) 6. Kodiranje izvora. Formalizam kodiranja. Kodovi s čvrstom duljinom kodnih zamjena. Pouzdanost kôda. Kôd s promjenjivom duljinom kodnih zamjena. Optimalni kodovi. Shannon-Fano teorem (o kodiranju). (3h) 7. Komunikacijski kanal. Vrste kanala. Diskretni kanal bez memorije. Definicija kapaciteta kanala. Kapacitet simetričnog i slabo simetričnog kanala. Kapacitet nesimetričnog kanala s regularnom matricom prijelaza. Paralelni i serijski spoj kanala. (3h) 8. Tehnički aspekti komunikacijskog kanala. Mediji i signali. Modulacije. Svojstva signala i smetnji. Prijenos digitalnog signala. Nyquistov teorem o uzorkovanju. (2h) 9. Sigurnosno kodiranje. Koder i dekoder uz sigurnosni kanal. Sheme odlučivanja. Fundamentalni teorem (skica). Idealna shema odlučivanja za BSC. Hammingov uvjet. Linearni blok kodovi. Hammingov kôd. (4h)

Sadržaj seminara/vježbi

  • Uvod u teoriju informacija
    Kratak pregled te pojašnjenje teorijskog gradiva, zadaci za vježbu, izrada seminarskih radova u svezi s teorijskim gradivom, primjeri primjene u praksi

Preduvjeti

  • Matematika 1
    Cilj predmeta Matematika I je upoznavanje studenata s osnovnim pojmovima diskretne matematike (kao što su matematički modeli, matematička logika te skupovi i relacije) i linearne algebre (matrice, determinante, sustavi linearnih jednadžbi i nejednadžbi) koji su neophodni za prihvaćanje kvantitativnih aspekata znanja u informacijskim i organizacijskim znanostima te priprema studenata za logičko razmišljanje u znanosti i poslovanju. Predmet ima i generičke ciljeve kao što su timski rad, prezentacijske vještine (usmeno i pismeno izražavanje), razumijevanje modela, upotreba literature i razvoj ICT vještina, te posebno strategije rješavanja problemskih zadataka. Nadalje, koncepcija rada omogućava razvoj vještina apstrakcije kod studenata
  • Matematika 2
    Cilj predmeta Matematika II je upoznavanje studenata s osnovnim pojmovima matematičke analize (kao što su realne funkcije realne varijable, nizovi realnih brojeva, limes funkcije, derivacija funkcije, neodređeni i određeni integrali), koji su neophodni za usvajanje kvantitativnih aspekata znanja u informacijskim i organizacijskim znanostima. Studenti se upoznaju s pojmom optimizacije i uvedu se u gradnju modela te nauče primjenjivati apstraktne matematičke definicije i teoreme na konkretne probleme. Predmet ima i generičke ciljeve kao što su timski rad, prezentacijske vještine (usmeno i pismeno izražavanje), razumijevanje modela, upotreba literature i razvoj ICT vještina, te posebno strategije rješavanja problemskih zadataka. Nadalje, koncepcija rada omogućava razvoj vještina apstrakcije kod studenata
  • Statistika
    Cilj ovoga kolegija je naučiti studente metode i vještine koje će koristiti kao podlogu za produbljivanje novih sadržaja u kasnijim godinama studija. Nadalje, težište izučavanja ovoga kolegija je detaljno uvođenje studenata na korištenje metoda primijenjene statističke analize. Primjena ovih metoda može biti korisna već u toku studija i to kod pisanja kako seminarskih radova tako i diplomskog rada. Također, naučene metode i vještine u praksi moći će se primjenjivati kod izrade stručnih i znanstvenih radova. Isto tako mogu poslužiti i na budućem radnom mjestu
Nema podataka o izvođačima nastave
Nema definiranih ispitnih rokova
Nema podataka o rasporedu
Copyright © 2015 FOI Varaždin. All Rights Reserved. Sva prava pridržana.
Povratak na vrh