Теорија на информации со дигитални комуникации

Теорија на информации со дигитални комуникации

1.

Наслов на наставниот предмет

Теорија на информации со дигитални комуникации

Information theory and digital communication

2.

Код

F23L2S164

3.

Студиска програма

Примена на информациски технологии, Софтверско инженерство и информациски системи, Компјутерски науки, Примена на информациски технологии, Софтверско инженерство и информациски системи, Компјутерски науки, Компјутерско инженерство, Интернет, мрежи и безбедност, Software engineering and information systems, Компјутерско инженерство, Интернет, мрежи и безбедност, Информатичка едукација, Software engineering and information systems, Стручни студии за програмирање, Стручни студии за програмирање,

4.

Организатор на студиската програма (единица, односно институт, катедра, оддел)

Факултет за информатички науки и компјутерско инженерство

5.

Степен (прв, втор, трет циклус)

Прв циклус

6.

Академска година / семестар

2 / Летен

7. Број на ЕКТС кредити

6.0

8.

Наставник

ворн. проф. д-р Александра Поповска Митровиќ проф. д-р Верица Бакева

9.

Предуслови за запишување на предметот

Веројатност и статистика или Математика 3 или Бизнис и статистика

10.

Цели на предметната програма (компетенции):


Студентите ќе бидат запознаени со квантитативната теорија на информации и нејзината примена во надежни и ефикасни комуникациски системи. Дополнително ќе бидат запознаени со математичкиот модел на комунникацискиот систем.

11.

Содржина на предметната програма:


1. Дефиниција на случајни процеси. Карактеристики: математичко очекување, почетен момент од ред 1-1. Корелациона функција. 2. Својства на корелациона функција. Видови на стационарност на случајни процеси. 3. Ентропија на случајна променлива. Ентропија на случаен вектор. релативна ентропија. Информација. Верижни правила. 4. Својства на ентропија и информација. 5. Вериги на Марков: дефиниција, својства. стационарност. 6. Рата на ентропија 7. Компресија на податоци: дефиниција на код, несингуларен код, код со својство на префикс, Крафтово неравенство. 8. Оптимални кодови. Хуфманов код. Код на Шенон-Фано-Елијас. Аритметички кодови. 9. Капацитет на канал. Дефиниција. Определување на капацитет на познати канали. 10. Диференцијална ентропија. Гаусов канал. 11. Идеална шема за декодирање за бинарен симетричен канал. 12. Линеарни кодови. Кодови кои откриваат и поправаат грешки.

12.

Методи на учење:


Предавања поддржани со презентации преку слајдови, интерактивни предавања, вежби (користење на опрема и софтверски пакети), тимска работа, пример случаи, поканети гости предавачи, самостојна изработка и одбрана на проектна задача и семинарска работа, учење во електронско опкружување (форуми, консултации).

13.

Вкупен расположив фонд на време

6.0 ЕКТС x 30 часа = 180 часа

14.

Распределба на расположивото време

30 + 45 + 15 + 15 + 75 = 180 часа

15.

Форми на наставните активности

15.1.

Предавања- теоретска настава

30 часови

15.2.

Вежби (лабораториски, аудиториски), семинари, тимска работа

45 часови

16.

Други форми на активности

16.1.

Проектни задачи

15 часови

16.2.

Самостојни задачи

15 часови

16.3.

Домашно учење

75 часови

17.

Начин на оценување

17.1.

Тестови

0 бодови

17.2.

Семинарска работа/ проект ( презентација: писмена и усна)

15 бодови

17.3.

Активности и учење

10 бодови

17.4.

Завршен испит

90 бодови

18.

Критериуми за оценување (бодови/ оценка)

до 50 бода

5 (пет) (F)

од 51 до 60 бода

6 (шест) (E)

од 61 до 70 бода

7 (седум) (D)

од 71 до 80 бода

8 (осум) (C)

од 81 до 90 бода

9 (девет) (B)

од 91 до 100 бода

10 (десет) (A)

19.

Услов за потпис и полагање на завршен испит

15.1 и 15.2

20.

Јазик на кој се изведува наставата

македонски и англиски

21.

Метод на следење на квалитетот на наставата

механизам на интерна евалуација и анкети

22.

Литература

22.1.

Задолжителна литература

Ред.бр.

Автор

Наслов

Издавач

Година

4732

T.M.Cover

Elements of Information Theory

John Wiley&Sons.Inc.

1991

4733

Ž. Pauše

Uvod u teoriju informacije

Školska knjiga, Zagreb

0

4734

D.J.C. MacKay

Information Theory, Inference, and Learning Algorithms

Cambridge University Press

2003

22.2.

Дополнителна литература

Ред.бр.

Автор

Наслов

Издавач

Година