Subject
Применета теорија на информации
| 1. | Наслов на наставниот предмет |
Применета теорија на информации Applied Information Theory |
||||||||||||
| 2. | Код | m23_w_018 | ||||||||||||
| 3. | Студиска програма | — | ||||||||||||
| 4. | Организатор на студиската програма (единица, односно институт, катедра, оддел) | Факултет за информатички науки и компјутерско инженерство | ||||||||||||
| 5. | Степен (прв, втор, трет циклус) | Втор циклус | ||||||||||||
| 6. | Академска година / семестар | 9 / Зимски | ||||||||||||
| 7. | Број на ЕКТС кредити | 6 | ||||||||||||
| 8. | Наставник | Александра Поповска Митровиќ, Наташа Илиевска, Верица Бакева | ||||||||||||
| 9. | Предуслови за запишување на предметот | — | ||||||||||||
| 10. | Цели на предметната програма (компетенции) | Изучување на напредните аспекти на математички модел на комуникациски систем. | ||||||||||||
| 11. | Содржина на предметната програма | Комуникациски систем. Ентропија. Информација. Компресија на податоци: Кодирање со загуби. Asymptotic Equipartition Property (AEP) за независни случајни променливи. Теорема на Shannon за кодирање на изворен сигнал. Кодирање без загуби. Симболични кодови. Проблем на единствено декодирање. Моментални кодови. Крафтово неравенство. Теорема за бесшумно кодирање. Конструкција на оптимални кодови. Комуникација преку канал со шум (Комуникациски канал. Модели на комуникациски канал. Дискретен канал без меморија. Капацитет на дискретен канал без меморија). Извори на информации: Вериги на Марков. Извор на информации. Регуларен Марков извор. Ентропија на извор. Ред на извор. Апроксимација на општ извор на информации со извор од конечен ред. Ергодичен извор. Теорема на Shannon – McMillan (Asymptotic Equipartition Property (AEP)). Дискретен канал со меморија: Модели на дискретен канал со меморија. Канал со конечно множество состојби. Капацитет на општ дискретен канал. Теорема за кодирање за регуларен канал со конечно множество состојби. Непрекинати канали: Ентропија на непрекинати случајни променливи. Ентропија на Гаусова случајна променлива. Видови непркинати канали. Гаусов канал (временски дискретен). AEP за непрекинати случајни променливи. Теорема за кодирање за Гаусов канал. |
||||||||||||
| 12. | Методи на учење | Предавања, проекти, дискусии, работилници | ||||||||||||
| 13. | Вкупен расположив фонд на време | 6 ЕКТС x 30 часа = 180 часа | ||||||||||||
| 14. | Распределба на расположивото време | 60 + — + 45 + 45 + 30 = 180 часа | ||||||||||||
| 15. | Форми на наставните активности |
|
||||||||||||
| 16. | Други форми на активности |
|
||||||||||||
| 17. | Начин на оценување |
|
||||||||||||
| 18. | Критериуми за оценување (бодови/ оценка) |
|
||||||||||||
| 19. | Услов за потпис и полагање на завршен испит | Реализирани активности 15, 16 | ||||||||||||
| 20. | Јазик на кој се изведува наставата | Македонски и англиски | ||||||||||||
| 21. | Метод на следење на квалитетот на наставата | Механизам на интерна евалуација и анкети | ||||||||||||
| 22. | Литература |
|
