Popis předmětu - B0B01TIK

Přehled studia | Přehled oborů | Všechny skupiny předmětů | Všechny předměty | Seznam rolí | Vysvětlivky               Návod
B0B01TIK Teorie informace a kódování
Role:  Rozsah výuky:4P+2S
Katedra:13101 Jazyk výuky:CS
Garanti:  Zakončení:Z,ZK
Přednášející:  Kreditů:8
Cvičící:  Semestr:L

Webová stránka:

http://math.feld.cvut.cz/gollova/tik.html

Anotace:

Předmět seznamuje studenty s matematickými základy zpracování digitální informace. Jsou vyloženy metody efektivního kódování (Lempel-Ziv) a možnosti přenosu informace informačním kanálem (Shannonova věta). Dále jsou uvedeny základy schémat pro sdílení utajené informace (secret sharing schemes). V druhé části je věnována pozornost kódům pro detekci a opravu chyb. V neposlední řadě slouží kurs jako panoráma rozličných matematických partií používaných v teorii informace (teorie pravděpodobnosti, náhodné procesy, ergodická teorie, algebra).

Výsledek studentské ankety předmětu je zde: A0B01TIK

Cíle studia:

Porozumění matematickému modelu kódování a přenosu digitální informace.

Osnovy přednášek:

1) Entropie, informační divergence, vzájemná informace. Podmíněná entropie a podmíněná informace.
2) Rychlost entropie pro stacionární a ergodické zdroje informace.
3) Univerzální zdrojové kódování. Lempelovy-Zivovy kód.
4) Informační kanál, základní typy kanálů.
5) Kapacita kanálu. Blahutův-Arimotův algoritmus.
6) Shannonova věta o kapacitě kanálu.
7) Úvod do schémat pro sdílení tajemství.
8) Algebraické struktury používané při detekci a opravě chyb. Okruh Z_n, lineární prostory nad tělesem Z_p.
9) Lineární kódy - generující a kontrolní matice. Hammingovy kódy.
10) Polynomy nad Z_p a faktorové okruhy polynomů.
11) Cyklické kódy - generující a kontrolní polynom.
12) Galoisova tělesa, primitivní prvek, charakteristika tělesa.
13) Kořeny cyklických kódů, BCH kódy.
14) Rezerva.

Osnovy cvičení:

1) Entropie, informační divergence, vzájemná informace. Podmíněná entropie a podmíněná informace.
2) Rychlost entropie pro stacionární a ergodické zdroje informace.
3) Univerzální zdrojové kódování. Lempelovy-Zivovy kód.
4) Informační kanál, základní typy kanálů.
5) Kapacita kanálu. Blahutův-Arimotův algoritmus.
6) Shannonova věta o kapacitě kanálu.
7) Úvod do schémat pro sdílení tajemství.
8) Algebraické struktury používané při detekci a opravě chyb. Okruh Z_n, lineární prostory nad tělesem Z_p.
9) Lineární kódy - generující a kontrolní matice. Hammingovy kódy.
10) Polynomy nad Z_p a faktorové okruhy polynomů.
11) Cyklické kódy - generující a kontrolní polynom.
12) Galoisova tělesa, primitivní prvek, charakteristika tělesa.
13) Kořeny cyklických kódů, BCH kódy.
14) Rezerva.

Literatura:

[1] Cover, T.M., Thomas, J.A.: Elements of Information Theory. Wiley, 2006.
[2] Yeung, R.W.: Information Theory and Network Coding. Springer, 2008.
[3] Adámek, J.: Kódování. SNTL, Praha, 1989.
[4] Vajda, I.: Teorie informace. Vydavatelství ČVUT, 2004.

Požadavky:

Pravděpodobnost, statistika a teorie informace (A0B01PSI), Diskrétní matematika (A4B01DMA) Více informací viz. http://math.feld.cvut.cz/gollova/tik.html

Poznámka:

Předmět bude vyučován pouze v prezenční formě bez anglické verze. Předmět bude pravděpodobně otevírán jednou za dva roky.

Klíčová slova:

entropie, informace, kapacita kanálu, schéma pro sdílení tajemství, lineární kódy, Hammingovy kódy, cyklické kódy a BCH kódy

Předmět je zahrnut do těchto studijních plánů:

Plán Obor Role Dop. semestr


Stránka vytvořena 20.4.2024 07:54:16, semestry: Z,L/2023-4, Z/2024-5, připomínky k informační náplni zasílejte správci studijních plánů Návrh a realizace: I. Halaška (K336), J. Novák (K336)