20160607_Információelmélet vizsga: ---------------------------------- 1, (a) Határozza meg az [a,b] intervallumon egyenletes eloszlás entrópiáját. Milyen értelemben optimális az egyenletes eloszlás entrópiája? (3pont) (b) Számítsa ki a szimmetrikus bináris csatorna kapacitását. (5pont) 2, (a) Diszkrét valószínűségi változók esetén definiálja az entrópiát és a feltételes entrópiát. (4pont) (b) Mondja ki az entrópia és a kölcsönös információ tulajdonságait. (6pont) 3, (a) Határozza meg a P={0.28, 0.32, 0.20, 0.15, 0.03, 0.02} eloszlású forrásábécé optimális bináris prefix kódját és számolja ki az átlagos kódhosszat. (5pont) (b) Határozza meg a fenti forrásábécé bináris Shannon-féle kódját és számolja ki az átlagos kódhosszat. (5pont) (c) Határozza meg mindkét kód hatásfokát. (2pont) 4, (a) Egy (6,2) bináris lineáris kód generátormátrixa: G = | 1 0 1 0 1 0 | | 0 1 0 1 0 1 | Írja fel a kód összes kódszavát és határozza meg a a kód paritásellenörző mátrixát. (4pont) (b) Definiálja egy algebrai hibajavító kód távolságát. Mennyi hibát képes egy d_min_ kódtávolságú kód detektálni illetve javítani? (3pont) (c) Mondja ki a singleton korlátra vonatkozó tételt. (3pont)