Shannon < Netzwerke < Praktische Inform. < Hochschule < Informatik < Vorhilfe
|
| Status: |
(Frage) beantwortet  | | Datum: | 14:11 Fr 03.04.2009 | | Autor: | DAB268 |
| Aufgabe | Eine Informationsquelle sende sechs Zeichen A, B, C, D, E und F mit folgender Auftrittswahrscheinlichkeit aus: A 10%, B 5%, C 40%, D 20%, E 5%, F 20%. Dabei sei jedes Sendeereignis vom vorherigen unabhängig.
(a) Berechnen Sie Entropie, relative Entropie und Redundanz dieser Informationsquelle (nutzen Sie dabei die Werte log2(10)=3,32 und log2(6)=2,58).
(b) Kodieren Sie die Symbole nach der Methode von Fano (es gibt dabei mehrere Möglichkeiten, die gleichwertig sind). Berechnen Sie die zugehörige durchschnittliche Bitlänge pro Symbol.
(c) Wieso bleibt die durchschnittliche Bitlänge aus (b) etwas über dem Idealwert der Entropie aus (a)? |
Hallo.
Bei Teilaufgabe c) habe ich leider keine Lösung gefunden. Wäre super, wenn ihr mir da helgfen könntet.
(a)
H = 2,22
[mm] H_{max} [/mm] = 2,58
[mm] H_{rel} [/mm] = 0,86
Redundanz = 0,14
(b)
C 0
D 10
F 110
A 1110
B 11110
E 11111
Durchschnittliche Bitlänge = 2,3
c) Leider keine Lösung, aber ich hab mir schonmal gedacht, dass es evtl. daran liegt, dass man mit [mm] 2^3 [/mm] Bits nicht nur 6 sondern 8 Zeichen kodieren kann.
MfG
DAB268
|
|
| |
|
| Status: |
(Antwort) fertig  | | Datum: | 17:20 Fr 03.04.2009 | | Autor: | Infinit |
Hallo DAB268,
ja, das ist der Grund, man kann, zumindest mit diesen Verfahren, eine Information nur mit einer ganzzahligen Anzahl von Bits wiedergeben. Bei algebarischen Codierungen ist dies nicht der Fall, dafür sind diese komplizierter zu entwickeln.
Viele Grüße,
Infinit
|
|
|
|
