![]() |
DigitaltechnikProf. Jürgen Plate |
Nachricht:
Zusammenstellung von Symbolen (Zeichen) zur
Informationsübermittlung.
Symbol:
Element eines Symbol- oder Zeichenvorrates. Dieser Vorrat ist
eine festgelegte endliche Menge von verschiedenen Symbolen (=
Elemente der Menge). Der Unterschied zwischen Symbol und Zeichen
ist recht subtil. Ein Symbol ist ein Zeichen mit bestimmter
Bedeutung.
Alphabet:
Ein geordneter Vorrat von Symbolen.
Wort:
Folge von "zusammengehörigen" Zeichen, die in einem
bestimmten Zusammenhang als Einheit betrachtet werden.
Beispiel:
Alphabet: A,B,C,D,E,F,...,X,Y,Z
Wort: DONALD
Nachricht: DONALD SUCHT DAISY
Hier noch einige Beispiele:


Häufig wird mit "Code" auch nur die Bildmenge bezeichnet.

Wie gesagt: Zweck der Codierung ist die Anpassung der Nachricht an technische Systeme (z. B. Morsecode). Die Codierung ändert nur die Darstellungsform einer Nachricht, nicht ihre Bedeutung.

Hier werden nur Binärcodes behandelt. Die Symbole des
Codealphabets sind die Binärzeichen {0,1}, Die Codeworte sind
Binärworte
Dualzahlen stellen einen Binärcode dar.
Binärcodes spielen in der Technik eine besonders wichtige Rolle.
Beispiele binärer Zeichenvorräte:
| Intensität | hell | dunkel |
| Zahlen | 1 | 0 |
| Zustände | gelocht | ungelocht |
| Wahrheitswerte | wahr | falsch |
| Spannungen | 5 Volt | 0 Volt |
| Ströme | 20 mA | 0 mA |
Zur Codierung von M Zeichen sind also Codeworte der Länge
n = (ganze Zahl >= ld (M))
nötig. Ist M keine Zweierpotenz, können mehr Codeworte gebildet
werden. Die nicht verwendeten Codeworte heißen Pseudowörter
Redundanz. Die Codewortlänge wird oft als Coderahmen bezeichnet.
Es gibt auch Codes, bei denen die Codewortlänge kleiner als ld(M) ist. Die Codeworte sind dann doppelt belegt und Umschaltzeichen ordnen den nachfolgenden Codeworten die Belegung zu (z. B. Telegraphenalphabet CCITT Nr. 2: n = 5, Umschaltung Buchstaben/Ziffern und Sonderzeichen).
Gründe für die Codierung:
Die Forderungen werden aus den o.g. Gründen abgeleitet, was zum
Teil auch wiedersprüchliche Merkmale nach sich zieht
ein für
alle Zwecke optimaler Code existiert nicht
Anwendung mehrerer
Codes in einem System (DV-System) nicht ungewöhnlich
Umcodie-
rung notwendig.
Beispiele für Codeeigenschaften (Forderungen):
Der Dualcode ist ein reiner Binärcode, der der Zahlendarstellung
im Dualsystem entspricht
wortorganisierte binäre Codierung,
einfache Arithmetik, Umcodierung bei Ein-/Ausgabe oder Übertragung
relativ schwierig.
ziffernorganisierte binäre Codierung. Es entsteht eine gemischte
Darstellung; die Ziffernstruktur der Objektmenge bleibt erhalten
und jeder Dezimalziffer wird ein binäres Codewort zugeordnet. Zur
Darstellung werden 4 Bit benötigt
tetradischer Code. Das
Codewort für eine Ziffer wird Tetrade genannt.
Von den insgesamt 16 Tetraden werden nur 10 Nutztetraden benötigt
6 Pseudotetraden. Die Aufteilung der 16 Tetraden in Nutz- und
Pseudotetraden führt zu verschiedenen tetradischen Codes. In der
Digitaltechnik haben nur einige Möglichkeiten Bedeutung gewonnen.
0*8 + 1*4 + 0*2 + 1*1 = 5
Übertragungssicherheit, Ausgabe, etc.
Bedeutung haben fast nur Codes mit gleicher Anzahl der 1-Bits in
allen Codeworten
gleichgewichtige Codes
hohe Redundanz.
Ein Code mit dem Coderahmen (Wortlänge) n, dessen Nutzwörter alle m 1-Bits besitzen heißt m-aus-n-Code. Beispiele:
0
Nebenbemerkung: Kettencodes sind n-Bit-Codes, bei denen über eine zyklische
Anordnung von maximal 2
10 Ziffern, 26 Buchstaben, 10 Sonderzeichen
Abkürzungen der Steuer- und Sonderzeichen:
Die Codes von Unicode-Zeichen werden hexadezimal mit vorangestelltem "U+" dargestellt.
Der Coderaum von Unicode umfasste ursprünglich 65.536 Zeichen (UCS-2, 16 Bit), was bald auch
nicht mehr ausreichte. In Version 2.0 wurde das Konzept der Planes (Ebenen) eingeführt.
Sie bilden ein Präfix zu den bisherigen, 16 Bit langen Codes und vervielfachen so
die Menge der unterscheidbaren Codes. In Unicode 5.0, sind 99.089 Codes individuellen
Zeichen zugeordnet.
Die Codebereiche (Blöcke), in welche die Unicode-Ebenen untergliedert werden, sind in
der "Liste der Unicode-Blöcke" vollständig aufgeführt. Neben den gültig kodierten Zeichen
sind auch noch geplante Erweiterungen aufgeführt.
Die Speicherung und Übertragung von Unicode erfolgt in unterschiedlichen Formaten
(auch „Encodings“ genannt):
In einem fernen Land lebte vor langer, langer Zeit ein kleiner
König, der war dick faul und unzufrieden und wollte den lieben
langen Tag immer nur essen. Wir wollen hier nur seine Nahrungs-
gewohnheiten betrachten - insbesondere, da seine Ernährung recht
einseitig war. Den lieben langen Tag aß er nur:
Zudem war der König sehr maulfaul und mit der Zeit wurde es ihm
sogar zu anstrengend, seine Bestellungen aufzugeben (die er
sowieso im Telegrammstil kundtat: "Braten, Torte, Gurken"). Eines
Tages beschloß er, eine Codierung zu entwickeln, mit der er seine
Befehle auch loswurde, ohne den Mund aufzutun. Durch Zufall wurde
es sogar eine Binärcodierung:
Der Übersichtlichkeit halber wollen wir die Codierung etwas abkürzen.
"R" steht für "rechte Hand heben" und "L"
für "linke Hand heben". Dann ergibt sich folgende Codezuordnung:
Und schon gab es Probleme. Angenommen der König hob dreimal die
rechte Hand (
Nun mußte der König einmal wirklich viel reden. Er rief seinen
Hofmathematikus zu sich und erklärte den Sachverhalt. "Hmmmm"
überlegte dieser: "Majestät haben Höchstdero Speisewünsche
binär codiert. Vorzüglich, Vorzüglich." "Aber es klappt nicht",
raunzte der König,"jedesmal, wenn ich Schweinebraten und Pudding will,
bringen diese Hornochsen mir Gurken!" und er sank erschöpft auf
seinen Thron zurück. "Mit Verlaub, die Codierung ist nicht ein-
deutig, Majestät", wagte der Mathematikus einzuwerfen. "Ich weiß!
Laß Dir gefälligst was einfallen!" grunzte der König. Und
vor lauter Angst, wieder etwas Falsches zu bekommen, brüllte er:
"Braten und Torte, aber fix!".
Der Mathematiker brütete inzwischen über eine eindeutige binäre
Codierung nach und gelangte zu folgenden Überlegungen:
Nun war die Codierung unverwechselbar. Die Zeichenfolge
"LRRLLLRRRRLL" konnte nur noch bedeuten: Gurken, Pudding, Torte,
2 x Braten, Torte.
Zwar war die Codierung eindeutig, aber war sie auch optimal? Bisher wurde
davon ausgegangen, daß der König keine spezielle Vorliebe
für bestimmte Gerichte hat (alle Codewörter sind gleich
wahrscheinlich). Zudem beschwerte sich der König schon nach kurzer
Zeit darüber, daß er viel zu häufig die Hände heben müsse.
Also vergatterte der Mathematikus seinen Assistenten, eine Statistik
der königlichen Essenswünsche aufzustellen. Heraus kam folgendes.
Jeden Tag verspeiste der König im Schnitt 18 Gerichte.
Die Häufigkeitsverteilung stellte sich so dar:
Soll die Codierung optimal, also eindeutig und zweckmäßig sein,
mußte der Matehmatikus versuchen, für den Braten einen möglichst
kurzen Code zu wählen. Dafür darf der Code für eine Grurkenbestellung
ruhig länger sein. Also legte er erst einmal fest:
Damit ist das "R" 'verbraucht', denn es darf wegen der Eindeutigkeit
kein Codewort mehr mit "R" beginnen (Fano-Bedingung: Kein
Code darf der Beginn eines anderen verwendeten Codes sein). Weiter geht es mit:
Es bleibt somit noch ein zweistelliges Codewort übrig (LL, denn
RR und RL sind wegen der Fano-Bedingung 'verboten'), aber es sind
noch zwei Speisewünsche zu codieren. Also müssen die nächsten
Codes dreistellig sein. Unter Beachtung der Eindeutigkeit ergibt sich:
wahlweise auch:
Ist diese Codierung nun wirklich besser, d. h. kürzer? Beim alten
Code benötigte der König für 18 Gerichte 36 bit. Nun sieht es bei
der oben genannten Häufigkeitsverteilung folgendermaßen aus:
Führt eine n-malige Verwirklichung der geforderten Bedingung in m
Fällen zum zufälligen Ereignis A, dann liegt die Häufigkeit h(A)
= m/n beliebig nahe an der Wahrscheinlichkeit P(A).
Jetzt können wir die Ergebnisse unseres Märchens aufarbeiten. An
der königlichen Tafel sind vier zufällige Ereignisse bedeutsam:
Je kleiner die Wahrscheinlichkeit des Auftretens einer Nachricht
ist, desto höher ist ihr Informationsgehalt. Als Formel:
Es läßt sich aber für eine bestimmte aufgabe ein Code finden, für
den H beliebig nahe an m liegt. Zur Informationstheoretischen
Beurteilung der Eigenschaften von Codes dient die Redundanz:
(1) Code mit fester Wortlänge 2:
(2) Code mit variabler Wortlänge:
Fassen wir zusammen. Das Shannonsche Codierungstheorem besagt:
Die zweite Behauptung impliziert auch, daß es nicht den optimalen
Code gibt, sondern nur einen relativ besten.
Wir haben gesehen, daß Codes redundant sein können. Formelmäßig
läßt sich das Maß für die Redundanz eines Codes allgemein
folgendermaßen festlegen:
Sind alle Codewörter gleich lang, gilt:
Beispiel: tetradische Codes (Darstellung der Ziffern 0 bis 9)
Der Informationsgehalt I = ld(10) ist 3,32 bit. Wir müssen also
Codeworte von 4 bit Länge verwenden. Mit 4 bit können jedoch 16
Codeworte dargestellt werden, wir haben also 10 Nutzbits und 6
Pseudoworte. Die Redundanz ergibt sich zu: Rc = 4 - ld(10) = 4 - 3,32
= 0,68 und rc = 0,68 / 4 = 0,17
Der Morsetelegraph hatte einen dreiwertigen Code (Punkt, Strich, Leerraum)
und variable Codelänge
Die Störung muß groß genug sein, um die physikalische
Repräsentation umzukehren. Ja nach Repräsentation ist das nur schwer
möglich (Vorteil gegenüber der Analogtechnik). Die "Stärke"
der Störung wird durch die Bitfehler-Wahrscheinlichkeit ausgedrückt.
Eine Bitfehlerwahrscheinlichkeit von z. B. 0,00001 bedeutet, daß
auf 10000 übertragene Bits eines verfälscht ist. Die
Bitfehlerwahrscheinlichkeit von 0 ist die theoretische Grenze und mit
endlichem Aufwand nicht erreichbar. Für ISDN-Leitungen der
Telekom wird beispielsweise eine Bitfehlerwahrscheinlichkeit von 10-7
für sogenannte Dauerwählverbindungen angegeben.
Aufgabe der Codesicherung ist es, die Bitfehler in Codewörtern
oder Codewort-Blöcken zu erkennen oder zu beseitigen. Fehlererkennung ist
nur möglich, wenn durch Bitfehler ungültige Codeworte
entstehen (= Codeworte, die nicht im Codewort-Vorrat definiert
sind). Bitfehler die ein Codewort in ein anderes gültiges Codewort
verfälschen sind nicht erkennbar.
Beispiel: 5-4-2-1-Code:
Beispiel: tetradische Codes:
Beispiel: 2-aus-5-Walking-Code <
Beim 2-aus-5-Walking-Code führt jede Verfälschung nur eines Bits
zu einem fehlerhaften Codewort. Beim Libway-Craig-Code kann ein
1-Bit-Fehler zu einem gültigen Codewort führen.
Das unterschiedliche Verhalten der beiden Codes ist darauf
zurückzuführen, daß sich zwei beliebige Codeworte beim
2-aus-5-Walking-Code in mindestens zwei Stellen voneinander unterscheiden
und beim Libway-Craig-Code nur ein Bit Unterschied besteht.
Distanz: (Stellendistanz)
Hammingdistanz:
Für das obige Beispiel zeigt sich:
2-aus-5-Walking-Code: h = 2
Libway-Craig-Code: h = 1
Erst bei h = 2 werden 1-Bit-Fehler sicher erkannt. Bei tetradischen
Codes mit h = 1 können solche Fehler nur teilweise erkannt
werden. Sollen mehr als ein Bitfehler erkannt werden oder Fehler
korrigiert werden, so muß die Hamming-Distanz erhöht werden.
e = h - 1
Beispiel: Der Code besteht aus den Codeworten 0000 und 1111.
Die Erweiterung des Codewortes um ein Paritätsbit wird auch
"Querparität" oder "Zeichenparität" genannt. Die
Überprüfung der empfangenen Codeworte kann durch Bildung der Quersumme
(Addition modulo 2, d.h. ohne Berücksichtigung des Übertrags)
erfolgen.
Jede ungeradzahlige Anzahl von 1-Bit-Fehlern im Codewort wird
erkannt, geradzahlige Bitfehlerzahl wird nicht erkannt.
Beispiel "ASCII", gerade Parität:
Beispiel: 8 6 1 3 2 5 1 8
Die gesamte Codetabelle ist weiter unten abgedruckt. (0 = weiß,
1 = schwarz). Nun ist noch zu klären, wo die 13. Ziffer versteckt
wird (es ist übrigens die ganz links vor dem Code gedruckte
Ziffer). Diese Ziffer wird durch die Kombination von Zeichensatz
A und B in der linken Hälfte des Barcodes festgelegt. Wie
die Zuordnung ist, zeigt die zweite Tabelle unten. Der EAN-8-Code
besteht nur aus zwei Blöcken zu je 4 Zeichen aus den
Zeichensätzen A (links) und C (rechts).
Die drei Zeichensätze des EAN-Barcodes
Codierung des 13. Zeichens
Von links nach rechts besteht der gesamte EAN-13-Barcode aus:
Die letzte Ziffer (ganz rechts) ist eine Prüfziffer, die
folgendermaßen ermittelt wird:
Beispiel:
Auch hier ist wieder das letzte Zeichen ganz links ein Prüfzeichen
zur Fehlererkennung.
Um Bitfehler nicht nur erkennen, sondern auch korrigieren (d. h. lokalisieren)
zu können, muß der Hammingabstand auf h >= 3 erhöht werden.
Beispiel h = 3:
O: gültiges Codewort
Ein Bitfehler führt zu einem ungültigen Codewort, das sich vom
verfälschten Codewort in nur einem Bit unterscheidet. Zu allen
anderen gültigen Codeworten hat es mindestens zwei Bit Unter-
schied. Da die Auftrittswahrscheinlichkeit des 1-Bit-Fehlers in
einem Codewort wesentlich höher ist, als bei zwei oder mehr Bit-
fehlern, ordnet man das fehlerhafte Codewort dem ähnlichsten
gültigen Codewort zu
k = (h - 1)/2
Es existieren eine Reihe von Verfahren zur Fehlersicherung, z. B.
Beispiel: Blockübertragung mit Kreuzsicherung
k = (h - 1)/2 = e/2
k = Anzahl der korrigierbaren Fehler
Hamming-Codes haben viel mehr Bits als notwendig und sind nach
einem bestimmten System aufgebaut. So benötigen z. B. Codes mit
2, 3 und 4 Nutzbits noch zusätzliche 3 Prüfbits zur Korrektur
eines Fehlers.
Ein System zum Aufbau von Haming-Codes zur Korrektur eines Fehlers verwendet
4 Nutzbits (n1 - n4) + 3 Prüfbits (p1 - p3)
Berechnung der Prüfbits (Addition modulo 2):
Beispiel: 8421-Code mit Hammingzusatz (h = 3):
empfangene Prüfbits: 1 0 0

Einschrittige BCD-Codes
Bisher haben sich beim Übergang von einem Codewort zum nächsten
mehrere Bits geändert
mehrschrittige Codes. Bei Abtastvorrichtungen
für die Längenmessung oder bei der Analog-Digital-Wandlung gibt es
mit solchen Codes Fehlentscheidungen, wenn Abtastung und Signalwechsel
gleichzeitig erfolgen
Bei einschrittigen Codes unterscheiden sich
benachbarte Codeworte nur in einem Bit. Beispiele:
0 nicht einschrittig)
Mehrschrittige Anordnungscodes
Codes für spezielle Aufgaben. Als Beispiel 7-Segment-Code für
Ziffernanzeigen.

2.5 Beispiele für alphanumerische Codes
Binärcodes für die Darstellung von Buchstaben, Ziffern und
Sonderzeichen. Nach der Wortlänge unterscheidet man 5-, 6-, 7-
und 8-Bit-Codes. Die mindestens benötigte Codewortlänge ergibt
sich aus:
46 Zeichen
6 Bit Wortlänge
5-Bit-Codes
Hier erfolgt eine Doppelbelegung
nicht eindeutig, es wird ein
Umschaltzeichen (Einfachbelegung) benötigt. Störung bei
Übertragung des Umschaltzeichens führt zu falscher Decodierung.
6-Bit-Codes
Wenig verbreitet; neben Buchstaben, Ziffern und Sonderzeichen
auch Steuerzeichen vorgesehen.
7-Bit-Codes
(American Standard Code for Information Interchange)
ACK acknowledge - positive Rückmeldung
BEL bell - Klingel BS backspace - Rückwärtschritt CAN cancel - ungültig, Abbruch CR carriage return - Wagenrücklauf DCi device control i - Gerätesteuerung i DEL delete - löschen, Entfernen DLE data link escape - Datenübertragungsumschaltung EM end of medium - Ende der Aufzeichnung ENQ enquiry - Stationsaufforderung, Anfrage EOT end of transmission - Ende der Übertragung ESC escape - Umschaltung ETB end of transmission block - Ende Datenübertragungsblock ETX end of text - Ende des Textes FF form feed -Formularvorschub FS file seperator - Hauptgruppentrenner GS group seperator - Gruppentrenner HT horizontal tabulation - Horizontaltabulator LC lower case - untere Stellung, Kleinbuchstaben LF line feed - Zeilenvorschub NAK negative acknowlegde - negative Rückmeldung NL new line - neue Zeile NUL nil - Null (Füllzeichen ohne Einfluß auf Zeicheninhalt) RS record seperator - Untergruppentrenner SI shift in - Rückschaltung in Standardcode SO shift out - Dauerumschaltung in andere Codetabellen SOH start of heading - Anfang des Kopfes STX Start of text - Anfang den Textes SUB substitution - Austausch eines Zeichens SYN synchronous idle - Synchronisationslauf UC upper case - obere Stellung, Großbuchstaben US unit seperator - Teilgruppentrenner VT vertical tabulation - Vertikaltabulator 8-Bit-Codes
Prüfmöglichkeit
Unicode
Unicode ist ein internationaler Standard, in dem langfristig für jedes sinntragende
Zeichen bzw. Textelement aller bekannten Schriftkulturen und Zeichensysteme ein digitaler
Code festgelegt wird. Ziel ist es, das Problem unterschiedlicher, inkompatibler
Kodierungen zu beseitigen. In Unicode finden Zeichen der wichtigsten ISO-Zeichensätze
eine 1:1-Entsprechung (das bedeutet, dass bei einer Konvertierung von ISO zu Unicode und
zurück das gleiche Ergebnis herauskommt). Unicode wird laufend um Zeichen weiterer
Schriftsysteme ergänzt.
2.6 Codierung mit variabler Wortlänge
"Vom schweigsamen König, der gern Schweinebraten aß"
(Frei nach: Walter R. Fuchs: Knaur's Buch der Denkmaschinen, 1968)
(1) Schweinebraten,
(2) Schokoladenpudding,
(3) Essiggurken,
(4) Erdbeertorte.
Die rechte Hand ein wenig heben heiße: Schweinebraten Die linke Hand etwas heben heiße: Schokopudding Erst die rechte und dann die linke Hand heben: Gurken Zweimal nacheinander die rechte Hand heben: Erdbeertorte
R Braten
L Pudding
RL Gurken
RR Torte
RRR). Dann konnte dies bedeuten:
Braten, Braten, Braten oder
Braten, Torte oder
Torte, Braten
Braten RR
Pudding RL
Gurken LR
Torte LL
9 x Schweinebraten,
6 x Schokopudding,
1 x Gurken,
2 x Erdbeertorte.
Braten
R
Pudding
LR
Torte
LLR
Gurken
LLL
Torte
LLL
Gurken
LLR
9 x Schweinebraten 9 bit
6 x Schokopudding 12 bit
1 x Gurken 3 bit
2 x Erdbeertorte 6 bit
---------
Summe 30 bit
Es wurden also durchschnittlich 6 bit pro Tag gespart. Probieren
wir zum Schluß der Geschichte aus, ob es klappt. Was will der
König bei "LRRRLLR"? Da die Codewortlänge variiert, muß man
schrittweise vorgehen. Das erste "L" bedeutet noch nichts. "LR"
heißt eideutig "Pudding". Dann kommt "R" für "Braten"
und gleich noch einer. Wieder ein "L", das noch nichts besagt. Auch das
folgende "L" liefert noch keine Lösung. Erst das letzte "R"
gibt Aufschluß: "Torte!".
Mathematischer Hintergrund:
Oben war von "Häufigkeiten" die Rede. Es handelt sich dabei um
Erfahrungswerte, die durch Beobachtung gewonnen werden (empirische
Werte). Die empirischen Häufigkeitswerte müssen zu den theoretischen
Wahrscheinlichkeiten in klare Beziehung gebracht werden. Wir wissen
alle, daß beim Münzwurf die Wahlscheinlichkeit
für Kopf oder Zahl jeweils 1/2 beträgt. Um durch empirische
Ermittlung auf die exakte Übereinstimmung zwischen Häufigkeiten
und Wahrscheinlichkeit zu kommen, müßte man unendlich viele Würfe
auswerten. Die praktische Regel der Wahrscheinlichkeitsrechnung
erspart uns Zeit, denn sie besagt, daß sich bei genügend vielen
Versuchen die Häufigkeit eines Ereignisses nur noch sehr wenig
von der Wahrscheinlichkeit für das Eintreten dieses Ereignisses
unterscheidet. Es gilt:
A1: Der König bestellt Braten
A2: Der König bestellt Pudding
A3: Der König bestellt Torte
A4: Der König bestellt Gurken
Auch die Häufigkeiten sind bekannt. Wir nehmen an, daß die Werte
auf genügend vielen Beobachtungen beruhen. Also können wir die
Wahrscheinlichkeiten durch die Häufigkeiten annähern:
P(A1) = 9/18 = 1/2
P(A2) = 6/18 = 1/3
P(A3) = 2/18 = 1/9
P(A4) = 1/18 = 1/18
Die Summe aller Wahrscheinlichkeiten P(A1) + P(A2) + P(A3) +
P(A4) ergibt immer den Wert 1.
Betrachten wir nun den König als Nachrichtenquelle. Seine Nachrichten
sind A1, A2, A3 und A4. Die oben erwähnten Wahrscheinlichkeiten
stellen zusammen mit den zugehörigen Nachrichten das
Bild einer (sehr abstrakten) Nachrichtenquelle dar. Die Nachricht
A1 hat eine relativ hohe, die Nachricht A4 eine relativ geringe
Wahrscheinlichkeit. Mit anderen Worten: A1 dürfte in einer
Nachrichtenfolge öfter auftauchen als A4 (wobei nichts über die
Position von A1 ausgesagt werden kann). Damit können wir auch den
Informationsgehalt definieren:
I(A) = ld( 1/P(A) ) [bit]
Wenden wir nun diese Formel auf die Nachrichten A1 bis A4 an:
I(A1) = ld( 1/(1/2) ) = ld(2) = 1,000 bit
I(A2) = ld( 1/(1/3) ) = ld(3) = 1,585 bit
I(A3) = ld( 1/(1/9) ) = ld(9) = 3,170 bit
I(A4) = ld( 1/(1/18) ) = ld(18) = 4,170 bit
Nun besitzen wir präzise Zahlenwerte über den Informationsgehalt
der einzelnen Nachrichten. Das Maß für die Unsicherheit darüber,
welche Nachricht nun als nächste in einer Folge kommt, ist die
"mittlere Information" (oder Entropie) H:
H(A1, ..., An) = Summe(P(Ai) * ld(1/P(Ai))) für i=1 ... n
Für unser Königs-Ernährungsproblem ergibt sich:
H = 1,000/2 + 1,585/3 + 3,170/9 + 4,170/18 = 1,614 bit
Dieser Wert sagt uns aber noch nicht viel; wir brauchen Vergleichswerte.
Betrachten wir nun die binär codierten Essenswünsche,
die ja nur noch aus den Zeichen "R" und "L" bestehen.
Zunächst die erste Codierung mit jeweils zwei bit für jedes Codewort
(man schreibe einfach die Codes entsprechend obiger Häufigkeiten
auf und zähle die "R"s und "L"s):
P(R) = 25/36
Nun sehen wir uns die optimierte Codierung mit unterschiedlicher
Länge der Codeworte an:
H1(R,L) = 0,883 bit
P(L) = 11/36
P(R) = 17/30
Also trägt hier jedes Signal mehr Information.
H2(R,L) = 0,988 bit
P(L) = 13/30
Coderedundanz
Dank der bisher erarbeiteten Formeln läßt sich diese auch nun
exakt berechnen. Alle bisherigen Beispiele zeigen, daß durch die
Codierung im Mittel mindestens soviele Binärstellen m verwendet
werden müssen, wie durch den mittleren Informationsgehalt H berechnet werden.
Es gilt also immer: H <= m.
absolute Redundanz relative Redundanz:
R = m - H r = (m - H)/m = R/m
Wie sieht das für unseren stets hungrigen König aus?
H = 1,614 bit R = 2 - 1,614 = 0,386
m = 2 bit r = 0,386/2 = 0,193 = 19,3%
H = 1,614 bit R = 1,722 - 1,614 = 0,108
m = 1,722 bit r = 0,108/1,722 = 0,063 = 6,3%
absolute Redundanz relative Redundanz:
R = m - H r = (m - H)/m = R/m
m = mittlere Codewortlänge
H = Informationsgehalt
absolute Redundanz relative Redundanz:
R = ld(M) - ld(n) r = (ld(M) - ld(n))/ld(M)
= R/ld(M)
M = Anzahl der möglichen Codewörter
n = Anzahl der verwendeten Codewörter
17%.
2.7 Fehlersicherung
Bei der Übertragung und Speicherung von Nachrichten können Fehler
auftreten. "Fehler" eines binären Signals ist die Inversion
dieses Signals (0
1, 1
0). Diese Störungen führen zur
Verfälschung von Symbolen.
0 1 0 1 (= 5) 0 1 0 1 (= 5)
| |
1 1 0 1 (Pseudotetrade) 0 1 0 0 (= 4)
Grundsätzlich gilt: Codewörter ohne Zeichenzuornung müssen vorhanden
sein
Fehler erkannt
Fehler nicht erkannt
Code muß redundant sein.
m = 4 Rc = 4 - ld(10) = 4 - 3,32 = 0,68
M = 10 rc = 0,68 / 4 = 0,17
Die Redundanz stellt aber die Sicherheit gegen Übertragungsfehler
noch nicht her. Codes gleicher Redundanz können unterschiedlich
übertragungssicher sein.
17%
Libway-Craig-Code
Für beide gilt: m = 5, M = 10, Rc = 1,68, rc = 33,6%
Anzahl von Stellen, in denen sich zwei gültige Codeworte eines Codes voneinander
unterscheiden: 1 %lt;= d < m
Die Mindestzahl der Stellen, in denen sich jedes gültige Codewort
eines Codes von jedem anderen unterscheidet: h = dmin
2.8 Fehlererkennung
Codes für die Fehlererkennung sind so zu konstruieren, daß h = 2
ist
"fehlererkennende Codes", "prüfbare Codes". Hierzu
gehören z.B. alle m-aus-n-Codes (gleichgewichtige Codes). Es wird
dazu die Anzahl der 1-Bits im Codewort überprüft. Ist sie ungleich m,
liegt mindestens ein Bitfehler vor. Um eine Anzahl e
von Fehlern zu erkennen benötigt man einen Hammingabstand von
mindestens e + 1. Es gilt also:
1111 \__________Störung_____________ 1110 1 Fehler
0000 / 1001 2 Fehler
1000 3 Fehler
h = 4
Welche Möglichkeiten bieten sich?
e = h - 1 = 3
Längsparität,
LRC (longitudinal redundancy check). Durch die Blockparität wird
der Hammingabstand ganzer Datenblöcke vergrößert.
A 1 0 0 0 0 0 1
S 1 0 1 0 0 1 1
C 1 0 0 0 0 1 1
I 1 0 0 1 0 0 1
I 1 0 0 1 0 0 1
-----------------------
Parity: 1 0 1 0 0 0 1
a) 8 + 1 + 2 + 1 = 12
b) 6 + 3 + 5 + 8 = 22
c) 22 * 3 = 26
d) 12 + 26 = 78
e) 80 - 78 = 2
beide Summen müssen gleich sein. Oft wird die Summe auf die
Wortbreite der Datenworte "gekappt" (Prüfsumme modulo M).
Beispiel: Strichcode
Am interessantesten ist sicher der EAN-Code, den es in 13- oder
8-stelliger Version gibt. Dieser Code hat zugleich auch den kompliziertesten
Aufbau, denn er soll das Lesen in beiden Richtungen
ermöglichen. Beim EAN-13 werden nur zwölf der dreizehn Ziffern
direkt codiert, damit sich der Codeblock in zwei Hälften unterteilen
läßt. Die Codierung der 13. Ziffer wird dann in der linken
Hälfte "versteckt". Betrachten wir den EAN-Code nun genauer.
Ein Zeichen, d. h. die Codierung einer Ziffer besteht aus verschieden
breiten Balken und Zwischenräumen, wobei sich jedes
Zeichen aus der Kombination von 7 Balken/Zwischenräumen fester
Breite zusammensetzt. Die Breite eines solchen Elements, eines
Moduls, ist konstant. Um linke und rechte Hälfte des Codes
unterscheiden zu können, werden die Zahlen links und
rechts unterschiedlich codiert, wobei die Codierung der linken
Hälfte wieder mit zwei unterschiedlichen Zeichensätzen
erfolgt. Es gibt also drei verschiede Zeichensätze. Sehen Sie
sich dazu einmal die Codierung der "0" an:

Zeichensatz A Zeichensatz B Zeichensatz C 0 0 0 0 1 1 0 1 0 1 0 0 1 1 1 1 1 1 0 0 1 0 1 0 0 1 1 0 0 1 0 1 1 0 0 1 1 1 1 0 0 1 1 0 2 0 0 1 0 0 1 1 0 0 1 1 0 1 1 1 1 0 1 1 0 0 3 0 1 1 1 1 0 1 0 1 0 0 0 0 1 1 0 0 0 0 1 0 4 0 1 0 0 0 1 1 0 0 1 1 1 0 1 1 0 1 1 1 0 0 5 0 1 1 0 0 0 1 0 1 1 1 0 0 1 1 0 0 1 1 1 0 6 0 1 0 1 1 1 1 0 0 0 0 1 0 1 1 0 1 0 0 0 0 7 0 1 1 1 0 1 1 0 0 1 0 0 0 1 1 0 0 0 1 0 0 8 0 1 1 0 1 1 1 0 0 0 1 0 0 1 1 0 0 1 0 0 0 9 0 0 0 1 0 1 1 0 0 1 0 1 1 1 1 1 1 0 1 0 0
0 A A A A A A 1 A A B A B B 2 A A B B A B 3 A A B B B A 4 A B A A B B 5 A B B A A B 6 A B B B A A 7 A B A B A B 8 A B A B B A 9 A B B A B A
Code: 0 1 1 3 7 3 5 5 9 2 4 3 PZ
a) 0 + 1 + 7 + 5 + 9 + 4 = 26
b) 1 + 3 + 3 + 5 + 2 + 3 = 17
c) 17 * 3 = 51
d) 26 + 51 = 77
e) 80 - 77 = 3
Von links nach rechts besteht der gesamte EAN-8-Barcode aus:
Prüfziffer 3
2.9 Fehlerkorrektur

X: ungültiges Codewort
Fehlerkorrektur. Allgemein gilt für die
Anzahl der korrigierbaren Fehler:

e = Anzahl der erkennbaren Fehler
7 Bits:

Wert | p1 p2 n1 p3 n2 n3 n4
-----+---------------------
0 | 0 0 0 0 0 0 0
1 | 1 1 0 1 0 0 1
2 | 0 1 0 1 0 1 0
3 | 1 0 0 0 0 1 1
4 | 1 0 0 1 1 0 0
5 | 0 1 0 0 1 0 1
6 | 1 1 0 0 1 1 0
7 | 0 0 0 1 1 1 1
8 | 1 1 1 0 0 0 0
9 | 0 0 1 1 0 0 1
Gesendet wird: 1 0 0 0 0 1 1
Empfangen wird: 1 0 0 0 0 0 1
Am Empfangsort wird berechnet:
berechnete Prüfbits: 1 1 1
Daraus ergibt sich:
1 0 0
1 1 1
-------
(Antivalenz): 0 1 1
LSB MSB
"von rückwärts" gelesen: 1 1 0
Stelle 6 ist zu korrigieren.
Zum vorhergehenden Abschnitt
Zum Inhaltsverzeichnis
Zum nächsten Abschnitt
Copyright © FH München, FB 04, Prof. Jürgen Plate
Letzte Aktualisierung: 21. Mar 2008