Modulbeschreibung

Modul: Informationstheorie und Codierung

Lehrveranstaltungen:

TitelTypSWSZeitraum
Informationstheorie und CodierungVorlesung3Sommersemester
Informationstheorie und CodierungHörsaalübung1Sommersemester

Modulverantwortlich:

Prof. Gerhard Bauch

Zulassungsvoraussetzungen:

Keine

Empfohlene Vorkenntnisse:

  • Mathematik 1-3 
  • Wahrscheinlichkeitsrechnung und Stochastische Prozesse
  •  Grundkenntnisse der Nachrichtentechnik, z.B. aus der Vorlesung "Einführung in die Nachrichtentechnik und deren stochastische Methoden"

Modulziele / angestrebte Lernergebnisse:

Fachkompetenz

Wissen

Die Studierenden kennen die grundlegenden Definitionen zur informationstheoretischen Quantifizierung von Information. Sie kennen das Shannonsche Quellencodierungstheorem sowie das Kanalcodierungstheorem und können damit Grenzen der Kompression bzw. der fehlerfreien Datenübertragung bestimmen. Sie verstehen die Grundprinzipien der Datenkompression (Quellencodierung) und der fehlererkennenden und fehlerkorrigierenden Kanalcodierung. Sie sind mit den Prinzipien der Decodierung vertraut, insbesondere mit modernen Verfahren der iterativen Decodierung. Sie kennen grundlegende Codierverfahren, deren Eigenschaften und Decodierverfahren.

Fertigkeiten

Die Studierenden sind in der Lage, die Grenzen der Datenkompression bzw. der Datenübertragungsrate für gestörte Kanäle zu bestimmen und damit ein Übertragungsverfahren zu dimensionieren. Sie sind in der Lage, die Parameter eines fehlererkennenden bzw. fehlerkorrigierenden Kanalcodierungsverfahrens zum Erreichen gegebener Zielvorgaben abzuschätzen. Sie sind in der Lage, die Eigenschaften grundlegender Kanalcodierungs- und Decodierungsverfahren hinsichtlich Fehlerkorrektureigenschaften, Decodierverzögerung und Decodierkomplexität zu vergleichen und ein geeignetes Verfahren auszuwählen. Sie sind in der Lage, grundlegende Codier- und Decodierverfahren in Software zu implementieren.

Personale Kompetenzen

Sozialkompetenz

Die Studierenden können in fachspezifische Aufgaben gemeinsam bearbeiten.

Selbstständigkeit

Die Studierenden sind in der Lage, die notwendigen Informationen aus geeigneten Literaturquellen selbständig zu beschaffen und in den Kontext der Vorlesung zu setzen. Sie können ihren Wissensstand mit Hilfe vorlesungsbegleitender Maßnahmen (klausurnahe Aufgaben, Software-Tools, Clicker-System) kontinuierlich überprüfen und auf dieser Basis ihre Lernprozesse steuern.

Leistungspunkte Modul:

6 LP

Studienleistung:

Klausur

Arbeitsaufwand in Stunden:

Eigenstudium: 124, Präsenzstudium: 56


Lehrveranstaltung: Informationstheorie und Codierung

Dozent:

Gerhard Bauch

Sprache:

Deutsch & Englisch

Zeitraum:

Sommersemester

Inhalt:

  • Grundlagen der Informationstheorie

    • Selbstinformation, Entropie, Mutual Information

    • Quellencodierungstheorem, Kanalcodierungstheorem

    • Kanalkapazität verschiedener Kanäle

  • Grundlegende Algorithmen der Quellencodierung:

    • Huffman Code, Lempel Ziv Algorithmus

  • Grundlagen der Kanalcodierung

    • Grundlegende Parameter der Kanalcodierung und deren Abschätzung durch obere und untere Schranken

    • Prinzipien der Decodierung: Maximum-A-Posteriori Decodierung, Maximum-Likelihood Decodierung, Hard-Decision-Decodierung und Soft-Decision-Decodierung

    • Bestimmung der Fehlerwahrscheinlichkeit

  • Blockcodes

  • Low Density Parity Check (LDPC) Codes und iterative Decodierung

  • Faltungscodes und Viterbi-Decodierung

  • Turbo Codes und iterative Decodierung

  • Codierte Modulation

Literatur:

Bossert, M.: Kanalcodierung. Oldenbourg.

Friedrichs, B.: Kanalcodierung. Springer.

Lin, S., Costello, D.: Error Control Coding. Prentice Hall.

Roth, R.: Introduction to Coding Theory.

Johnson, S.: Iterative Error Correction. Cambridge.

Richardson, T., Urbanke, R.: Modern Coding Theory. Cambridge University Press.

Gallager, R. G.: Information theory and reliable communication. Whiley-VCH

Cover, T., Thomas, J.: Elements of information theory. Wiley.