Informationsinhalt

Informationsinhalt (auch Informationsgehalt) ist ein Begriff aus der Informationstheorie und der Informationswissenschaft, der den Gehalt an Information beschreibt, der in einer Nachricht, einem Symbol oder einem Ereignis enthalten ist. In der formalen Theorie wird er meist durch die Selbstinformation I(x) definiert: I(x) = -log2 p(x), wobei p(x) die Wahrscheinlichkeit des betrachteten Ereignisses ist.

Der Informationsinhalt hängt direkt von der Wahrscheinlichkeit ab: je unwahrscheinlicher das Ereignis, desto größer I(x) in Bits. Der Erwartungswert des Informationsinhalts über alle möglichen Ereignisse einer Quelle ist die Shannon-Entropie H(X) = -∑ p(x) log2 p(x). Sie misst die durchschnittliche Information, die eine Quelle pro Symbol liefert.

In vielen Anwendungen spielt auch der semantische Sinn eine Rolle, woraus sich der Unterschied zwischen dem syntaktischen Informationsinhalt (messbar, durch Wahrscheinlichkeiten) und dem semantischen Informationsgehalt (Bedeutung) ergibt. Daher wird der Begriff Informationsinhalt oft in verschiedenen Fachbereichen unterschiedlich verwendet, wobei die informationstheoretische Verwendung primär auf quantifizierbarem, statistischem Inhalt beruht.

Beispiele verdeutlichen den Unterschied: Ein Würfelwurf hat I(x) = log2 6 ≈ 2,585 Bit, da jedes der sechs Ergebnisse gleich wahrscheinlich ist. Ein sehr wahrscheinliches Symbol in einem Text hat einen viel niedrigeren Informationsinhalt, da es weniger Überraschung erzeugt.

Anwendungen reichen von Datenkompression und Codierung über die Bestimmung von Redundanz bis hin zur Bewertung der Kanal-Kapazität in der Übertragung. Insgesamt dient der Informationsinhalt als quantitative Größe zur Beschreibung, wie viel Information in einem Symbol oder Ereignis enthalten ist.