kanalkodningsteoremet

Kanalkodningsteoremet, ofta kallat kanalens kodningsteorem, är en grundläggande sats inom informationsteori som introducerades av Claude Shannon 1948. Den beskriver teoretiska gränser för hur mycket information som kan överföras över en kommunikationskanal utan fel.

Påståendet: För en given kanal med kapacitet C gäller att för varje överföringshastighet R under C finns ett kodat och avkodat system med blocklängd n så att felraten kan göras arbiträrt liten när n blir stor. Om R > C kan felraten inte göras arbiträrt liten; med andra ord tillåter kanalen aldrig tillförlitlig kommunikation med hastigheter över C. Kapaciteten C är därmed den maximala säkra överföringshastigheten per kanalanvändning.

Definition och exempel: C definieras som supremum över ingångsdistributioner p(x) av I(X;Y), det ömsesidiga informationsmåttet mellan ingång X och utgång Y. Satsen gäller för diskreta minnesfria kanaler och kan utvidgas till mer allmänna modeller med lämpliga antaganden. För kontinuerliga kanaler används ofta differential entropier och effektbegränsningar; till exempel för en additiv vit brus-kanal (AWGN) med bandbredden B och effekt S/N ges kapaciteten C = B log2(1 + S/N) bitar per sekund.

Betydelse: Teoremet visar att det finns koder som kan kommunicera mycket nära teoretiska gränsen, vilket har drivit utvecklingen av praktiska felkorrigerande koder och systemdesign för telekommunikation och digital överföring. Det ger också en tydlig målbeskrivning för hur kommunikationssystem ska konstrueras.

---