informatsiooniteoorias

Informatsiooniteooria on matemaatika ja inseneriteaduste valdkond, mis uurib informatsiooni olemust ning kuidas seda mõõta, talletada ja edastada. Teooria püüab mõista piiranguid ja võimalusi, mis tulenevad juhuslikkusest, mürast ja kanalite omadustest ning pakub vahendid andmete efektiivseks tihendamiseks ja usaldusväärseks edastamiseks.

Peamised mõisted hõlmavad entropiat, mis kirjeldab teabe üldist mahukust või juhuslikkuse taset. Mida suurem entropia, seda rohkem informatsiooni on ühes üksuses. Allikate teabega seotud tihendamine (source coding) keskendub andmete esitamisesse vajaliku koodide pikkuse vähendamiseks, säilitades soovitud kvaliteedi. Kanaliteooria uurib, kui suur kiirus on võimalik usaldusväärselt edastada läbi konkreetse sidekanali ning seda nimetatakse kanali mahutavuseks või võimekuseks. Lisaks on olulised vigu parandavad koodid ja veaprindid, mis võimaldavad vähendada edastuse käigus tekkinud vigade mõju.

Ajalugu ja mõju: informatsiooniteooria sai alguse Claude Shannoni 1948. aasta tööst A Mathematical Theory of Communication. Sellest ajast on teooria muutunud aluseks digitaalse side, andmete tihendamise, videokodeerimise ja paljude rakenduste arendamisel.

Rakendused hõlmavad telekommunikatsiooni, interneti andmeside, kodeerimist, andmete tihendust ning kriitiliste süsteemide hindamist. Teooria on kontseptuaalselt abstraktne, kuid selle tulemused on fundamentaalsed igas digitaalse informationi kogumiga tegelevas valdkonnas.