informaatioteoreettinen
Informaatioteoreettinen on adjektiivi, joka viittaa informaatioteoriaan, matemaattiseen kehykseen tutkimaan tiedon käsittelyä, siirtoa ja pakkaamista. Sillä viitataan usein lähestymistapaan, jossa ongelmia tarkastellaan informaation määrän, epävarmuuden ja jakelun rajoja määrittävien suureiden kautta. Käytännössä informaatioteoreettinen lähestymistapa pyrkii ymmärtämään, kuinka tehokkaasti dataa voidaan tallentaa, välittää ja tulkita.
Keskeisiä käsitteitä ovat entropia (mitattuna H), joka kuvaa epävarmuutta tai ylipäätään tiedon määrää; ehdollinen entropia; sekä
Sovelluksia ovat tiedon pakkaaminen, tiedonsiirto ja koodaus sekä signaalinkäsittely ja tilastotiede. Informaatioteoreettinen näkökulma auttaa tutkimaan esimerkiksi
Historia: käsitteet juontuvat Claude Shannonin vuonna 1948 julkaisemasta teoksesta A Mathematical Theory of Communication, joka muodosti