Quantizációs

Quantizációs, vagy kvantálási folyamat a jelfolyamatban a folyamatos értékek diszkrét szintekre történő leképzését jelenti. Gyakorlati kontextusban ezt a lépést a mintavétel után végzik, amikor egy analóg jelet digitálissá alakítanak. A kvantálás során minden bemeneti értékhez egy meghatározott diszkrét szint (kvantizációs szint) tartozik, és a kapott érték gyakran eltér az eredetitől.

Típusok között megkülönböztetünk skalár kvantálást (scalar quantization) és vektor kvantálást (vector quantization). Egyenletes (uniform) kvantálás és nem egyenletes kvantálás léteznek; például a μ-law és az A-law kompressziós eljárások a hangjelekre, illetve a vektor kvantálás több mintát kódol együttesen, így csökkenti a redundanciát.

Quantizációs hiba e(x) = x − q(x) a jel közvetlen eltérése a kvantált értéktől. A hiba jellege függ a bemeneti eloszlástól és a kvantálás lépéshosszától. Gyakran a jel-szint arányt, az SQNR-t (signal-to-quantization-noise ratio) használják a minőség jellemzésére; a kvantálási pontok számának növelése általában növeli a pontosságot.

Kodinálási alkalmazások: analóg–digitális átalakítók (ADC), digitális–analóg átalakítók (DAC), digitális kommunikációkban a jel továbbításának hatékonysága, tömörítésben (JPEG, MPEG) a transformált koefficiens kvantálása. A neurális hálózatokban is alkalmazzák a modellek hatékonyságának növelésére súlykvantálással.

Kapcsolódó elméletek közé tartozik a mintavételi elmélet, a kódolás–zaj viszonya és a rate–distortion elemzés, amelyek a kvantálás észlelt kompromisszumait írják le a dinamikatartomány és a sávszélesség között.