Kvantizácia

Kvantizácia je proces prideľovania vstupných hodnôt z nepretržitého alebo rozsiahleho súboru do diskrétnych hodnôt. V kontexte digitálneho spracovania signálov sa kvantizácia týka aproximácie analógovej hodnoty na konečnú množinu diskrétnych hodnôt. Tento proces je nevyhnutný pri prevode analógového signálu na digitálny formát pomocou analógovo-digitálneho prevodníka (ADC). ADC vzorkuje analógový signál v pravidelných intervaloch a potom kvantizuje každú vzorku na najbližšiu diskrétnu úroveň.

Rozlíšenie kvantizácie, často označované ako počet bitov, určuje presnosť, s akou je analógová hodnota aproximovaná. Vyššie rozlíšenie znamená viac diskrétnych úrovní a menšiu kvantizačnú chybu. Kvantizačná chyba je rozdiel medzi skutočnou analógovou hodnotou a jej kvantizovanou diskrétnou reprezentáciou. Táto chyba je inherentná kvantizačnému procesu a je zdrojom šumu v digitálnom signáli.

Kvantizácia sa bežne používa v rôznych oblastiach, vrátane digitálneho zvuku, digitálneho obrazu, dátovej kompresie a strojového učenia. V digitálnom zvuku kvantizácia určuje dynamický rozsah a vernosť zvuku. V digitálnom zobrazovaní ovplyvňuje hĺbku farieb a detaily obrazu. V dátovej kompresii sa kvantizácia používa na zníženie objemu dát odstránením menej dôležitých informácií. V strojovom učení sa techniky kvantizácie používajú na zmenšenie veľkosti modelov neurónových sietí a na urýchlenie ich inferencie, čo je užitočné pre nasadenie na zariadeniach s obmedzenými zdrojmi.