Kvantování signálu

Na základě vzorkování signálu jsme získali konečný počet diskrétních vzorků původního analogového signálu. Tyto vzorky jsou ale pro další zpracování zatím stále nevhodné, neboť obsahují příliš velké množství informace. Je proto nutné aplikovat další proces jednorozměrné úrovňové diskretizace - tzv. kvantování signálu. To se provádí v tzv. kvantizéru a podstatou jeho činnosti je zaokrouhlení hodnot signálu získaného při vzorkování na předem definované tzv. kvantizační hladiny (kvantovací úrovně). Proces kvantování se řídí tzv. rozhodovacími úrovněmi, které se nacházejí v poloviční vzdálenosti mezi kvantizačními hladinami (viz obr. 93). Tento způsob kvantování, ve kterém jsou rozhodovací úrovně přesně v polovině vzdálenosti mezi kvantizačními hladinami, se nazývá lineární kvantování.

V televizní praxi se častěji používá tzv. nelineární kvantování, které má nelineární rozložení kvantizačních hladin. Jemnější dělení používá v oblasti malých hodnot signálu a hrubší dělení v oblasti větších hodnot signálu. Princip tohoto kvantování je stejný, technické provedení je jiné.

Obr. 93

Rozsah kvantizéru je omezen nejvyšší kvantizační hladinou, kterou nesmí amplituda vstupních vzorků signálu nikdy přesáhnout. Pokud se tak stane, amplitudy signálu se omezí a tím se zkreslí kvantovaný signál (viz obr. 94). Takto vzniká tzv. tvarové zkreslení, které se projeví po zpětném převodu digitálního signálu do analogové formy jako zkreslení třetí harmonickou frekvencí. Toto zkreslení je později neodstranitelné, proto je podmínka dostatečného rozsahu kvantizéru velmi striktní. Při používání digitálních zařízení je tedy nutné dbát na to, aby používané zařízení nebylo za žádných okolností přebuzeno vstupním signálem.

Obr. 94

Kolik kvantizačních hladin pro daný signál použijeme, závisí na druhu digitalizovaného signálu:

1.     televizní technika využívá 8bitové kvantování, tj. výsledný digitální signál nabývá celkem  hodnot (kvantizačních hladin);

2.     zvuková technika využívá 16bitové kvantování (resp. 20bitové kvantování), což znamená, že výsledný digitální signál bude obsahovat  (resp. ) hodnot.

Uvedený počet kvantizačních hladin byl určen na základě pečlivého zkoumání a experimentování tak, aby digitalizovaný signál byl bez šumu a zkreslení ve srovnání s analogovým signálem, ze kterého vznikl, a přitom aby byl datově natolik úsporný, aby jej bylo možné snadno zaznamenávat a přenášet.

Televizní technika využívá méně kvantizačních hladin ve srovnání se zvukovou technikou. To má dva důvody. První spočívá v tom, že lidské oko je ve srovnání s lidským uchem méně citlivé. Druhý důvod je praktický: při přenosu televizního signálu ze studia přes vysílač až k divákovi se přenáší více informací (tři barevné kanály odpovídající RGB modelu, jasový kanál, zvuk, …), a proto je nutné omezit množství přenášených informací tak, aby je bylo možné v daném frekvenčním pásmu přenést.

Hodnoty původního analogového signálu se tedy k dalšímu zpracování nepřenášejí přesně, ale vždy jen jako celočíselné hodnoty dané kvantizačními hladinami. Tak se ale v analogovém signálu, do kterého digitální signál poté převedeme, objeví kvantizační zkreslení. Projevy tohoto zkreslení se podobají šumu, a proto se toto zkreslení nazývá kvantizační šum. Ten je ale ve srovnání s hodnotami daného přenášeného signálu natolik malý, že jej divák resp. posluchač nezaznamená.

Amplituda napětí kvantizačního šumu přitom závisí na počtu kvantizačních hladin a na poloze rozhodovacích úrovní mezi těmito hladinami. U lineárního kvantování, u kterého je rozhodovací úroveň vždy uprostřed intervalu mezi dvěma sousedními kvantizačními hladinami, je amplituda šumového napětí rovna polovině skoku mezi jednotlivými kvantizačními hladinami. Při počtu s kvantizačních hladin je odstup maximální hodnoty signálu od efektivní hodnoty šumu  (tzv. signal to noise ratio) pro tento typ kvantizéru vyjádřen empirickým vztahem .

Subjektivní vjem kvantizačního šumu je přitom závislý na amplitudě vstupního vzorku. Pro velmi malé amplitudy se mění tento šum na harmonické zkreslení. V mezním případě, ve kterém je amplituda vzorku blízká první kvantizační hladině, se mění signál na skokový obdélníkový průběh, který po převodu do analogové formy obsahuje výrazné liché harmonické frekvence. Tento druh zkreslení se nazývá granulační šum, protože jeho zvukový projev připomíná tření granulí nebo zrnek písku o sebe. Toto zkreslení (stejně jako tvarové zkreslení) není možné již později odstranit.

Výrazně je možné tento druh zkreslení potlačit např. zvýšením počtu kvantizačních hladin. To ale není příliš výhodné, neboť spolu se zvýšením počtu kvantizačních hladin se zvýší i bitový tok výsledného digitálního signálu. Jinou metodou je maskování uvedeného zkreslení tzv. třepotavým šumem (anglicky dither). Kvantovaný signál po maskování přesahuje více kvantizačních hladin a po převodu do analogové formy nepůsobí šum subjektivně tak rušivě, jako kdyby zůstal signál nemaskovaný.

Maskování šumu je principiálně velmi podobné maskování zvuku.