영어의 ‘Quantization’을 번역한
말로서 아날로그 신호를 디지털화 하는 데 있어 물리적인 크기를 수치화하는 과정을 말한다. 양자화(量子化)란
용어로 이미 통용되고 있기는 하나, 핵물리에서 나오는 양자(proton : 陽子, 電子의 반대)와 혼동하는
경우가 없도록 주의를 요한다. 이런 면에서 오히려 수치화 (數値化) 라고 하는 편이 더 적절할 지도 모른다.

CD에 있어 양자화는 2진수의 16비트로 정해졌는데
그렇게 정해진 이유는 아래와 같다. 사람이 느낄 수 있는 음압의 차이는 약 110㏈ 정도인데, 이110㏈의
다이내믹 레인지를 확보하기 위해서는 18비트의 양자화수가 필요하다. 그러나 CD가 생산되기 시작한 80년대
초에는 기술적으로 18비트의 양자화수를 민생용 오디오 기기에 까지 적용하는 것은 매우 무리한 일이어서 아날로그
기록기기의 다이내믹 레인지가 70㏈ 전후인 점을 감안, 85~95㏈ 정도의 다이내믹 레인지를 목표로 16비트로
정한 것이다.

한편 85년까지는 16비트도 무리여서 프로용
기기를 사용한 녹음, 제작과정은 16비트로 하고 이를 재생하는 민생용 CDP는 최하위의 2비트를 잘라내
14비트로 처리하는 편법을 썼다. 85년 이전에 생산된 레복스의 B225나 매킨토시 MCD7000등이 좋은
예이다.

16비트의 양자화는 음이 강약의 범위가 216
즉 65,536크기의 단계로 나누어지며 ㏈로는 20log 216 = 96㏈ 가 된다. 이 양자화의 개념을
편의상 3비트로 표현하면 그림(1)과 같이 된다. 또한 아날로그 신호를 샘플링 하면 표본화된 시점마다 그림(1)의
(a)와 같이 고정된 크기의 값을 가진다. 이 값은 가장 가까운 양자화 값으로서 (b)와 같이 사사오입되는데,
이때의 수치와 원래의 수치의 차가 발생한다.

사사오입되어 양자화 수치를 갖게 된 후에는
그림(1)의 (c)와 같이 2진법으로 표현되는 부호화 과정을 거쳐 최종의 디지털 수치로 변화한다. 한편
양자화 비트 수를 더 늘리면 그만큼 더 파형의 재현정도가 좋아지게 되어 양자화 잡음(실은 양자화 오차)이
적어지게 된다. 이 양자화 잡음은 가청주파수대역 전반에 고르게 분포되어 있는 잡음으로 ‘노이즈 셰이퍼’란
일종의 디지털형 NFB 회로를 통해 가청주파수 대역밖으로 몰아낼 수 있어 최근 많이 사용된다.

이와 함께 ‘재양자화’ 라는 용어도 최근 자주
등장하는데, 이것은 2진수의 16비트 데이터를 18비트의 값으로 재변환 한다든지 또는 1비트를 위해 더
낮은 비트의 값으로 변환하는 것을 의미한다. 이것은 18비트 및 20비트형의 DA컨버터를 내장한 고급 DCP나
1비트형 DA컨버터를 탑재한 CDP가 생산되면서부터 널리 쓰이게 된 용어 이다.

집필/고대진.이재홍.정우광