양자화 - Quantization

양자화 - Quantization

수학과 디지털 신호 처리에서 정량화는 큰 집합(종종 연속 집합)에서 작은 집합(카운트 가능)으로 입력 값을 출력값으로 매핑하는 과정으로, 종종 유한한 수의 원소를 가지고 있다. 반올림과 절단은 양자화 과정의 대표적인 예다. 디지털 형태로 신호를 나타내는 과정은 보통 반올림과 같기 때문에 양자화는 거의 모든 디지털 신호 처리에 어느 정도 관여한다. 양자화는 또한 본질적으로 모든 손실 압축 알고리즘의 핵심을 형성한다. 입력값과 양자화된 값 사이의 차이(반올림 오류 등)를 양자화 오류라고 한다. 양자화를 수행하는 장치나 알고리즘 함수를 양자화기라고 한다. 아날로그-디지털 변환기는 정량기의 예다.

수학적 특성

정량화는 다대일 매핑이기 때문에 본질적으로 비선형적이고 불가역적인 과정이다(즉, 동일한 출력값이 복수의 입력값으로 공유되기 때문에 일반적으로 출력값만 주어진다면 정확한 입력값을 회복하는 것은 불가능하다). 가능한 입력값의 집합은 무한히 클 수 있으며, 연속적일 수도 있고 따라서 계산할 수 없을 수도 있다(예: 모든 실수의 집합 또는 제한된 범위 내의 모든 실수의 집합). 가능한 출력 값의 집합은 유한하거나 무한할 수 있다. 정량화에 관련된 입력과 출력 세트는 다소 일반적인 방법으로 정의될 수 있다. 예를 들어 벡터 정량화는 다차원(벡터 값) 입력 데이터에 정량화를 적용하는 것이다.

아날로그 디지털 변환기

아날로그-디지털 변환기(ADC)는 샘플링과 정량화의 두 가지 프로세스로 모델링할 수 있다. 샘플링은 시간 변동 전압 신호를 실수의 시퀀스인 이산 시간 신호로 변환한다. 정량화는 각각의 실수를 유한한 이산형 값 집합의 근사치로 대체한다. 가장 일반적으로 이러한 이산형 값은 고정점 단어로 표현된다. 아무리 정량화 수준이라도 가능하지만 공통 단어 길이는 8비트(256레벨), 16비트(6만5536레벨), 24비트(1680만레벨)이다. 숫자의 순서를 정량화하면 일련의 정량화 오류가 발생하는데, 확률적 동작 때문에 정량화 노이즈라고 하는 가법적 무작위 신호로 모델링되기도 한다. 정량기가 더 많은 수준을 사용할수록 정량화 노이즈가 더 낮아진다.

속도 왜곡 최적화

비율-분배 최적화 정량화는 손실 데이터 압축 알고리즘에 대한 소스 코딩에서 발견되며, 여기서 목적은 통신 채널 또는 저장 매체가 지원하는 비트 전송률 한계 내의 왜곡을 관리하는 것이다. 이 맥락에서 정량화의 분석은 정량기의 출력을 나타내기 위해 사용되는 데이터의 양(일반적으로 자릿수 또는 비트 또는 비트 전송률로 측정)을 연구하고 정량화 과정에서 유입되는 정밀도의 손실(변형이라고 한다)을 연구하는 것을 포함한다.

반올림 예제

예를 들어, 실제 숫자 χ을 가장 가까운 정수 값으로 반올림하면 매우 기본적인 정량기 유형인 균일한 정량기가 형성된다. 정량화 단계 크기가 일부 ValueΔ와 같은 일반적인 (미드-트레드) 균일한 정량기는 다음과 같이 표현할 수 있다.

정량기의 본질적인 특성은 가능한 입력값의 집합보다 적은 수의 멤버를 가진 가능한 출력값의 카운트 가능한 집합을 가지고 있다는 것이다. 출력 값 집합의 멤버는 정수, 합리적 또는 실제 값을 가질 수 있다. 가장 가까운 정수로 단순 반올림할 경우 스텝 크기 Δ는 1과 같다. Δ =1 또는 Δ가 다른 정수 값과 동일한 경우, 이 정량기는 실제 값 입력과 정수 값 출력을 가진다. 정량화 단계 크기(Δ)가 정량화되는 신호의 변동에 비해 작을 경우, 그러한 반올림 연산에 의해 발생하는 평균 제곱 오차는 약 Δ²/12가 될 것이라는 것을 보여주는 것이므로 비교적 간단하다.

평균 제곱 오차는 정량화 소음 힘이라고도 한다. 정량기에 1비트를 추가하면 Δ 값이 절반으로 반감되는데, 이 값이 Δ 인자에 의해 소음 출력을 감소시킨다. 데시벨로 환산하면 소음전력의 변화는 다음과 같다.

정량기의 가능한 출력값 집합을 카운트할 수 있기 때문에, 어떤 정량기는 두 개의 구별되는 단계로 분해될 수 있는데, 이는 분류 단계(또는 정량화 단계)와 재구성 단계(또는 정량화 단계)로 지칭할 수 있으며, 여기서 정량화에 입력값을 매핑한다. 지수 k와 재구성 단계는 인덱스 k를 입력 값의 출력 근사치인 재구성 값 yk에 매핑한다. 위에서 설명한 균일한 정량기의 예에 대해, 전방 정량화 단계는 다음과 같이 표현할 수 있다.

그리고 이 예시 정량기의 재구성 단계는 단순하다.

이 분해는 정량화 행동의 설계와 분석에 유용하며, 정량화된 데이터가 통신 채널을 통해 어떻게 전달될 수 있는지를 보여준다. 즉, 소스 인코더는 정량화 단계를 수행하고 통신 채널을 통해 지수 정보를 전송할 수 있으며, 디코더는 재구성 단계를 수행할 수 있다. 원본 입력 데이터의 출력 근사치를 생성한다. 일반적으로 전방 정량화 단계는 입력 데이터를 정량화 지수 데이터의 정수 공간에 매핑하는 기능을 사용할 수 있으며, 역 정량화 단계는 개념적으로(또는 문자 그대로) 각 정량화 지수를 해당 재구성 값에 매핑하는 테이블 조회 연산일 수 있다. 이 2단계 분해는 스칼라 정량제뿐만 아니라 벡터에도 똑같이 잘 적용된다.