Quantization noise

상위 문서: Noise

핵심 결론

• 이상적인 반올림 양자화 오차의 범위는 $[-\Delta /2,\Delta /2)$이고 분산은 ${\Delta }^2/12$이다.
• 이 오차를 white noise로 보는 것은 조건부 근사이며, DC·주기 입력·overload에서는 tone이나 spur가 생길 수 있다.
• Noise shaping이 없을 때 OSR을 2배로 하면 in-band quantization-noise power가 약 3 dB 감소한다.

---

1. 왜 양자화 오차를 noise로 모델링하는가

양자화기는 비선형 시스템이지만, 오차가 입력 및 이전 오차와 충분히 비상관이면 additive white-noise source로 근사할 수 있다. 이 모델을 사용하면 복잡한 quantizer 동작을 PSD, 대역 적분, SNR 계산으로 단순화할 수 있다.

$$\boxed{\text{비선형 quantizer}\approx \text{입력}+\text{additive quantization noise}}$$

이 근사는 항상 성립하는 법칙이 아니라 입력과 quantizer 조건에 따라 유효성이 달라지는 분석 모델이다.

2. 핵심 정의: Quantization error

양자화 간격(step size)을 $\Delta$라 하고 반올림형 양자화기를 $Q(\cdot )$라 하면

$$y[n]=Q(x[n])$$ $$e[n]=y[n]-x[n]$$

이다. overload가 없고 양자화 level 사이에서 반올림한다면

$$-\frac{\Delta }{2}\le e[n]<\frac{\Delta }{2}$$

이다.

$N$ bit 양자화기의 전체 입력 범위가 $V_{FS}$이면 이상적으로

$$\Delta =\frac{V_{FS}}{2^N}$$

이다. 단, $V_{FS}$가 peak-to-peak 범위인지 양·음의 peak 범위인지 정의를 확인해야 한다.

---

3. 핵심 수식: ${\Delta }^2/12$의 유도

양자화 오차가 $[-\Delta /2,\Delta /2)$에서 균일 분포한다고 가정하면

$$p_e(e)=\frac{1}{\Delta }$$

이다. 대칭이므로 평균은 0이고

$$\begin{array}{rl}{\sigma }_e^2& =E[e^2]\\ & ={\int }_{-\Delta /2}^{\Delta /2}{e}^2\frac{1}{\Delta }de\\ & =\frac{{\Delta }^2}{12}\end{array}$$

이다. 따라서 total RMS quantization noise는

$$e_{\mathrm{RMS}}=\frac{\Delta }{\sqrt{12}}$$

이다.

---

4. White-noise approximation의 조건

양자화 오차를 white noise로 다루려면 대략 다음 조건이 필요하다.

• 입력이 여러 quantization level을 충분히 자주 가로지름
• 입력과 오차의 상관이 작음
• 오차 샘플 사이의 상관이 작음
• 양자화기가 overload되지 않음
• 양자화 step이 신호 변화에 비해 충분히 작음

이 조건이 맞으면 양자화기를 선형 모델로 근사한다.

$$y[n]=x[n]+e[n]$$

여기서 $e[n]$은 평균 0, 분산 ${\Delta }^2/12$인 white-noise source로 취급한다.

4.1 근사가 깨지는 경우

• DC 또는 매우 작은 입력
• 입력과 샘플링 주파수가 단순한 정수 비를 갖는 주기 신호
• quantizer level 수가 매우 적은 경우
• limit cycle이 생기는 feedback system
• overload 또는 clipping

이때 오차는 broadband white noise가 아니라 입력과 연관된 harmonic, idle tone, spur로 나타날 수 있다. Dither를 추가하면 상관성과 tone을 줄일 수 있지만 전체 noise floor는 증가한다.

---

5. PSD 계산 순서

1. 입력 범위와 bit 수로 quantization step $\Delta$를 구한다.
2. Uniform-error 가정으로 total variance ${\Delta }^2/12$를 구한다.
3. White-noise 가정이 유효한지 입력과 overload 조건을 확인한다.
4. Total variance를 Nyquist 대역에 균일하게 분배해 PSD를 구한다.
5. 원하는 signal bandwidth에서 PSD를 적분해 in-band noise를 계산한다.

5.1 Two-sided PSD

white-noise approximation에서 total variance ${\Delta }^2/12$가 Nyquist 대역에 균일하게 분포한다고 본다.

$-f_s/2<f<f_s/2$에서

$$\boxed{S_e^{(2)}(f)=\frac{{\Delta }^2}{12f_s}}$$

이고 실제로

$${\int }_{-f_s/2}^{f_s/2}{S}_e^{(2)}(f)df=\frac{{\Delta }^2}{12}$$

이다.

5.2 One-sided PSD

$0<f<f_s/2$에서

$$\boxed{S_e^{(1)}(f)=\frac{{\Delta }^2}{6f_s}}$$

이다. amplitude density는

$$e_n=\sqrt{S_e^{(1)}}=\frac{\Delta }{\sqrt{6f_s}}[\text{input unit}/\sqrt{\mathrm{Hz}}]$$

이다.

---

6. In-band quantization noise와 oversampling

신호 대역이 $0\le f\le B$이고 $B<f_s/2$이면 one-sided PSD를 적분하여

$${\sigma }_{e,\mathrm{IB}}^2={\int }_0^B\frac{{\Delta }^2}{6f_s}df=\frac{{\Delta }^2}{12}\frac{2B}{f_s}$$

를 얻는다. oversampling ratio를

$$OSR=\frac{f_s}{2B}$$

로 정의하면

$$\boxed{{\sigma }_{e,\mathrm{IB}}^2=\frac{{\Delta }^2}{12}\frac{1}{OSR}}$$

이다. noise shaping이 없는 일반 양자화기에서도 OSR을 2배로 하면 in-band noise power가 절반, 즉 약 3 dB 감소한다.

---

7. 결과를 읽는 방법

변화	결과	이유
$N$이 1 bit 증가	$\Delta$가 절반, quantization-noise power가 1/4	분산이 ${\Delta }^2$에 비례
$f_s$ 증가, $\Delta$ 고정	전체 noise는 같고 PSD floor 감소	같은 power가 더 넓은 Nyquist 대역에 분포
OSR 2배	in-band noise power 약 3 dB 감소	signal band에 포함되는 white-noise 비율이 절반
Dither 추가	tone과 입력 상관성 감소, noise floor 증가	오차를 랜덤화하는 대신 추가 noise 발생

8. 이상적인 $N$ bit ADC의 SNR

full-scale sine 입력의 RMS가 $V_{FS}/(2\sqrt{2})$이고 $\Delta =V_{FS}/2^N$인 정의를 사용하면

$$SN{R}_{dB}\approx 6.02N+1.76\mathrm{dB}$$

이다. 이는 full-scale sine, 이상적인 양자화기, white quantization-noise model을 가정한 결과이며 실제 ADC의 thermal noise, distortion, clock jitter는 포함하지 않는다.

9. 흔한 오해와 주의점

흔한 오해	올바른 해석
모든 quantization error는 white noise	입력이 충분히 변하고 오차 상관이 작을 때만 유효한 근사다.
${\Delta }^2/12$이면 spectrum도 항상 평탄	분산 공식과 white-spectrum 가정은 별개의 조건이다.
Oversampling이 total quantization noise를 줄임	Noise shaping이 없으면 total noise는 같고 in-band 비율만 줄어든다.
$V_{FS}$ 정의를 확인하지 않음	peak-to-peak인지 양·음 peak인지 확인해야 한다.
$6.02N+1.76$ dB가 실제 ADC SNR	이상적인 full-scale sine 조건이며 thermal noise와 distortion은 제외된다.

10. 다음 개념과의 연결

일반 양자화기에서는 noise가 Nyquist 대역에 평탄하게 퍼진다고 가정한다. Delta-Sigma Modulator는 feedback으로 NTF를 만들어 이 quantization noise를 신호 대역 밖으로 이동시킨다.

다음 문서: Delta-Sigma Modulator noise