웨이블릿 변환의 단계별 연산 흐름

분석 필터뱅크의 적용

연속 신호를 이산 표본화로 다룰 때 웨이블릿 변환은 시간영역 신호를 여러 대역으로 분할하기 위해 저역필터와 고역필터를 사용한다. 이때 신호를 $h(n)$과 $g(n)$로 표현되는 두 개의 필터로 동시에 컨볼루션한 뒤 각 결과에 대해 절반 샘플링을 수행한다. 시간영역에서의 컨볼루션은

$$y_{\mathrm{low}}[k] = \sum_{n=-\infty}^{\infty} \mathbf{x}[n] \, h(2k - n) \quad,\quad y_{\mathrm{high}}[k] = \sum_{n=-\infty}^{\infty} \mathbf{x}[n] \, g(2k - n)$$

와 같이 정의된다. 여기서 $\mathbf{x}[n]$은 이산화된 입력 신호이며 $k$는 출력 표본의 인덱스다. $h$와 $g$는 각각 스케일링(scaling) 필터 계수와 웨이블릿(wavelet) 필터 계수를 나타낸다.

이 과정을 필터뱅크 형태로 시각화하면 다음과 같이 표현할 수 있다:

계수 분해 과정에서 저역 출력은 웨이블릿 변환에서 ‘상대적으로 느린 변화 성분’을 포착하며, 고역 출력은 ‘급격한 변화나 에지(Edge) 성분’을 포착한다. 이러한 분석 필터뱅크 구조는 각 단계를 거치면서 신호를 저역과 고역으로 분해하기 때문에 다단계 웨이블릿 변환의 핵심 기제가 된다.

다운샘플링과 계수 추출

각각의 필터 출력 $y_{\mathrm{low}}[k]$와 $y_{\mathrm{high}}[k]$는 한 번의 컨볼루션과 다운샘플링을 통해 신호 길이가 절반으로 줄어든다. 이때 아래첨자로 $a_j[k]$와 $d_j[k]$와 같은 표기를 사용하기도 하며,

$$a_j[k] \equiv y_{\mathrm{low}}[k] \quad,\quad d_j[k] \equiv y_{\mathrm{high}}[k]$$

와 같이 $j$번째 스케일에서의 저역 계수와 고역 계수로 구분한다. $d_j[k]$는 세부(Detail) 계수로 불리며 에지나 잡음 같은 고주파 성분을 담고 있고, $a_j[k]$는 근사(Approximation) 계수로 불리며 보다 완만한 변화를 포함한다.

다단계 분해

입력 신호에 대한 1단계 변환을 통해 얻어진 저역 계수 $a_j[k]$는 더 낮은 대역의 정보를 담고 있으므로, 여기에 다시 같은 필터뱅크 과정을 반복 적용하면 계층적 구조로 세분화할 수 있다.

이 과정을 다단계 웨이블릿 분해(Multilevel Wavelet Decomposition)라고 부르며, 신호가 갖는 시간-주파수 특성을 점진적으로 분해해 나가는 방식이다.

구체적으로 $j$번째 스케일에서 얻은 저역 계수 $a_j[k]$에 대해 저역 필터와 고역 필터를 각각 적용해 다운샘플링하면, $a_{j+1}[k]$와 $d_{j+1}[k]$를 새롭게 얻는다.

이를 반복함으로써 신호는 스케일이 증가할 때마다 더욱 낮은 주파수 성분으로 나뉘면서, 전체적으로 다중 해상도(multi-resolution) 구조를 갖게 된다.

분석 과정을 계층 구조로 나타내면 다음과 같이 시각화할 수 있다:

이렇게 계층적으로 분해가 진행되면, 가장 낮은 대역의 정보를 담는 최종 저역 계수 ${a_{j_{\max}}[k]}$와 중간 단계에서 나온 다수의 고역 계수 ${d_j[k]}$ 집합이 최종 웨이블릿 변환 결과로 정리된다.

합성 필터뱅크(역 변환)

웨이블릿 변환의 역연산은 합성 필터뱅크(Synthesis Filter Bank)를 통해 진행된다.

각 스케일별로 얻은 고역 계수와 저역 계수를 상향샘플링(up-sampling)하고, 대응하는 합성 필터(스케일링 필터와 웨이블릿 필터의 역계수)를 사용해 컨볼루션을 수행한 뒤 이 두 결과를 합산하면 상위 단계의 계수(또는 신호)를 재구성할 수 있다.

이를 수식으로 표현하면, $a_j[k]$와 $d_j[k]$에서 상위 스케일의 저역 계수 $a_{j-1}[n]$을 복원하는 과정은

$$\mathbf{a}_{j-1}[n] = \sum_{k=-\infty}^{\infty} \Bigl( a_j[k] \, \tilde{h}(n - 2k) + d_j[k] \, \tilde{g}(n - 2k) \Bigr)$$

와 같이 표현된다. 여기서 $\tilde{h}$, $\tilde{g}$는 합성 단계에서 사용하는 역필터 계수로서, 일반적으로 분석 필터 계수와 밀접한 관계(정규직교 웨이블릿인 경우 간단히 해석 가능)를 가진다.

경계 조건 처리

실제 이산 신호나 디지털 신호를 웨이블릿 변환할 때는 필연적으로 신호의 양 끝단에서 경계 조건 문제가 발생한다. 필터 계수를 이용한 컨볼루션에서 신호가 존재하지 않는 구간을 어떻게 확장(extend)할 것인가에 따라 변환 결과가 달라질 수 있다.

가장 간단하게는 경계 밖 값을 모두 0으로 가정하는 제로 패딩(Zero Padding)을 사용할 수 있다. 하지만 이 방법은 잡음이나 불연속이 발생하기 쉬워 이미지 분야처럼 경계가 중요한 상황에서는 부적절할 수 있다.

보다 자주 쓰이는 방법으로는 신호 양 끝단을 대칭(symmetric)으로 반사(reflect)해 주는 방법이 있다. 이를 통해 경계 부분에서 신호의 연속성을 어느 정도 보장하며, 변환 계수에서 발생할 수 있는 경계 왜곡(artifact)을 줄일 수 있다.

주기적(periodic) 확장 또한 사용할 수 있다. 신호의 양 끝을 연결해 순환 구조로 만든다는 점에서, 푸리에 변환과 유사한 방식이라고 볼 수 있다. 다만 웨이블릿 변환은 시간-주파수 해상도 면에서 푸리에 변환과 다르므로, 어떤 유형의 경계 확장이 가장 적합한지는 실제 응용 분야에 따라 달라진다.

완전 재구성 조건

웨이블릿 변환에서 필터뱅크를 거쳐 얻은 계수들로부터 원 신호를 정확히 복원하려면, 분석 필터와 합성 필터 사이에 특정한 수학적 관계가 성립해야 한다. 이를 완전 재구성(perfect reconstruction) 또는 PR 조건이라고 부른다.

이 조건은 크게 직교(orthogonal) 웨이블릿과 쌍직교(biorthogonal) 웨이블릿으로 구분해 해석할 수 있다. 직교 웨이블릿의 경우, 동일 계수가 분석과 합성 과정에서 직교성을 만족하기 때문에 이론적으로 비교적 간단한 구성을 가진다. 쌍직교 웨이블릿은 분석 필터와 합성 필터를 서로 다르게 설정해 위상 특성이나 스플라인 계열 같은 특정한 형태를 구현하기 쉬운 장점이 있다.

수식으로 표현하면, 이산 시간에서 완전 재구성 조건은 일반적으로

$$\mathbf{\hat{x}}[n] = \mathbf{x}[n] \quad \Longleftrightarrow \quad \sum_{n=-\infty}^{\infty} \bigl(\mathbf{x}[n]*h_\mathrm{analysis}[n]\bigr)*h_\mathrm{synthesis}[n] = \mathbf{x}[n]$$

와 같은 형태로 나타나며, 다운샘플링과 업샘플링 과정을 고려하면 필터 계수들이 상호직교성을 갖도록 설계되어야 한다.

구현 시 고려 사항

수학적으로는 이상적인 필터뱅크 구조를 통해 웨이블릿 변환과 역변환이 가능하지만, 실제 구현 단계에서는 필터 길이, 고정 소수점 연산, 경계 처리, 샘플링 레이트 등 다양한 요소를 균형 있게 고려해야 한다.

예를 들어 길이가 짧은 웨이블릿 필터를 사용할 때는 시간축에서의 정확도가 상대적으로 좋을 수 있으나, 주파수 분해능이 떨어질 수 있다. 반대로 길이가 긴 모함수(Mother Wavelet)은 미세 에지 검출에는 불리하지만 주파수 해석 측면에서 유리하다.

또한 분석 단계에서 축소된 표본 개수(반으로 줄어든 길이)를 합성 단계에서 상향샘플링해 복원할 때, 고정 소수점 연산 환경에서는 양자화 오차(quantization error)에 주의해야 한다. 이는 특정 응용, 예컨대 임베디드 시스템에서 실시간 신호 처리를 수행할 때 특히 중요한 문제다.

시간-주파수 해석의 요약

웨이블릿 변환은 고역 성분과 저역 성분을 분리하는 과정을 반복하여, 주파수 성분을 점진적으로 세분화하면서도 각 스케일별 시간 영역 특성을 놓치지 않는다. 이러한 다중해상도(Multi-resolution) 접근법은 단일 창 함수만을 사용하는 단순한 단시간 푸리에 변환(STFT)과 달리, 각 스케일에 특화된 창 함수를 적용함으로써 고주파 대역에서 더욱 미세한 시간 해상도를, 저주파 대역에서 상대적으로 넓은 시간 해상도를 제공한다.

이러한 특성 덕분에 웨이블릿 변환은 신호의 에지나 특이점을 찾는 데 효과적이며, 잡음 제거 등에도 자주 사용된다.

실제 신호처리와 연산 순서

정리하면 이산 입력 신호를 웨이블릿 변환해 나가는 단계는 크게 다음과 같은 연산 순서로 묶어 볼 수 있다.

• (1) 이산 신호를 입력받는다.

• (2) 분석 필터뱅크를 통해 신호를 저역 계수와 고역 계수로 분해한다.

• (3) 저역 계수에 대해 동일한 필터뱅크 연산을 반복하여 다단계 분해를 수행한다.

• (4) 변환이 완료된 계수들을 이용하여, 필요하다면 합성 필터뱅크를 통해 다시 원 신호를 복원한다.

특히 다단계 분해 구조를 사용하는 경우, 저역 계수 $a_j[k]$에 대해 반복적으로 웨이블릿 변환을 적용하면서 서로 다른 스케일의 세부 계수를 얻는 방식이 일반적이다.

결국 분석과 합성에서의 필터 계수(모함수 계수와 스케일링 계수) 및 경계 처리 방식, 그리고 다운샘플링과 업샘플링 과정에서의 정확도 보장이 웨이블릿 변환의 성능과 결과 품질에 큰 영향을 미친다.