Biorthogonal 웨이블릿

기본 개념과 특징

Biorthogonal 웨이블릿은 두 쌍의 스케일링 함수와 웨이블릿 함수를 활용하여 신호를 변환하고 복원하는 체계를 갖는다. 한 쌍은 분석(Decomposition) 과정에서 사용되는 함수들이고, 다른 쌍은 합성(Reconstruction) 과정에서 사용되는 함수들이다. 이를 통해 $L^2(\mathbb{R})$ 상에서 서로 다른 두 집합의 기저가 Riesz basis 형태로 구성된다. 이 방식은 전형적인 정규직교(orthogonal) 웨이블릿과 달리 서로 다른 두 함수 공간 간의 내적이 $\delta$ 함수와 유사한 조건을 만족하도록 설계된다. 예를 들어 하나의 스케일링 함수 $\phi(t)$와 웨이블릿 함수 $\psi(t)$가 있고, 이에 쌍대(dual) 개념인 $\tilde{\phi}(t)$와 $\tilde{\psi}(t)$가 존재한다. 이때 다음과 같은 성질들이 요구된다.

각각의 스케일링 함수와 웨이블릿 함수는 서로 직교가 아니지만, 쌍대 함수들 간에는

$$\langle \phi, \tilde{\phi} \rangle = 1,\quad \langle \psi, \tilde{\psi} \rangle = 1,\quad \langle \phi, \tilde{\psi} \rangle = 0,\quad \langle \psi, \tilde{\phi} \rangle = 0$$

이 되는 조건을 만족하도록 설계된다. 이러한 관계는 정규직교 웨이블릿에 비해 복원 과정에서 두 종류의 계수 집합이 사용됨을 의미한다. 즉, 분석단계에서는 $\phi, \psi$를 사용하여 신호를 세분화하고, 합성단계에서는 $\tilde{\phi}, \tilde{\psi}$를 사용하여 원 신호를 재구성한다. 이와 같은 구조를 갖추면 정규직교 웨이블릿에서 만족시키기 어려운 대칭성(symmetricity)이나 근사정도(optimal approximation) 관련 요구사항을 보다 유연하게 조정할 수 있다.

필터 계수와 양방향 필터뱅크

Biorthogonal 웨이블릿을 디지털 신호에 적용하기 위해서는 이산 웨이블릿 변환(DWT)과 연계된 필터 계수를 구성해야 한다. 두 쌍의 필터가 존재한다고 할 때, 분석용 필터 쌍을 $h(n), g(n)$이라 하고, 합성용 필터 쌍을 $\tilde{h}(n), \tilde{g}(n)$이라 부른다. 신호 $x(n)$이 주어지면, 분석 과정은

$$a(k) = \sum_{n} x(n)\, h(2k-n),\quad d(k) = \sum_{n} x(n)\, g(2k-n)$$

와 같은 형태로 처리된다. 여기서 $a(k)$는 저주파 성분(Approximation)을, $d(k)$는 고주파 성분(Detail)을 나타낸다. 반면, 합성 과정은

$$\hat{x}(n) = \sum_{k} a(k)\,\tilde{h}(2k-n) + \sum_{k} d(k)\,\tilde{g}(2k-n)$$

와 같이 이루어진다. 정규직교 웨이블릿의 경우 $h = \tilde{h}, g = \tilde{g}$를 만족하지만, Biorthogonal 웨이블릿에서는 서로 다른 집합의 필터 계수를 사용하여 분석과 합성의 최적화를 별도로 진행한다. 이를 통해 필터 계수의 대칭성이나 부특이성(Non-singularity), 그리고 조건부 대역통과 특성 등을 세밀하게 설계할 수 있다.

대칭성과 위상 반응

Biorthogonal 웨이블릿에서는 필터 계수의 대칭성을 확보하기가 상대적으로 용이하다. 정규직교 웨이블릿에서 대칭성을 가지려면 위상 응답(phase response) 측면에서 심각한 제약이 뒤따른다. 예를 들어 정규직교 Haar 웨이블릿은 대칭성을 갖지만, 일반적인 다항 차수 이상에서 부드러운 계수를 확보하기가 매우 어렵다. 반면, 분석용 스케일링 함수와 웨이블릿 함수가 대칭성을 갖지 않아도, 합성용 스케일링 함수와 웨이블릿 함수를 적절히 설계하여 결과적으로 전체 변환에 대칭적 효과를 부여할 수 있다. 이를 통해 신호 변환 시 위상 왜곡(phase distortion)을 최소화하거나 특정 목적에 맞게 위상 특성을 맞출 수 있다.

시간 축에서 대칭성을 만족하는 필터 계수는 영상 처리나 의학 영상 복원과 같은 분야에서 매우 선호된다. 위상 반응이 선형(Linear Phase)에 가까울수록 분할-합성 과정에서 단순 평행 이동 외에 추가적인 위상왜곡이 일어나지 않으므로, 복원 신호의 구조적 특성을 유지하기에 유리하다. Biorthogonal 웨이블릿은 이러한 선형 위상 특성을 구현하기 수월하여, JPEG2000 등의 이미지 압축 표준에서 자주 사용된다.

완전 재구축 조건(Perfect Reconstruction)

Biorthogonal 웨이블릿을 적용할 때, 분석 단계에서 신호를 다중 해상도로 세분화하고, 이를 합성 단계에서 다시 되돌렸을 때 원 신호가 손실 없이 복원되는 완전 재구축(perfect reconstruction)이 보장되어야 한다. 이를 위해서는 필터 계수의 $z$-변환을 통한 행렬 표현에서 특정 조건을 만족해야 한다. 분석 필터 쌍을 $H_0(z), H_1(z)$, 합성 필터 쌍을 $\tilde{H}_0(z), \tilde{H}_1(z)$라 할 때, 양방향 필터뱅크의 다중률이 2인 경우에는 다음과 같은 단일 입력 단일 출력(SISO) 구조의 폴리위상(Polyphase) 행렬이 고려된다.

폴리위상 행렬을

$$\mathbf{E}(z) = \begin{pmatrix} E_{00}(z) & E_{01}(z) \\ E_{10}(z) & E_{11}(z) \end{pmatrix}$$

라 하면, 분석 필터뱅크에 대한 폴리위상 행렬은

$$\mathbf{E}(z) = \begin{pmatrix} H_0^{(e)}(z) & H_1^{(e)}(z) \\ H_0^{(o)}(z) & H_1^{(o)}(z) \end{pmatrix}$$

처럼 정의된다. 여기서 $H_i^{(e)}(z)$는 짝수 성분, $H_i^{(o)}(z)$는 홀수 성분에 대응한다. 합성 필터뱅크에 대한 폴리위상 행렬을

$$\mathbf{R}(z) = \begin{pmatrix} \tilde{H}_0^{(e)}(z) & \tilde{H}_1^{(e)}(z) \\ \tilde{H}_0^{(o)}(z) & \tilde{H}_1^{(o)}(z) \end{pmatrix}$$

라 하면 완전 재구축을 위해서는 $\mathbf{R}(z),\mathbf{E}(z) = \mathbf{I}$가 되어야 한다. 정규직교 웨이블릿의 경우에는 $\mathbf{R}(z) = \mathbf{E}^T(z^{-1})$ 형태가 보통이지만, Biorthogonal 웨이블릿은 두 폴리위상 행렬이 서로 달라지더라도 곱이 항등행렬이 되도록 설계된다. 이를 만족하면, 분석-합성 과정에서 위상과 진폭 왜곡이 모두 제거되어 원 신호를 복원할 수 있다.

다항 모멘트(Polynomial Moments)

웨이블릿 변환의 중요한 특성 중 하나는 다항 모멘트(Polynomial Moments)의 소거(vanishing) 정도다. 스케일링 함수와 웨이블릿 함수가 특정 차수 이하의 다항식을 완벽하게 표현하거나 0으로 만드는 특성은 신호나 영상의 저주파 성분에 대한 효율적 표현과 고주파 성분에 대한 세밀한 분석을 가능하게 한다. 정규직교 웨이블릿에서는 동일한 함수 계열이 분석과 합성에 쓰이므로, 모멘트 특성 역시 한계가 있는 반면, Biorthogonal 웨이블릿에서는 서로 다른 두 함수 계열이 각각 다른 차수의 다항 모멘트 조건을 만족하도록 설계가 가능하다.

예를 들어 분석용 스케일링 함수와 웨이블릿 함수에서 $m$차 모멘트를 소거하도록 맞추고, 합성용 스케일링 함수와 웨이블릿 함수는 $n$차 모멘트를 소거하도록 따로 맞출 수 있다. 이때 스케일링 함수의 정규화 조건

$$\int \phi(t)\,dt = 1, \quad \int \tilde{\phi}(t)\,dt = 1$$

및 웨이블릿 함수의 0 모멘트 조건

$$\int \psi(t)\,dt = 0, \quad \int \tilde{\psi}(t)\,dt = 0$$

등을 확장하여, 다항차수별 계수 적분값이 특정 목표값이 되도록 설계할 수 있다. 영상에서 저주파 구성 요소의 정확한 복원이 중요할 경우 특정 차수의 다항 모멘트를 보존하게끔 맞추고, 에지나 세부 구조를 강조하고 싶다면 더 높은 차수의 모멘트를 소거하도록 스케일링 함수와 웨이블릿 함수를 선택할 수 있다.

대표적인 Biorthogonal 웨이블릿: CDF 9/7

JPEG2000 표준에서 이미지 압축용으로 사용되는 CDF 9/7 웨이블릿은 Biorthogonal 특성을 대표적으로 구현한다. 분석용 필터와 합성용 필터가 각각 길이가 9와 7이며, 대칭성이 우수하고 높은 다항 모멘트를 보장하도록 설계된다. 정규직교 시스템보다 자유도가 높아, 한쪽 함수계를 통해 특정 차수의 다항 모멘트를 소거하고 다른 쪽 함수계를 통해 복원 시 위상 반응이나 대역 분할 특성을 최적화할 수 있다. 스케일링 함수와 웨이블릿 함수를 포함한 필터 계수를 조금 더 엄밀하게 기술하면, 필터뱅크 구조에서 분석과 합성을 별개로 설계한다는 점이 핵심이다.

시간 영역에서 이 필터들을 직접 살펴보면, 9개의 탭을 가진 필터는 부드러운(lowpass) 스케일링 함수를 구현하고, 7개의 탭을 가진 필터는 웨이블릿 함수의 대칭적 성질을 유지하면서도 고주파 성분을 효율적으로 포착한다. 서로 쌍대가 되는 필터는 $z$-도메인에서 인접하는 극과 영(zero)들을 상쇄하며, 폴리위상 행렬 곱이 항등행렬이 되도록 유도된다. 이를 통해 완전 재구축이 이루어지고, 에너지 손실이나 위상 왜곡이 일어나지 않도록 보장한다.

CDF 9/7 필터를 양방향 필터뱅크로 간단히 표현하면 다음과 같은 흐름도를 그려볼 수 있다.

여기에서 $H_0(z)$, $H_1(z)$는 분석 단계에서 사용되는 두 개의 필터이고, $G_0(z)$, $G_1(z)$는 합성 단계에 사용되는 쌍대 필터들이다. 다만 실제 CDF 9/7 필터의 계수는 부호나 영점 배치 등에 따라 더욱 정교하게 구성된다. 설계 시에는 필터 계수의 선형 위상, 에너지 보존, 다항 모멘트 조건, 그리고 특정 어프로치(예: 최소 위상, 근사 대칭 필터 등)가 모두 종합적으로 고려된다.

분석 필터 쌍과 합성 필터 쌍을 나란히 쓰면 길이가 9인 저주파 필터와 길이가 7인 고주파 필터가 각각 두 쌍 형식으로 나타나므로, 네 개 필터 모두 다항 모멘트 및 대칭 조건을 충족하도록 계수가 배치된다. 수학적으로는 $H_0(z)$와 $G_0(z)$가 쌍대 스케일링 함수 계수를, $H_1(z)$와 $G_1(z)$가 쌍대 웨이블릿 함수 계수를 결정한다.

직교 웨이블릿의 경우에는 해상도 세분화와 재구축이 하나의 함수 계열로 해결되지만, 여기서는 분석용 스케일링 함수와 합성용 스케일링 함수가 서로 달라질 수 있다는 점이 다르다. 이를 통해 필터 길이를 짧게 유지하면서도 양단에서 원하는 특성을 끌어낼 수 있고, 일부 계수들은 무게중심이 중앙에 오도록 설계해 신호 경계 처리 시 발생하는 왜곡도 제어할 수 있다.

정밀 해부(Refinement) 방정식

Biorthogonal 웨이블릿에서 분석용 스케일링 함수와 웨이블릿 함수, 그리고 합성용 스케일링 함수와 웨이블릿 함수를 정의하기 위해서는 각 함수가 만족하는 정밀 해부(refinement) 방정식을 먼저 살펴야 한다. 일반적인 정규직교 웨이블릿의 경우 하나의 스케일링 함수 $\phi(t)$에 대해

$$\phi(t) = \sqrt{2}\,\sum_{k} h(k)\,\phi(2t - k) \\ \psi(t) = \sqrt{2}\,\sum_{k} g(k)\,\phi(2t - k)$$

이 같은 형태가 되고, $h(k)$와 $g(k)$는 다중해상도 분석(multiresolution analysis)을 만족하는 정규직교 필터 계수를 이룬다. Biorthogonal 웨이블릿에서는 분석용 스케일링 함수와 웨이블릿 함수인 $\phi(t)$, $\psi(t)$와 합성용 스케일링 함수와 웨이블릿 함수인 $\tilde{\phi}(t)$, $\tilde{\psi}(t)$가 각각 다른 방정식을 만족한다. 분석 쪽은

$$\phi(t) = \sqrt{2}\,\sum_{k} h(k)\,\phi(2t - k), \quad \psi(t) = \sqrt{2}\,\sum_{k} g(k)\,\phi(2t - k)$$

합성 쪽은

$$\tilde{\phi}(t) = \sqrt{2}\,\sum_{k} \tilde{h}(k)\,\tilde{\phi}(2t - k), \quad \tilde{\psi}(t) = \sqrt{2}\,\sum_{k} \tilde{g}(k)\,\tilde{\phi}(2t - k)$$

이런 형태를 갖는다. 여기에서 $h(k), g(k)$는 분석(Decomposition) 단계의 필터 계수이고, $\tilde{h}(k), \tilde{g}(k)$는 합성(Reconstruction) 단계의 필터 계수를 가리킨다.

지원 공간과 Riesz 기저

Biorthogonal 계열에서 분석용 스케일링 함수가 이루는 공간과 합성용 스케일링 함수가 이루는 공간은 서로 쌍대 공간(dual space) 관계를 가진다. 정규직교 계열에서는 $\phi(t)$의 정수 평행이동 $\phi(t-k)$들이 모두 직교하여, 그 스팬이 $V_0$라는 닫힌 공간을 형성한다. Biorthogonal 계열에서는 $\phi(t-k)$가 이루는 집합과 $\tilde{\phi}(t-k)$가 이루는 집합이 서로 대응하며, 서로에 대한 내적 관계가 적절히 맞추어져야 완전 재구축이 가능하다. 이 관계를 Riesz basis 조건으로 요약할 수 있다. 즉, 적당한 양의 상수 $A, B$에 대하여 모든 $x(t) \in V_0$에 대해

$$A \| \mathbf{c} \|^2 \le \Big\| \sum_{k} c_k\,\phi(t-k) \Big\|^2 \le B \| \mathbf{c} \|^2$$

이런 형태의 부등식을 만족하여야, ${\phi(t-k)}_k$가 Riesz 기저 역할을 하게 된다. Biorthogonal에서의 $\tilde{\phi}(t-k)$도 유사한 조건을 갖고, $\phi(t)$와 $\tilde{\phi}(t)$ 두 계열이 서로 쌍대 기저로 작용한다.

필터 길이와 국소성(Compact Support)

Biorthogonal 스케일링 함수를 구성하기 위해서는 필터 계수들이 유한 길이(Compact Support)를 가져야 한다. 정규직교 Daubechies 웨이블릿 계열에서 짧은 필터 길이를 얻으려면 필연적으로 비대칭 계수를 가지게 되며, 대칭 필터를 갖기 어려워진다. 하지만 Biorthogonal 구조에서는 분석용 필터와 합성용 필터에 서로 다른 다항식 근사와 모멘트 소거 조건을 부여함으로써, 한쪽 필터 계열을 대칭으로 설계하면서도 다른 한쪽 필터 계열에서 충분한 소거 모멘트를 확보할 수 있다. 그 결과 국소적 형태(Compactly Supported)임에도 선형 위상 특성을 가질 수 있는 필터를 구축하기가 용이해진다.

필터 길이가 길어질수록 더 높은 차수의 다항 모멘트 조건을 만족시키기 수월해지나, 신호처리 시 필터 연산량이 증가하고 경계 처리에서 복잡도가 커진다. 이러한 트레이드오프를 고려하여 JPEG2000처럼 특수 목적 표준에서 쓰이는 Biorthogonal 웨이블릿은 보통 9/7, 5/3 등 비교적 짧은 탭을 갖는 필터 세트를 선택한다.

정규직교 대비 Biorthogonal의 장단점

Biorthogonal 웨이블릿은 정규직교 대비 확장된 자유도를 활용해 위상 반응을 개선하고, 대칭성을 유지하며, 다항 모멘트 조건을 좀 더 유연하게 조절할 수 있다. 그러나 두 쌍의 필터 집합을 각각 설계해야 하므로 전체 알고리즘 구조가 다소 복잡해지며, 필터 계수 설계 과정도 까다롭다는 단점이 따른다. 분석과 합성 과정에서 서로 다른 필터를 사용하기 때문에, 신호 처리 시스템을 구현할 때 더 많은 계수를 저장해야 하고, 연산도 각 단계마다 별개의 필터를 적용해야 한다. 그럼에도 불구하고 Biorthogonal 웨이블릿이 널리 쓰이는 이유는, 최소 위상 왜곡과 높은 신호 재현성을 모두 확보할 수 있기 때문이다.