查看“正交变换”的源代码

在[[線性代數]]中，'''正交變換'''是[[線性變換]]的一種。對一個由空間<math>R^n </math>投射到同一空間<math>R^n </math>的線性轉換，如果轉換後的向量長度與轉換前的長度相同，則為正交變換<ref>{{Cite web|url=http://staff.csie.ncu.edu.tw/chia/Course/LinearAlgebra/sec5-3.pdf|title=ORTHOGONAL TRANSFORMATIONS AND ORTHOGONAL MATRICES|accessdate=2017-06-29|author=|date=|publisher=}}</ref>。

<math>\|T(\mathbf{x})\|=\|\mathbf{x}\| </math>

其中<math>\|\mathbf{x}\| </math>在空間<math>R^n </math>內，<math>n </math>表示維度。

對於正交變換<math>T </math>以及兩個向量<math>\mathbf{u} </math>和<math>\mathbf{v} </math>，<math>\mathbf{u} </math>和<math>\mathbf{v} </math>之內積等於正交轉換後之向量<math>T({\displaystyle \mathbf {u} }) </math>和<math>T({\displaystyle \mathbf {v} }) </math>之內積。

<math>\langle{\mathbf{u},\mathbf{v}}\rangle =\langle{T(\mathbf{u}),T(\mathbf{v})}\rangle=\textstyle \sum_{n=0}^{N-1}u[n]v[n] \displaystyle </math>

其中<math>N </math>為向量長度，<math>u[n] </math>和<math>v[n] </math>分別為<math>\mathbf{u} </math>和<math>\mathbf{v} </math>之元素，正交變換不會影響轉換前後向量間的夾角和內積長度。

在矩陣表示形式上，如果<math>T(\mathbf{x})=\mathbf{A}\mathbf{x} </math>為正交變換，則為<math>\mathbf{A} </math>正交矩陣，對於正交變換之正交矩陣<math>\mathbf{A} </math>，其每個列互為正交，令<math>\mathbf{A} </math>為<math>M\times N </math>之矩陣，取兩個不相同的列<math>\phi_k </math>和<math>\phi_h </math> (<math>k\neq h </math>)遵守下列關係。

<math>\langle \phi_k, \phi_h \rangle = 0 </math>

== 性質 ==
1. 正交變換<math>T </math>不會改變向量間的正交性，如果<math>\mathbf{u} </math>和<math>\mathbf{v} </math>正交，則<math>T({\displaystyle \mathbf {u} }) </math>和<math>T({\displaystyle \mathbf {v} }) </math>亦為正交。

<math>Proof: </math>

根據畢氏定理，正交變換後的向量會符合下式：

<math>\|T(\mathbf{u}) +T(\mathbf{v}) \|^2=\|T(\mathbf{u})\|^2 + \|T(\mathbf{v})\|^2 </math>

因為正交變換屬於線性轉換：

<math>\|T(\mathbf{u}) +T(\mathbf{v}) \|^2=\|T(\mathbf{u}+\mathbf{v})\|^2  </math>

正交變換前後向量的長度相同：

<math>\|T(\mathbf{u}) +T(\mathbf{v}) \|^2=\|\mathbf{u}+\mathbf{v}\|^2  </math>

再根據畢氏定理，且和正交：

<math>\|\mathbf{u}+\mathbf{v}\|^2 = \|\mathbf{u}\|^2 + \|\mathbf{v}\|^2 </math>

再根據正交變換的性質，正交變換前後向量的長度相同：

<math>\|\mathbf{u}\|^2 + \|\mathbf{v}\|^2 = \|T(\mathbf{u})\|^2 + \|T(\mathbf{v})\|^2  </math>

2. 如果<math>\mathbf{A}  </math>和<math>\mathbf{B}  </math>皆為正交矩陣，則<math>\mathbf{AB}  </math>亦為正交矩陣。

<math>Proof: </math>

令一正交變換為：

<math>T(\mathbf{x})=\mathbf{ABx}   </math>

正交變換後長度不變：

<math>\|T(\mathbf{x})\|=\|\mathbf{ABx}\|=\|\mathbf{A(Bx)}\|=\|\mathbf{Bx}\|=\|\mathbf{x}\| </math>

3. 如果<math>\mathbf{A}  </math>為正交矩陣，<math>\mathbf{A}  </math>的反矩陣<math>\mathbf{A}^{-1}  </math>亦為正交矩陣。

<math>Proof: </math>

令一正交變換為：

<math>T(\mathbf{x})=\mathbf{Ax}   </math>

單位矩陣<math>\mathbf{I}   </math>和<math>\mathbf{x}   </math>相乘為<math>\mathbf{x}   </math>自己，且矩陣和反矩陣相乘為單位矩陣：

<math>\mathbf{Ix}=\mathbf{AA^{-1} x}=\mathbf{x}   </math>

正交變換後長度不變：

<math>\|\mathbf{AA^{-1} x}\|=\|\mathbf{A(A^{-1}x)}\|=\|\mathbf{x}\|   </math>

4. 正交變換容易做反運算

<math>Proof: </math>

令ㄧ正交矩陣<math>\mathbf{A}  </math>，<math>\mathbf{A}  </math>和<math>\mathbf{A}^H  </math>相乘為一對角矩陣<math>\mathbf{D}  </math>，其中上標<math>H  </math>表示Hermitain運算。

<math>\mathbf{A}\mathbf{A}^H=\mathbf{D}  </math>

將<math>\mathbf{D}  </math>乘上自己的反矩陣<math>\mathbf{D}^{-1}  </math>可得一單為矩陣<math>\mathbf{I}   </math>。

<math>\mathbf{D}\mathbf{D}^{-1}=\mathbf{I}  </math>

又<math>\mathbf{D}  </math>可分解為<math>\mathbf{A}  </math>和<math>\mathbf{A}^H  </math>

<math>\mathbf{A}\mathbf{A}^H \mathbf{D}^{-1}=\mathbf{I}  </math>

根據上式，將兩側乘上<math>\mathbf{A}  </math>的反矩陣<math>\mathbf{A}^{-1}  </math>即可得知的反矩陣知公式。

<math>\mathbf{A}^{-1}=\mathbf{A}^{H}\mathbf{D}^{-1}  </math>

計算<math>\mathbf{D}  </math>的反矩陣<math>\mathbf{D}^{-1}  </math>比直接求反矩陣容易，只要相對角線之值做倒數即可。如果<math>\mathbf{A}^T  </math>的每一行皆為單位向量，則：

<math>\mathbf{A}^{-1}=\mathbf{A}^{H}  </math>

5. 對於正交變換<math>T </math>，如果<math>\mathbf{u} </math>和<math>\mathbf{v} </math>可以做內積，<math>T({\displaystyle \mathbf {u} }) </math>和<math>T({\displaystyle \mathbf {v} }) </math>做內積之值等於<math>\mathbf{u} </math>和<math>\mathbf{v} </math>做內積之值。<ref>{{Cite web|url=http://isites.harvard.edu/fs/docs/icb.topic138287.files/Lesson15_-_Orthogonal_Transformations_and_Orthogonal_Matrices_slides.pdf|title=Orthogonal Transformations and Orthogonal Matrices|accessdate=2017-06-29|author=|date=|publisher=}}</ref>

<math>Proof: </math>

根據極化恆等式：

<math>\langle{\mathbf{x},\mathbf{y}}\rangle = \frac{1}{4}  (\|\mathbf{x}+\mathbf{y}\|^2-\|\mathbf{x}-\mathbf{y}\|^2) </math>

將上式代入<math>T({\displaystyle \mathbf {u} }) </math>和<math>T({\displaystyle \mathbf {v} }) </math>：

<math>\langle{T(\mathbf{u}),T(\mathbf{v})}\rangle = \frac{1}{4}  (\|T(\mathbf{u})+T(\mathbf{v})\|^2-\|T(\mathbf{u})-T(\mathbf{v})\|^2) </math>

因為<math>T </math>為線性轉換，轉換前做加減法和轉換後做加減法之值應相同：

<math>\langle{T(\mathbf{u}),T(\mathbf{v})}\rangle = \frac{1}{4}  (\|T(\mathbf{u}+\mathbf{v})\|^2-\|T(\mathbf{u}-\mathbf{v})\|^2) </math>

正交變換前後向量的長度相同：

<math>\langle{T(\mathbf{u}),T(\mathbf{v})}\rangle = \frac{1}{4}  (\|\mathbf{u}+\mathbf{v}\|^2-\|\mathbf{u}-\mathbf{v}\|^2) </math>

再根代入<math>\mathbf{u} </math>和<math>\mathbf{v} </math>之據極化恆等式：

<math>\langle{T(\mathbf{u}),T(\mathbf{v})}\rangle = \langle{\mathbf{u},\mathbf{v}}\rangle </math>

== 範例和應用 ==
正交變換的種類非常的廣，像是discrete Fourier transform、discrete cosine, sine, Hartley transforms、Walsh Transform, Haar Transform等都屬於正交變換。對矩陣做旋轉或是鏡射也屬於正交變換。這裡會舉出一些簡單的正交變換例子。

1. 對於<math>reflect_V() </math>以subspace <math>V </math>為基準做鏡射(<math>V </math> in <math>R^n </math>)，令<math>\mathbf{x}^\shortparallel </math>為平行之向量，<math>\mathbf{x}^\perp </math>為正交之向量<ref>{{Cite web|url=http://isites.harvard.edu/fs/docs/icb.topic138287.files/Lesson15_-_Orthogonal_Transformations_and_Orthogonal_Matrices_slides.pdf|title=Orthogonal Transformations and Orthogonal Matrices|accessdate=2017-06-29|author=|date=|publisher=}}</ref>：

<math>\|reflect_V(\mathbf{x})\|^2  = \|\mathbf{x}^\shortparallel-\mathbf{x}^\perp\|^2 </math>

因為<math>\mathbf{x}^\shortparallel </math>和<math>\mathbf{x}^\perp </math>互為正交，可以根據畢氏定理做分解：

<math>\|reflect_V(\mathbf{x})\|^2  = \|\mathbf{x}^\shortparallel\|^2+\|-\mathbf{x}^\perp\|^2=\|\mathbf{x}^\shortparallel\|^2+\|\mathbf{x}^\perp\|^2=\|\mathbf{x}\|^2 </math>

2. 這裡以DFT為例證明DFT矩陣為正交矩陣，對於<math>N </math>點DFT，可得一個<math>N\times N </math>矩陣，且<math>\omega^n = e^{j2\pi n/N} </math>：

<math>\mathbf{W}=\frac{1}{\sqrt{N}} \begin{bmatrix} 1 & 1 & 1 & \cdots & 1 \\ 1 & \omega & \omega^2 & \cdots &  
\omega^{N-1}\\1 & \omega^2 & \omega^4 & \cdots &\omega^{2(N-1)}\\\cdots & \cdots& \cdots&\cdots&\cdots\\1&
\omega^{N-1} & \omega^{2(N-1)} &  \cdots&\omega^{(N-1)(N-1)} \end{bmatrix} </math>

<math>\mathbf{W} </math>為symmetric矩陣，令的<math>\mathbf{W} </math>每個列為：

<math>\mathbf {w}_n =\begin{bmatrix} 1 & \omega^n & \omega^2n & \cdots & \omega^{(N-1)n} \end{bmatrix} </math>

令任意二列做內積：

<math>\langle{\mathbf{w}_m,\mathbf{w}_n}\rangle=\mathbf{w}_m\centerdot\mathbf{w}_n^H
=\frac{1}{N}\textstyle \sum_{k=0}^{N-1} e^{j2\pi km/N} e^{-j2\pi kn/N}\displaystyle
=\frac{1}{N}\textstyle \sum_{k=0}^{N-1} e^{j(2\pi km/N)(m-n)}\displaystyle </math>

上式可以化成pulse function，只有列和自己做內積才為<math>1 </math>，即：

<math>\langle{\mathbf{w}_m,\mathbf{w}_n}\rangle = \begin{cases} 1, & \text{if }m=n \\ 0, & \text{if }m\neq n \end{cases} </math>

3. 正交變換可以參數計算變得容易，令<math>\phi_n </math>為正交矩陣的列，列彼此互相正交，<math>c_n </math>而為<math>\phi_n </math>對應之參數，即給定下式中的<math>y </math>和<math>\phi_n </math>，參數<math>c_n </math>之值可以很容易的計算出來。

<math>y=\textstyle \sum_{n=0}^{N-1}c_n \phi_n \displaystyle </math>

如果要求出<math>c_m </math>，則將上式與<math>\phi_m </math>做內積：

<math>\langle y, \phi_m\rangle=\textstyle \sum_{n=0}^{N-1}c_n \langle \phi_n , \phi_m\rangle\displaystyle </math>

因為在<math>n\neq m </math>時，<math>\phi_n </math>和<math>\phi_m </math>做內積為0，可得下式：

<math>\langle y, \phi_m\rangle= c_m \langle  \phi_m , \phi_m\rangle </math>

最後同除<math>\langle \phi_m, \phi_m\rangle </math>即可得到對應之參數：

<math>c_m = \frac{\langle y, \phi_m\rangle}{\langle  \phi_m , \phi_m\rangle}   </math>

4. 在訊號壓縮上，對於原始訊號：

<math>y=\textstyle \sum_{n=0}^{N-1}c_n \phi_n \displaystyle </math>

假設進行壓縮，要壓縮成：

<math>\hat{y}=\textstyle \sum_{n=0}^{K-1}c_n \phi_n \displaystyle </math>

當<math>K\leq N </math>時，<math>K </math>越大，<math>|y-\hat{y}| </math>越小

5. 在通訊應用上，會利用正交基來和訊號做調變，正交的特性會使通道間不會互相干擾。

== 参见 ==
* [[瑕旋轉|瑕旋转]]
* [[内积空间]]
* [[线性映射|线性变换]]
* [[正交矩阵]]
* [[酉变换]]

== 参考文献 ==
{{Reflist}}3.  Ding, J. J. (2017). Advanced Digital Signal Processing [Powerpoint slides] http://djj.ee.ntu.edu.tw/ADSP15.pdf 

4.  Chang, C.H. (2004). Linear Algebra [PDF slides]  http://staff.csie.ncu.edu.tw/chia/Course/LinearAlgebra/sec5-3.pdf

5.  (2007). [PDF slides] http://isites.harvard.edu/fs/docs/icb.topic138287.files/Lesson15_-_Orthogonal_Transformations_and_Orthogonal_Matrices_slides.pdf
[[Category:線性代數]]