특잇값 문서 원본 보기

{{위키데이터 속성 추적}}
[[파일:Singular value decomposition.gif|섬네일|right|유클리드 공간 위의 선형 변환은 단위 공을 [[타원체]]로 대응시키며, 선형 변환의 특잇값들은 [[타원체]]의 주축 반지름들이다.]]
[[함수해석학]]에서 '''특잇값'''(特異값, {{llang|en|singular value}})은 [[콤팩트 작용소]]와 그 [[에르미트 수반]]의 합성의 [[고윳값]]의 [[제곱근]]이다. 항상 양의 실수이다. 이를 통해, 임의의 콤팩트 작용소를 '''특잇값 분해'''(特異값分解, {{llang|en|singular value decomposition}}, 약자 SVD)라는 특별한 꼴로 표현할 수 있다.

[[고윳값]]과 달리, 특잇값은 서로 다른 (특히, 서로 다른 차원의) [[힐베르트 공간]] 사이의 작용소(예를 들어, 정사각이 아닌 행렬)에 대해서도 정의된다. [[고윳값]]에 [[고유 벡터]]가 대응되는 것과 마찬가지로, 각 특잇값에는 '''왼쪽 특이 벡터'''(왼쪽特異vector, {{llang|en|left singular vector}}) 및 '''오른쪽 특이 벡터'''(오른쪽特異vector, {{llang|en|right singular vector}})가 대응된다. 그러나 고유 벡터의 경우와 달리 특이 벡터는 좌우를 구별해야 한다.

== 정의 ==
<math>\mathbb K\in\{\mathbb R,\mathbb C\}</math>가 [[실수체]] 또는 [[복소수체]]라고 하자. 두 <math>\mathbb K</math>-[[힐베르트 공간]] <math>V</math>, <math>W</math> 사이의 [[콤팩트 작용소]]
:<math>T\colon V\to W</math>
의 특잇값 및 왼쪽·오른쪽 특이 벡터의 개념은 다양한 방법으로 정의될 수 있다.

=== 고윳값을 통한 정의 ===
두 <math>\mathbb K</math>-[[힐베르트 공간]] <math>V</math>, <math>W</math> 사이의 [[콤팩트 작용소]]
:<math>T\colon V\to W</math>
가 주어졌다고 하자. 그렇다면, 그 [[에르미트 수반]]
:<math>T^*\colon W\to V</math>
을 사용하여, 작용소
:<math>T^*T\colon V\to V</math>
및
:<math>TT^*\colon W\to W</math>
를 정의할 수 있다. 이들은 [[자기 수반 작용소]]를 이루며, 따라서 이 둘의 실수 [[고윳값]]들을 정의할 수 있다. 이들은 항상 음이 아닌 실수이다.

<math>TT^*</math>와 <math>T^*T</math>의 [[고윳값]]들 가운데, 0이 아닌 것들은 서로 일치하며, 그 중복수 또한 일치한다. 0의 경우, 다음과 같은 세 가지가 가능하다.
* 경우 1:  <math>TT^*</math>와 <math>T^*T</math> 둘 다 0을 고윳값으로 갖거나 둘 다 0을 고윳값으로 갖지 않는다. 전자의 경우, 0의 중복수 역시 같다.
* 경우 2: <math>TT^*</math>와 <math>T^*T</math> 둘 다 0을 고윳값으로 갖지만, 그 중복수가 서로 다르다.
* 경우 3: <math>TT^*</math>와 <math>T^*T</math> 가운데 하나는 0을 고윳값으로 갖지만 다른 하나는 0을 고윳값으로 갖지 않는다.
이 경우, 특잇값들과 그 중복수는 각각 다음과 같다.
* 경우 1: <math>T</math>의 특잇값은 <math>T^*T</math> 또는 <math>TT^*</math>의 고윳값들의 제곱근들이며, 그 중복수는 고윳값들의 중복수와 같다.
* 경우 2: <math>T</math>의 특잇값은 (0을 포함하여) <math>T^*T</math> 또는 <math>TT^*</math>의 고윳값들의 제곱근들이다. 0이 아닌 고윳값의 경우, 그 중복수는 대응하는 고윳값의 중복수와 같다. 0의 경우, 그 중복수는 <math>T^*T</math>에서의 중복수와 <math>TT^*</math>에서의 중복수 가운데 더 작은 것과 같다.
* 경우 3: <math>T</math>의 특잇값은 <math>T^*T</math> 또는 <math>TT^*</math>의 고윳값들 가운데 0이 아닌 것들의 제곱근이며, 그 중복수는 고윳값들의 중복수와 같다.
이 경우, 주어진 특잇값에 대응하는 '''왼쪽 특이 벡터'''는 <math>T^*T</math>에서의 [[고유 벡터]]이며, 주어진 특잇값에 대응하는 '''오른쪽 특이 벡터'''는 <math>TT^*</math>에서의 [[고유 벡터]]이다.

=== 특잇값 분해를 통한 정의 ===
<math>\mathbb K\in\{\mathbb R,\mathbb C\}</math>라고 하자. 두 <math>\mathbb K</math>-[[힐베르트 공간]] <math>V</math>, <math>W</math> 사이의 [[콤팩트 작용소]]
:<math>T\colon V\to W</math>
는 항상 다음과 같은 꼴로 표현될 수 있으며, 이를 '''슈미트 표현'''(Schmidt表現, {{llang|en|Schmidt representation}})<ref name="HP">{{저널 인용|이름=Aicke|성=Hinrichs|이름2=Albrecht|성2=Pietsch|제목=''p''-nuclear operators in the sense of Grothendieck|doi=10.1002/mana.200910128|저널=Mathematische Nachrichten|날짜=2010-02|권=283|호=2|쪽=232–261|언어=en}}</ref>{{rp|232, §1}} 또는 '''특잇값 분해'''라고 한다.
:<math>T=\sum_{0\le i<N}s_i\langle v_i,-\rangle w_i</math>
여기서
* <math>N\in\{0,1,\dotsc,\infty\}</math>이다.
* <math>(s)_{0\le i<N}</math>는 양의 실수들의 [[수열]]이며, 감소수열이다. 즉, <math>\lambda_0\ge\lambda_1\ge\lambda_2\ge\cdots</math>이다.
* <math>(v_i)_{0\le i<N}</math>은 <math>V</math> 속의 정규 직교 벡터열이다. (그러나 [[정규 직교 기저]]가 될 필요는 없다.)
* <math>(w_i)_{0\le i<N}</math>은 <math>W</math> 속의 정규 직교 벡터열이다. (그러나 [[정규 직교 기저]]가 될 필요는 없다.)
이 경우, <math>s_i</math>를 <math>T</math>의 '''특잇값'''이라고 하며, <math>v_i</math>를 <math>s_i</math>의 '''왼쪽 특이 벡터''', <math>w_i</math>를 <math>s_i</math>의 '''오른쪽 특이 벡터'''라고 한다.

이에 따라, <Math>(v_i)_{0\le i<N}</math> 및 <math>(w_i)_{0\le i<N}</math>에 다른 벡터들을 추가하여 각각 <Math>V</math> 및 <math>W</math>의 [[정규 직교 기저]]로 만들 수 있다. 그러나 이는 물론 일반적으로 유일하지 않다.

=== 유한 차원의 경우 ===
특히, 만약 <math>V=\mathbb K^m</math>, <Math>W=\mathbb K^n</math>가 유한 차원 힐베르트 공간일 경우, 임의의 <math>\mathbb K</math>성분 <Math>n\times m</math> [[행렬]] <math>T\in\operatorname{Mat}(n,m;\mathbb K)</math>는 <math>\mathbb K</math>-[[선형 변환]]
:<math>T\colon\mathbb K^m\to\mathbb K^n</math>
을 정의한다. 유한 차원에서는 모든 작용소가 [[콤팩트 작용소]]이다.

이 경우, 만약 벡터 <math>v\in\mathbb K^m</math>과 <math>w\in\mathbb K^n</math>과 음이 아닌 실수 <math>s\in\mathbb R_{\ge0}</math>에 대하여
:<math>Tv=sw</math>
:<math>T^*w=sv</math>
가 성립한다면, <math>s</math>를 <math>T</math>의 '''특잇값'''이라고 하며, <math>v</math>를 <math>s</math>에 대응하는 '''왼쪽 특이 벡터''', <math>u</math>를 <Math>s</math>에 대응하는 '''오른쪽 특이 벡터'''라고 한다.

유한 차원의 경우, 특잇값 분해는 다음과 같은 행렬 분해를 정의한다.
:<math>T=U\Sigma V^*</math>
여기서
* <math>U</math>는 <math>m\times m</math> 크기의 [[유니터리 행렬]]이다. (<math>\mathbb K=\mathbb R</math>일 경우 이는 [[직교 행렬]]과 같다.)
* <math>\Sigma</math>는 <math>m\times n</math> 크기의 [[대각 행렬]]이며, 그 성분들은 모두 음이 아닌 실수이다. 즉, 예를 들어 <math>m<n</math>이라면 다음과 같은 꼴이다.
*:<math>\Sigma=\begin{pmatrix}
s_1&0&0&\dotsm&0&0&\dotsm&0\\
0&s_2&0&\dotsm&0&0&\dotsm&0\\
0&0&s_3&&&0&\cdots&0\\
\vdots&\vdots&&\ddots&&\vdots&&\vdots\\
0&0&&&s_m&0&\dotsm&0
\end{pmatrix}</math>
* <math>V^*</math>는 <math>n\times n</math> 크기의 [[유니터리 행렬]]이다. (<math>\mathbb K=\mathbb R</math>일 경우 이는 [[직교 행렬]]과 같다.)
이 경우, <math>\Sigma</math>의 대각 성분들이 <Math>T</math>의 특잇값들이며, <math>V^*</math>의 열벡터(=<math>V</math>의 행벡터)들이 <math>T</math>의 왼쪽 특이 벡터들이며, <math>U</math>의 행벡터들이 <math>T</math>의 오른쪽 특이 벡터들이다.

특잇값 분해에서, <math>\Sigma</math>는 (특잇값들의 [[순열]]을 무시하면) 유일하게 결정되지만, <math>U</math>와 <math>V^*</math>는 일반적으로 그렇지 않다.

=== 기하학적 정의 ===
같은 유한 차원의 두 실수 힐베르트 공간(=[[유클리드 공간]]) 사이의 [[실수 선형 변환]]의 특잇값들은 기하학적으로 해석될 수 있다.

구체적으로, 임의의 [[실수 선형 변환]] <math>T\colon\mathbb R^n\to\mathbb R^n</math>은 (자명하게) [[콤팩트 작용소]]이며, 이 경우 <Math>T</math>는 단위 [[공 (수학)|공]]을 [[타원체]]로 대응시킨다. 이 경우, <math>T</math>의 '''특잇값'''들은 이 [[타원체]]의 주축 반지름들과 같다.

== 성질 ==
두 [[힐베르트 공간]] 사이의 [[콤팩트 작용소]] <math>T</math>의 특잇값 가운데 최대인 것은 <math>T</math>의 [[작용소 노름]]과 같다.

=== 특잇값의 수 ===
<math>m\times n</math> 행렬은 (중복수를 포함하여) <math>\min\{m,n\}</math>개의 특잇값들을 갖는다. 여기서, 특잇값들은 중복될 수 있다. 즉, 모든 <math>\min\{m,n\}</math>개의 특잇값들이 죄다 같을 수 있다.

=== 고윳값과의 관계 ===
만약 <math>T\colon V\to V</math>가 <math>\mathbb K</math>-[[힐베르트 공간]] <math>V</math> 전체에 정의된 [[콤팩트 작용소|콤팩트]] [[자기 수반 작용소]]일 경우, <math>T</math> 특잇값들은 <math>T</math>의 [[고윳값]]들의 [[절댓값]]들이며, 각 특잇값에 대응하는 특이 벡터는 [[고유 벡터]]이다.

== 예 ==
다음과 같은 실수 4×5 [[행렬]]을 생각하자.
:<math>T = 
\begin{pmatrix}
1 & 0 & 0 & 0 & 2\\
0 & 0 & 3 & 0 & 0\\
0 & 0 & 0 & 0 & 0\\
0 & 4 & 0 & 0 & 0\end{pmatrix}
</math>
이 행렬의 특잇값 분해 <math>T=U\Sigma V^*</math>는 다음과 같다.
:<math>
T=
\begin{pmatrix}
0 & 0 & 1 & 0\\
0 & 1 & 0 & 0\\
0 & 0 & 0 & -1\\
1 & 0 & 0 & 0\end{pmatrix} \begin{pmatrix}
\color{Red}{4} & 0 & 0 & 0 & 0\\
0 & \color{Red}{3} & 0 & 0 & 0\\
0 & 0 & \color{Red}{\sqrt5} & 0 & 0\\
0 & 0 & 0 & \color{Red}{0} & 0\end{pmatrix}
\begin{pmatrix}
0 & 1 & 0 & 0 & 0\\
0 & 0 & 1 & 0 & 0\\
1/\sqrt5 & 0 & 0 & 0 & 2/\sqrt5\\
0 & 0 & 0 & 1 & 0\\
-2/\sqrt5 & 0 & 0 & 0 & 1/\sqrt5\end{pmatrix}
</math>
즉, <math>T</math>의 특잇값들은 가운데 행렬에서 붉게 표시된 성분들인 <math>4,3,\sqrt5,0</math>이다.

특잇값 분해는 유일하지 않다. 예를 들어, 위와 같은 분해에서, 마지막 인자 <math>V^*</math>를
:<math>V^* = \begin{pmatrix} 0 & 1 & 0 & 0 & 0\\ 0 & 0 & 1 & 0 & 0\\ 1/\sqrt5 & 0 & 0 & 0 & 2/\sqrt5 \\ \sqrt{2/5} & 0 & 0 & 1/\sqrt2 & -1/\sqrt{10}\\ -\sqrt{2/5} & 0 & 0 & 1/\sqrt2 & 1/\sqrt{10} \end{pmatrix}</math>
로 교체할 수도 있다.

== 역사 ==
특잇값의 개념은 [[에르하르트 슈미트]]가 1907년에 도입하였다.<ref>
{{서적 인용|이름=Erhard|성=Schmidt|저자링크=에르하르트 슈미트|제목=Zur Theorie der linearen und nichtlinearen Integralgleichungen. I. Teil: Entwicklung willkürlicher Funktionen nach Systemen vorgeschriebener|url=http://resolver.sub.uni-goettingen.de/purl?GDZPPN002261464|issn=0025-5831|저널=Mathematische Annalen|날짜=1907|권=63|쪽=433–476|언어=de|확인날짜=2017-01-18|보존url=https://web.archive.org/web/20161231170608/http://resolver.sub.uni-goettingen.de/purl?GDZPPN002261464|보존날짜=2016-12-31|url-status=dead}}
</ref> 슈미트는 특잇값을 "고윳값"({{llang|de|Eigenwert}})이라고 일컬었으나, 이후 1937년에 프랭크 스미디스({{llang|en|Frank Smithies}}, 1912~2002)가 "특잇값"({{llang|en|singular value}})이라는 용어를 도입하였다.<ref>{{저널 인용|이름=Frank|성=Smithies|날짜=1937|제목=The eigenvalues and singular values of integral equations|저널=Proceedings of the London Mathematical Society|권=43|쪽=255–279|doi= 10.1112/plms/s2-43.4.255|언어=en}}</ref>

== 응용 ==
{{참고|주성분 분석}}
행렬의 특잇값 분해는 [[신호 처리]]와 [[통계학]] 등의 분야에서 자주 사용된다. 특히, 통계학에서 특잇값 분해를 통한 분석은 '''[[주성분 분석]]'''이라고 불린다.

== 같이 보기 ==
* [[조건수]]
* [[슈어-혼 정리]]
* [[특잇값 분해]]
== 참고 문헌 ==
{{각주}}

== 외부 링크 ==
* {{매스월드|id=SingularValue|title=Singular value}}
* {{매스월드|id=SingularValueDecomposition|title=Singular value decomposition}}
* {{웹 인용|url=http://www.ams.org/samplings/feature-column/fcarc-svd|제목=We recommend a singular value decomposition|이름=David|성=Austin|날짜=2009-08|출판사=American Mathematical Society|웹사이트=Feature Column: Monthly Essays on Mathematical Topics|언어=en}}

{{전거 통제}}

[[분류:연산자 이론]]
[[분류:행렬 분해]]