확률 변수의 수렴 문서 원본 보기

{{위키데이터 속성 추적}}
'''[[확률변수]]의 [[수렴]]'''에는 여러 가지의 정의가 존재한다.

== 분포 수렴 ==
[[파일:Convergence in distribution (sum of uniform rvs).gif|섬네일|확률변수 <math>X_n</math>이 [[연속균등분포|균등분포]] <math>U(0,1)</math>를 따를 때, [[중심극한정리]]에 따르면 <math>Z_n := \sum_i X_i/\sqrt{n}</math>은 [[정규분포]]로 분포수렴한다.]]

'''분포 수렴'''(convergence in distribution), '''약한 수렴'''(weak convergence)은 확률변수의 [[누적 분포 함수]]가 수렴하는 것을 의미한다. 확률변수 <math>X_1, X_2, \cdots</math>와 각각의 누적 분포 함수 <math>F_1, F_2, \cdots</math>에 대하여, 어떤 확률변수 <math>X</math>와 와 확률 분포 함수 <math>F</math>가 존재하여,
:모든 [[실수]] <math>x</math>에 대하여 <math>\lim_{n \to \infty} F_n(x) = F(x)</math>
가 성립할 경우, <math>\{X_n\}</math>은 <math>X</math>로 분포수렴한다고 정의한다. 기호로는
:<math>\begin{align} & X_n \ \xrightarrow{d}\ X,\ \ X_n \ \xrightarrow{\mathcal{D}}\ X,\ \ X_n \ \xrightarrow{\mathcal{L}}\ X,\ \ X_n \ \xrightarrow{d}\ \mathcal{L}_X, \\ & X_n \rightsquigarrow X,\ \ X_n \Rightarrow X,\ \ \mathcal{L}(X_n)\to\mathcal{L}(X),\\ \end{align}</math>
등이 사용된다. 여기에서 <math>\mathcal{L}</math>은 확률 분포를 가리키며, 예를 들어 <math>X</math>가 [[표준정규분포]]라면 <math>X_n\,\xrightarrow{d}\,\mathcal{N}(0,\,1)</math>와 같이 표기할 수 있다.

분포 수렴은 확률변수들이 같은 [[확률 공간]]에 있을 필요가 없으며, 각 확률변수의 분포만이 고려된다. 분포 수렴의 예제로는 [[중심극한정리]]가 있다.

확률변수를 다변수 확률변수로 확장할 경우, 위의 정의는 다음과 같이 바꿀 수 있다. [[집합]] <math>A \subseteq \mathbb{R}^k</math>가 <math>\Pr[X \in \partial A] = 0</math>일 때(continuity set),
:에 대하여 <math>\lim_{n \to \infty} \Pr[X_n \in A] = \Pr[X \in A]</math>
가 성립한다면 <math>X_n</math>은 <math>X</math>로 분포수렴한다.

=== 성질 ===
* '''레비 연속성 정리'''(Lévy's continuity theorem): 확률변수 <math>X_n</math>가 <math>X</math>로 분포수렴하는 것과 <math>X_n</math>의 [[특성함수 (확률론)|특성함수]]가 <math>X</math>의 특성함수로 점마다 수렴하는 것은 동치이다.
* 분포수렴은 [[확률 밀도 함수]]의 수렴을 보장하지 않는다. 가령, <math>f_n(x) = (1 - \cos (2 \pi n x)) {1}_{ \{ x \in (0,1) \} }</math>에 대응하는 확률변수는 균등분포 <math>U(0,1)</math>로 수렴하지만, <math>f_n</math>은 수렴하지 않는다.
* [[#확률수렴|확률수렴]]이나 [[#거의 확실한 수렴|거의 확실한 수렴]]은 분포수렴을 포함한다.
* Portmanteau theorem: 분포수렴은 다음 중 하나와 동치이다.
** 모든 [[유계 함수|유계]] [[연속 함수]] <math>f</math>에 대해 <math>E[f(X_n)] \to E[f(X)]</math>
** 모든 [[유계 함수|유계]] [[립시츠 연속 함수]] <math>f</math>에 대해 <math>E[f(X_n)] \to E[f(X)]</math>
** 위로 유계이고 [[반연속|위에서 반연속]]인 함수 <math>f</math>에 대해 <math>\lim \sup [E f(X_n)] \le E [f(x)]</math>
** 아래로 유계이고 [[반연속|아래에서 반연속]]인 함수 <math>f</math>에 대해 <math>\lim \inf [E f(X_n)] \ge E [f(x)]</math>
** 모든 [[닫힌 집합]] <math>C</math>에 대해 <math>\lim \sup \Pr[X_n \in C] \le \Pr[X \in C]</math>
** 모든 [[열린 집합]] <math>U</math>에 대해 <math>\lim \inf \Pr[X_n \in U] \ge \Pr[X \in U]</math>
** 모든 <math>X</math>의 continuity set에 대해 <math>\lim \Pr[X_n \in A] = \Pr[X \in A]</math>

== 확률 수렴 ==
'''확률 수렴'''(convergence in probability)은 같은 확률 공간에 있는 확률변수들의 수렴을 다루며, 확률변수의 결과물이 수렴 결과물과 거의 동일하다는 것을 의미한다.

확률변수 <math>X_1, X_2, \cdots</math>와 <math>X</math>에 대하여, 모든 <math>\epsilon>0</math>에 대해
:<math>\lim_{n\to\infty}\Pr\big(|X_n-X| \geq \varepsilon\big) = 0</math>
가 성립할 때, <math>\{X_n\}</math>은 <math>X</math>로 '''확률 수렴'''한다고 정의한다.

확률 수렴의 표기는 다음과 같다.
:<math>X_n \ \xrightarrow{p}\ X,\ \ X_n \ \xrightarrow{P}\ X,\ \ \underset{n\to\infty}{\operatorname{plim}}\, X_n = X</math>

정의를 확률변수뿐만이 아니라 [[분해 가능 공간]]에서 정의되는 확률변수(random element)로 확장하면 다음과 같다. [[분해 가능 공간]] <math>(S, d)</math>가 주어졌을 때, 모든 <math>\varepsilon>0</math>에 대하여
:<math>\Pr\big(d(X_n,X)\geq\varepsilon\big) \to 0</math>
가 성립하는 경우 확률 수렴한다고 정의한다.

=== 성질 ===
* [[#거의 확실한 수렴|거의 확실한 수렴]]은 확률 수렴을 포함한다.
** 이산 확률 공간에서는 확률수렴과 거의 확실한 수렴이 동치이다.
* 확률 수렴은 [[#분포 수렴|분포 수렴]]을 포함한다.
** 상수로 수렴하는 경우, 분포 수렴과 확률 수렴은 동치이다.
* (연속 사상 정리 {{llang|en|continuous mapping theorem}}) 임의의 [[연속 함수]] <math>g</math>에 대해, <math>X_n</math>이 <math>X</math>로 확률 수렴한다면 <math>g(X_n)</math>은 <math>g(X)</math>로 확률 수렴한다.

== 거의 확실한 수렴 ==
'''거의 확실한 수렴'''(almost sure convergence)은 [[거의 어디서나]] [[점마다 수렴]](pointwise convergence)하는 것을 의미한다.

[[확률 공간]] <math>(\Omega, \mathcal{F}, P)</math> 위의 [[확률변수]] <math>X_1, X_2, \cdots</math>와 <math>X</math>에 대하여,
:<math>\operatorname{Pr}\!\left( \lim_{n\to\infty}\! X_n = X \right) = 1</math>
이 성립할 경우, <math>\{X_n\}</math>은 <math>X</math>로 거의 확실하게 수렴한다고 정의한다. 이 조건은 다음과 동치이다.
:<math>\operatorname{Pr}\Big( \omega \in \Omega : \lim_{n \to \infty} X_n(\omega) = X(\omega) \Big) = 1</math>
즉, 각 <math>\omega</math>에 대하여 [[거의 어디서나]] 수렴한다는 의미이다.

거의 확실한 수렴은 <math>X_n \, \xrightarrow{\mathrm{a.s.}} \, X</math>로 표기한다.

=== 성질 ===
* 거의 확실한 수렴은 [[#확률수렴|확률수렴]], [[#분포수렴|분포수렴]]을 포함한다.

== 확실한 수렴 ==
'''확실한 수렴'''(sure convergence)은 확률변수가 모든 [[점마다 수렴]]하는 것을 의미한다.

[[확률공간]] <math>(\Omega, \mathcal{F}, P)</math> 위의 확률변수 <math>X_1, X_2, \cdots</math>와 <math>X</math>에 대하여
:<math>\lim_{n\rightarrow\infty}X_n(\omega)=X(\omega), \, \, \forall \omega \in \Omega</math>
가 성립할 경우, <math>\{X_n\}</math>은 <math>X</math>로 확실하게 수렴한다고 정의한다.
== 같이 보기 ==
* [[측도 수렴 함수열]]

{{전거 통제}}

[[분류:확률론]]
[[분류:통계 이론]]
[[분류:확률 과정]]
[[분류:수렴]]