추정량 문서 원본 보기

{{위키데이터 속성 추적}}
[[통계학]]에서 '''추정량'''(推定量, {{llang|en|estimator}})은 표집값들로부터 모수의 값을 추정하는 방법이다.

== 정의 ==
[[확률변수]] <math>X\colon P\to\mathcal X</math>가 모수 <math>\theta\in\Theta</math>를 가지는 분포를 따른다고 하자. 그렇다면 모수 <math>\theta</math>의 '''추정량''' <math>\hat\theta\colon\mathcal X\to\Theta</math>은 임의의 [[가측 함수]]이다.

모수 공간 <math>\Theta</math>와 [[표본 공간]] <math>\mathcal X</math> 둘 다 [[유클리드 공간]]의 부분공간으로 간주하자.

=== 오차와 편향 ===
표본 <math>x\in\mathcal X</math>에 대한, 모수 <math>\theta</math>의 추정량 <math>\hat\theta</math>의 '''오차'''({{llang|en|error}})는 다음과 같다.
:<math>\mathcal E_{\hat\theta}(x)=\hat\theta(x)-\theta</math>
모수 <math>\theta</math>의 추정량 <math>\hat\theta</math>의 '''편향'''({{llang|en|bias}})은 그 오차의 [[기댓값]]이다.
:<math>B(\hat\theta) = \operatorname{E}(\hat\theta(X)-\theta)</math>
모수 <math>\theta</math>의 '''불편추정량'''({{llang|en|unbiased estimator}}) <math>\hat\theta</math>은 편향이 0인 추정량이다. 즉, 다음 성질을 만족시키는 추정량이다.
:<math>\operatorname E(\hat\theta(X))=\theta</math>
추정량 <math>\hat\theta</math>의 '''누적평균제곱오차'''({{llang|en|mean squared error}})는 오차의 제곱들의 [[기댓값]]이다.
:<math>\operatorname{MSE}(\hat\theta) = \operatorname{E}[(\widehat{\theta}(X) - \theta)^2]</math>

=== 분산과 효율 ===
표본 <math>x\in\mathcal X</math>에 대한, 모수 <math>\theta</math>의 추정량 <math>\hat\theta</math>의 '''표본편차'''({{llang|en|sampling deviation}})는 다음과 같다.
:<math>d(x) =\hat\theta(x) - \operatorname{E}(\hat\theta(X) )=\hat\theta(x) - \operatorname{E}(\hat\theta)</math>
모수 <math>\theta</math>의 추정량 <math>\hat\theta</math>의 '''분산'''({{llang|en|variance}})은 표본편차의 제곱의 [[기댓값]]이다.
:<math>\operatorname{var}(\hat\theta) =\operatorname E(\hat\theta(X)^2)-\operatorname E(\hat\theta(X))^2</math>
모수 <math>\theta</math>의 추정량 <math>\hat\theta</math>의 '''효율'''({{llang|en|efficiency}})은 다음과 같다.
:<math>e(\hat\theta)=\frac1{\mathcal I_X(\theta)\operatorname{var}(\hat\theta)}</math>
여기서 <math>\mathcal I_X(\theta)</math>는 [[피셔 정보]]이다. [[크라메르-라오 하한]]에 따라, 추정량의 효율은 항상 1 이하이다.
:<math>e(\hat\theta)\le1</math>
효율이 1인 추정량을 '''최대효율추정량'''({{llang|en|most efficient estimator}})이라고 한다.

=== 일치성과 점근적 정규성 ===
모수 <math>\theta</math>의 '''약한 일치추정량'''({{llang|en|weakly consistent estimator}})은 다음 성질을 만족시키는 추정량들의 열 <math>\{\hat\theta_n\}</math>이다. 모든 <math>\epsilon>0</math>에 대하여,
:<math>\lim_{n\to\infty}\Pr(|\hat\theta_n(X)-\theta|<\epsilon)=1</math>
모수 <math>\theta</math>의 '''강한 일치추정량'''({{llang|en|strongly consistent estimator}})은 다음 성질을 만족시키는 추정량들의 열 <math>\{\hat\theta_n\}</math>이다.
:[[거의 확실하게]], <math>n\to\infty</math>이면 <math>\hat\theta_n\to\theta</math>

모수 <math>\theta</math>의 '''점근적 정규 추정량'''({{llang|en|asymptotically normal estimator}})은 다음 성질을 만족시키는 추정량들의 열 <math>\{\hat\theta_n\}</math>이다. 어떤 <math>V\in\mathbb R^+</math>에 대하여,
:<math>\sqrt n(\hat\theta_n-\theta)\xrightarrow{\text{D}}\mathcal N(0,V)</math>
여기서 <math>\xrightarrow{\text{D}}</math>는 [[확률변수]]의 [[분포수렴]]이며, <math>\mathcal N(0,V)</math>는 평균이 0이고 분산이 <math>V</math>인 [[정규분포]]이다.

== 참고 문헌 ==
* {{서적 인용
  | last = Lehmann
  | first = E. L.
  | 공저자 = Casella, G.
  | title = Theory of Point Estimation
  | edition = 2판
  | 날짜 = 1998
  | publisher = Springer
  | isbn = 0-387-98502-6
  | 언어 = en }}
* {{서적 인용
  | last = Shao
  | first = Jun
  | title = Mathematical Statistics
  | place = New York
  | publisher = Springer
  | year = 1998
  | isbn = 0-387-98674-X | 언어 = en}}

== 같이 보기 ==
* [[최대가능도방법]]
* [[베이즈 추정량]]
* [[크라메르-라오 하한]]

== 외부 링크 ==
*{{eom|title=Statistical estimator|first=L.N.|last=Bol'shev}}

{{전거 통제}}

[[분류:추정 이론]]