피셔 정보

틀:위키데이터 속성 추적 통계학에서 피셔 정보(틀:Llang)는 어떤 확률변수의 관측값으로부터, 확률변수의 분포의 매개변수에 대해 유추할 수 있는 정보의 양이다.

정의

확률변수 $X$ 가 미지의 매개변수 $θ$ 로 주어지는 분포를 따른다고 하자. 그렇다면, 관측값 $X = x$ 으로부터 주어지는, $θ$ 에 대한 피셔 정보 $ℐ (θ)$ 는 다음과 같다.

ℐ_{x} (θ) = E [{(\frac{\partial}{\partial θ} \ln \Pr (x | θ))}^{2}]

피셔 정보는 독립 확률변수에 대하여 가법적(틀:Llang)이다. 즉, 동일한 분포를 가진 두 독립 확률변수 $X, Y$ 가 측정되었을 때, 다음이 성립한다.

ℐ_{X, Y} (θ) = ℐ_{X} (θ) + ℐ_{Y} (θ)

다시 말해, 같은 실험을 n번 하면, n배의 피셔 정보를 얻는다.