베이즈 정리 문서 원본 보기

{{위키데이터 속성 추적}}
{{확률론}}
[[확률론]]과 [[통계학]]에서 '''베이즈 정리'''({{llang|en|Bayes’ theorem}})는 두 [[확률 변수]]의 [[사전 확률]]과 [[사후 확률]] 사이의 관계를 나타내는 정리다. [[베이즈 확률론]] 해석에 따르면 베이즈 정리는 사전확률로부터 사후확률을 구할 수 있다.<ref name="kim">{{서적 인용|제목=수리통계학 입문|날짜=1995-03-10|쪽=12|판=1}}</ref>

베이즈 정리는 [[불확실성]] 하에서 의사결정문제를 수학적으로 다룰 때 중요하게 이용된다. 특히, 정보와 같이 눈에 보이지 않는 무형자산이 지닌 가치를 계산할 때 유용하게 사용된다. 전통적인 확률이 연역적 추론에 기반을 두고 있다면 베이즈 정리는 확률임에도 귀납적, 경험적인 추론을 사용한다.<ref>{{서적 인용|제목=통계수학|날짜=2003-10-10|출판사=세종출판사|쪽=25-26|판=1}}</ref>

== 정의 ==
[[확률공간]] <math>(P,\Pr)</math> 속에서 <math>A,B\subset P</math>가 [[가측 집합]]이라고 하고, <math>\Pr(B)>0</math>이라고 하자. 그렇다면, '''베이즈 정리'''에 따라 다음이 성립한다.
:<math>\Pr(A|B)=\frac{\Pr(B|A)\Pr(A)}{\Pr(B)}\propto\mathcal L(A|B)\Pr(A)</math>
각각의 항은 다음과 같은 의미를 갖는다.
* <math>\Pr(A)</math>는 ''A''의 [[사전 확률]]로, 아직 사건 ''B''에 관한 어떠한 정보도 알지 못하는 것을 의미한다.
* <math>\Pr(A|B)</math>는 ''B''의 값이 주어진 경우에 대한 ''A''의 [[사후 확률]]이다.
* <math>\Pr(B|A)</math>는 ''A''가 주어졌을 때 ''B''의 [[조건부 확률]]이다.
* <math>\mathcal L(A|B) = \Pr(B|A)</math>는 <math>B</math>가 주어졌을 때 <math>A</math>의 [[가능도]]이다.
* <math>\Pr(B)</math>는 ''B''의 [[사전 확률]]이며, 정규화 상수의 역할을 한다. 이 값은 <math>\Pr(B) = \int_A\Pr(B|A)</math>를 이용하여 구할 수 있다.

이때 <math>A</math>는 불확실성을 계산해야 하는 대상이며, <math>B</math>는 관측하여 값을 알아낼 수 있는 대상으로 생각한다면, <math>A</math>의 확률은 <math>B</math>가 관측된 후 <math>P(A)</math>에서 <math>P(A|B)</math>로 변화하며, 베이즈 정리는 이 때의 변화를 계산하는 방법을 제공한다.

== 베이즈 정리 유도 ==
* [[조건부 확률]]

[[파일:Conditional probability.png]]

<math>P(A|B) = \frac{P(B \cap A)}{P(B)}</math>


* [[곱셈 공식]]

P(A∩B) = P(A|B)P(B) = P(B∩A) = P(B|A)P(A)

A와 B가 독립시행일 경우 P(A∩B) = P(A)*P(B)


* [[전체 확률의 법칙]]

[[파일:Law of total probability.png]]

P(B) = P(B∩A)

= P(B∩A<sub>1</sub>) + P(B∩A<sub>2</sub>)

= P(B|A<sub>1</sub>)P(A<sub>1</sub>) + P(B|A<sub>2</sub>)P(A<sub>2</sub>)


* [[베이즈 정리]]

<math>P(A_1|B) = \frac{P(B \cap A_1)}{P(B)}</math>

= <math>\frac{P(B|A_1)P(A_1)}{P(B)}</math>

= <math>\frac{P(B|A_1)P(A_1)}{P(B|A_1)P(A_1) + P(B|A_2)P(A_2)}</math>

== 역사 ==
[[토머스 베이즈]]의 원고에 최초로 등장하였고, 이는 [[리처드 프라이스]]가 베이즈의 사후 1763년에 〈확률론의 한 문제에 대한 에세이〉({{llang|en|An Essay towards solving a Problem in the Doctrine of Chances}})라는 제목으로 출판하였다.<ref name="Price1763">{{저널 인용 | doi = 10.1098/rstl.1763.0053 | journal = Philosophical Transactions of the Royal Society of London | 권 = 53 | 날짜 = 1763 | pages = 370–418 | url = http://www.stat.ucla.edu/history/essay.pdf | title = An Essay towards solving a Problem in the Doctrine of Chances. By the late Rev. Mr. Bayes, F. R. S. communicated  by Mr. Price, in a letter to John Canton, A. M. F. R. S. | 성 = Bayes | 이름 = Thomas | 저자2 = [[리처드 프라이스]] | 언어 = en | 확인날짜 = 2014-04-23 | 보존url = https://web.archive.org/web/20110410085940/http://www.stat.ucla.edu/history/essay.pdf | 보존날짜 = 2011-04-10 | url-status = dead }}</ref> 이후 [[피에르시몽 라플라스]]는 같은 정리를 1774년에 재발견하였고 1812년에 수식화하였다.<ref>{{저널 인용|성=Laplace|이름=Pierre-Simon|저자링크=피에르시몽 라플라스|날짜=1774|제목=Mémoire sur la probabilité des causes par les événements|저널=Mémoires de l'Académie royale des Sciences de Paris|권=4|쪽=621–656|url=http://gallica.bnf.fr/ark:/12148/bpt6k77596b/f32.image|언어=fr}}</ref><ref>{{저널 인용|성=Laplace|이름=Pierre-Simon|저자링크=피에르시몽 라플라스|날짜=1785|제목=Mémoire sur les approximations des formules qui sont fonctions de très grands nombres|저널=Mémoires de l'Académie royale des Sciences de Paris|쪽=423-467|url=http://gallica.bnf.fr/ark:/12148/bpt6k775981/f218.image.langEN|언어=fr}}</ref>

== 같이 보기 ==
* [[베이즈 추론]]
* [[베이즈 네트워크]]
* [[토머스 베이즈]]
* [[경험적 베이즈 방법]]
* [[몬티 홀 문제]]
* [[오컴의 면도날]]
* [[집행자의 오류]]
* [[까마귀의 역설]]
* [[재귀적 베이즈 추정]]
* [[베이즈 통계학]]

== 각주 ==
{{각주}}
* {{서적 인용|이름=James|성=Berger| title=Statistical decision theory and Bayesian analysis| edition=Second|year=1985| publisher=Springer-Verlag|series=Springer Series in Statistics|isbn=0-387-96098-8|언어=en}}
* {{서적 인용|last=Bessière|first=Pierre|title=Bayesian programming|year=2013|publisher=CRC Press|isbn=9781439880326|저자2=Mazer, E., Ahuacatzin, J-M, Mekhnacha, K.|언어=en}}
* {{서적 인용|title=Bayesian theory|publisher=Wiley|year=1994|isbn=0-471-49464-X|성=Bernardo|이름=José M.|저자2=Adrian F. M. Smith|언어=en}}
* {{서적 인용| title=Scientific reasoning: the Bayesian approach|last=Howson|first=C.|저자2=P. Urbach| publisher=Open Court Publishing Company| 날짜=2005| edition=3판 | isbn=978-0-8126-9578-6|언어=en}}
* {{서적 인용|author=Winkler, Robert L |title=Introduction to Bayesian inference and decision |publisher=Probabilistic |year=2003 |isbn=0-9647938-4-9 |edition=2판|언어=en  }}

== 외부 링크 ==
* {{eom|title=Bayes formula|first=A.N.|last=Shiryaev}}
* {{매스월드|id=BayesTheorem|title=Bayes' theorem}}

{{전거 통제}}

[[분류:확률론]]
[[분류:수학 정리]]
[[분류:통계학]]
[[분류:확률론 정리]]
[[분류:통계학 정리]]