퍼플렉시티 문서 원본 보기

{{위키데이터 속성 추적}}
{{다른 뜻|Perplexity.ai||기업}}
'''퍼플렉시티'''(perplexity)는 [[정보 이론]]에서 이산 확률 분포에서 표본 값의 불확실성을 측정한 것이다. 복잡성이 클수록 관찰자가 분포에서 도출될 값을 추측할 가능성이 줄어든다. 퍼플렉시티는 원래 프레데릭 젤리네크, 로버트 르로이 머서, 라릿 R. 발, 제임스 K. 베이커가 [[음성 인식]]의 맥락에서 1977년에 선보였다.<ref>{{저널 인용|last=Jelinek |first=F. |last2=Mercer |first2=R. L. |last3=Bahl |first3=L. R. |last4=Baker |first4=J. K. |date=1977 |title=Perplexity—a measure of the difficulty of speech recognition tasks |url=https://doi.org/10.1121/1.2016299 |journal=The Journal of the Acoustical Society of America |volume=62 |issue=S1 |pages=S63–S63 |doi=10.1121/1.2016299 |issn=0001-4966|doi-access=free }}</ref>

== 확률 분포의 퍼플렉시티 ==
이산 확률 분포 p의 퍼플렉시티 PP는 정보 이론, 기계 학습 및 통계 모델링에서 널리 사용되는 개념이다. 이는 다음과 같이 정의된다.
:<math>\mathit{PP}(p) := 2^{H(p)}=2^{-\sum_x p(x)\log_2 p(x)}=\prod_x p(x)^{-p(x)}</math>

여기서 H(p)는 분포의 [[정보 엔트로피|엔트로피]](비트 단위)이고 x는 이벤트에 대한 범위이다. 로그의 밑이 2일 필요는 없다. 엔트로피와 지수가 동일한 밑을 사용하는 경우 난산도는 밑과 독립적이다. 일부 상황에서는 이 측정값을 (order-1 true) [[다양성 지수|다양성]]이라고도 한다.

== 같이 보기 ==
* [[대형 언어 모델]]

== 각주 ==
{{각주}}

{{위키낱말사전|perplexity}}
{{토막글|정보}}

[[분류:정보 엔트로피]]
[[분류:언어 모델]]