언어 모델 문서 원본 보기

{{위키데이터 속성 추적}}
'''언어 모델'''(language model) 또는 '''언어 모형'''은 일련의 단어들의 [[확률 분포]]이다.<ref>{{서적 인용|last1=Jurafsky |first1=Dan |last2=Martin |first2=James H. |title=Speech and Language Processing |date=2021 |edition=3rd |url=https://web.stanford.edu/~jurafsky/slp3/ |access-date=24 May 2022 |chapter=N-gram Language Models}}</ref> 길이 m의 단어들의 시퀀스가 주어졌을 때 언어 모델은 확률 <math>P(w_1,\ldots,w_m)</math>을 전체 시퀀스에 할당한다. 언어들이 무한하고 다양한, 유효한 문장들을 표현하기 위해 사용할 수 있을 때 언어 모델링은 0이 아닌 확률들을 언어적으로 유효한 (훈련 데이터에 마주친 적이 없을 수 있는) 문장들에 할당하는 문제에 직면한다. 이 문제를 극복하기 위한 여러 모델링 접근법들이 설계되고 있는데, 예를 들면 [[마르코프 확률 과정|마르코프 추정]]을 적용하거나 [[순환 신경망]] 또는 [[변환기 (기계 학습)|변환기]] 등의 신경 아키텍처를 사용하는 것을 들 수 있다.

언어 모델은 [[전산언어학]]의 다양한 문제에 유용하다.

== 같이 보기 ==
* [[자연어 처리]]
* [[변환기 (기계 학습)]]
* [[통계 모델]]

== 각주 ==
{{각주}}

== 추가 문헌 ==
{{참고 자료 시작}}

* {{콘퍼런스 인용| authors = J M Ponte and W B Croft | citeseerx=10.1.1.117.4237 | title = A Language Modeling Approach to Information Retrieval | book-title=Research and Development in Information Retrieval | year=1998 | pages=275–281 }}
* {{콘퍼런스 인용| authors = F Song and W B Croft | citeseerx=10.1.1.21.6467 |title=A General Language Model for Information Retrieval | book-title=Research and Development in Information Retrieval |year=1999 | pages=279–280 }}
* {{기술보고서 인용|first=Stanley |last=Chen |author2=Joshua Goodman |title=An Empirical Study of Smoothing Techniques for Language Modeling |institution=Harvard University |year=1998  |citeseerx=10.1.1.131.5458 }}

{{참고 자료 끝}}

{{자연어 처리}}

{{전거 통제}}
[[분류:언어 모델| ]]
[[분류:통계적 자연어 처리]]
[[분류:마르코프 모형]]