시그모이드 함수 문서 원본 보기

{{위키데이터 속성 추적}}
[[파일:Logistic-curve.svg|오른쪽|섬네일|320x320픽셀| 로지스틱 [[로지스틱 방정식|곡선]] ]]
[[파일:Error_Function.svg|오른쪽|섬네일|320x320픽셀| [[오차 함수|오류 함수]] 곡선 ]]
'''시그모이드 함수'''는 S자형 곡선 또는 '''시그모이드 곡선'''을 갖는 [[함수|수학 함수]]이다. 시그모이드 함수의 예시로는 첫 번째 그림에 표시된 [[로지스틱 함수]]가 있으며 다음 수식으로 정의된다.

<math display="block">S(x) = \frac{1}{1 + e^{-x}} = \frac{e^x}{e^x + 1}.</math>

다른 시그모이드 함수들은 예시 하위 문단에 제시되어있다 참고하기를 바란다.


시그모이드 함수는 실수 전체를 정의역으로 가지며, 반환값은 [[단조증가]]하는 것이 일반적이지만 단조감소할 수도 있다. 시그모이드 함수의 반환값(y축)은 흔히 0에서 1까지의 범위를 가진다. 또는 -1부터 1까지의 범위를 가지기도 한다.

여러 종류의 시그모이드 함수는 [[인공 뉴런]]의 [[활성화 함수]]로 사용되었다. 통계학에서도 [[로지스틱 분포]], [[정규 분포]], [[스튜던트 t 분포]] 등의 [[누적 분포 함수]]로 시그모이드 곡선이 자주 등장한다. 시그모이드 함수는 [[가역 함수]]로, 그 역은 로짓 함수다.

== 정의 ==
시그모이드 함수는 실함수로써 유계이고 미분가능하며, 모든 점에서 음이 아닌 미분값을 가지고 단 하나의 변곡점을 가진다.<ref>{{서적 인용|제목=From Natural to Artificial Neural Computation|성=Han|이름=Jun|성2=Morag|이름2=Claudio|연도=1995|편집자-성=Mira|편집자-이름=José|편집자2-성=Sandoval|편집자2-이름=Francisco|총서=Lecture Notes in Computer Science|권=930|쪽=195–201|장=The influence of the sigmoid function parameters on the speed of backpropagation learning|doi=10.1007/3-540-59497-3_175|isbn=978-3-540-59497-0}}</ref>

== 성질 ==
일반적으로 시그모이드함수는 [[단조함수]]이며 종 모양의 1차 [[미분]] 그래프를 가진다. 시그모이드 함수는 <math>x \rightarrow \pm \infty</math>일 때, 한 쌍의 [[점근선|수평 점근선]]으로 수렴한다. 시그모이드 함수는 0보다 작은 값에서 볼록하고 0보다 큰 값에서 오목하다.

== 예시 ==
[[파일:Gjl-t(x).svg|오른쪽|섬네일|320x320픽셀| 일부 시그모이드 함수에 대한 비교. 그림에서 모든 함수는 원점에서의 기울기가 1이 되도록 정규화됨. ]]

* [[로지스틱 방정식|로지스틱 함수]]

::<math> f(x) = \frac{1}{1 + e^{-x}} </math>

* [[쌍곡선 함수|쌍곡탄젠트]] (위의 로지스틱 함수를 평행이동하고 상수를 곱한 것과 같음)

::<math> f(x) = \tanh x = \frac{e^x-e^{-x}}{e^x+e^{-x}} </math>

* [[역삼각함수|아크탄젠트 함수]]

::<math> f(x) = \arctan x </math>

* [[오차 함수]]

::<math> f(x) = \operatorname{erf}(x) = \frac{2}{\sqrt{\pi}}\int_0^x e^{-t^2} \, dt </math>

* 일부 [[대수함수]], 예를 들어:

::<math> f(x) = \frac{x}{\sqrt{1+x^2}} </math><span></span>

연속적이고 음이 아닌 "범프 모양"함수의 [[적분]]은 S자형이므로, 많은 일반적인 [[확률 분포]]에 대한 [[누적 분포 함수]]역시 S자형이다. 한 가지 예가 [[정규 분포]]의 누적 분포 함수와 관련된 <span></span>오류 함수이다.

== 응용 ==
[[파일:Gohana_inverted_S-curve.png|섬네일| 밀 수확량과 토양 염분 사이의 관계를 모델링 한 역 시그모이드 곡선.<ref>Software to fit an S-curve to a data set [https://www.waterlog.info/sigmoid.htm]</ref> |대체글=]]
[[학습 곡선]]과 같은 여러 자연적인 현상은 작은 값에서 시작하여 시간이 지남에 따라 가속화하였다가 절정에 근접하는 모습을 보인다. 구체적인 수학적 모델이 없을 때 시그모이드 함수가 자주 사용된다.<ref>{{저널 인용|제목=Variational Gaussian process classifiers|저널=IEEE Transactions on Neural Networks|성=Gibbs|이름=M.N.|날짜=Nov 2000|권=11|호=6|쪽=1458–1464|doi=10.1109/72.883477|pmid=18249869}}</ref>

[[인공 신경망]]에서는 가끔 효율을 높이기 위해 매끈하지 않은 하드 시그모이드 함수들이 사용된다.
== 같이 보기 ==
{{Div col|colwidth=30em}}
* [[활성함수]]
* [[누적 분포 함수]]
* [[일반화 로지스틱 함수]]
* [[곰퍼츠 함수]]
* [[단위 계단 함수]]
* [[쌍곡선 함수]]
* [[로지스틱 분포]]
* [[로지스틱 함수]]
* [[로지스틱 회귀]]
* [[로짓]]
* [[ReLU]] 함수
* [[스무스스텝]](Smoothstep) 함수
* [[소프트맥스 함수]]
* [[베이불 분포]]
* [[페르미-디랙 통계]]
{{Div col end}}

== 각주 ==
{{각주}}

== 참고 문헌 ==
* {{서적 인용|제목=Machine Learning|성=Mitchell|이름=Tom M.|연도=1997|출판사=WCB–McGraw–Hill|isbn=978-0-07-042807-2}}. In particular see "Chapter 4: Artificial Neural Networks" (in particular pp.&nbsp;96–97) where Mitchell uses the word "logistic function" and the "sigmo<span></span>id function" synonymously – this function he also calls the "squashing function" – a<span></span>nd the sigmoid (aka logistic) function is used to compress the outputs of the "neurons" in multi-layer neural nets.
* {{웹 인용|url=http://www.computing.dcu.ie/~humphrys/Notes/Neural/sigmoid.html|제목=Continuous output, the sigmoid function|성=Humphrys|이름=Mark|확인날짜=2019-05-26|보존url=https://web.archive.org/web/20150202160017/http://www.computing.dcu.ie/~humphrys/Notes/Neural/sigmoid.html|보존날짜=2015-02-02|url-status=dead}} Properties of the sigmoid, including how it can shift along axes and how its domain may be transformed.
[[분류:인공신경망]]
[[분류:초등 특수 함수]]