제곱합 문서 원본 보기

{{위키데이터 속성 추적}}
'''제곱합'''(sum of squares, 자승합,SS)는 '''[[표본]]''' 내의 각 사례의 변인 값과 평균 사이의 '''[[편차]]'''를 제곱한 값들의 총합으로, 표본 내의 '''[[변산성]]'''(variability)의 총량을 나타내는 수치이다.

:<math>SS = \Sigma(Y-\overline{Y})^2</math>

==성질==
*제곱합은 0보다 크거나 같다.
**표본 내 모든 사례의 Y값이 같다면 제곱합이 0이다.
**제곱합이 0이라면 표본 내 모든 사례의 Y값이 같다.
==분할==
===분산분석===
[[분산분석]]의 목적은 독립변인이 종속변인에 미치는 효과를 알아보는 것이다. 실험에서 나타나는 전체 편차는 집단간 편차(처치 효과의 크기)와 집단내 편차([[무선 오차]])의 합으로 이루어지는데, 이들을 분리해내는 일을 분할이라 한다.

:<math>SST = SSB + SSW</math>
:SST : [[전체 제곱합]](total sum of squares, [[총 제곱합]]), <math>SS_{total}</math>로 표기하기도 한다.
:SSB : 집단간 제곱합(between-groups sum of squares, 간 제곱합), <math>SS_{between}</math>로 표기하기도 한다.
:SSW : 집단내 제곱합(within-groups sum of squares 내 제곱합), <math>SS_{within}</math>로 표기하기도 한다.

:<math>SST = \Sigma(Y-\overline{Y}.)^2</math>
:<math>SSB = \Sigma(\overline{Y_i} - \overline{Y}.)^2</math>
:<math>SSW = \Sigma(Y - \overline{Y}_i)^2</math>

===선형회귀===
;정리
;
n번 관측한 표본 <math> (y_i, x_{i1}, \ldots, x_{ip}), \, i = 1, \ldots, n </math>로 구성된 [[선형 회귀 모형]] <math> y_i = \beta_0 + \beta_1 x_{i1} + \cdots + \beta_p x_{ip} + \varepsilon_i </math>이 주어지면,
총제곱합 <math> \sum_{i = 1}^n (y_i - \bar{y})^2 </math>을 다음과 같이 분해할 수 있다.
:<math>
\begin{align}
\left\| y - \bar{y} \iota \right\|^2 &= \left\| \hat{\varepsilon} \right\|^2 + \left\| \hat{y} - \bar{y} \iota \right\|^2, \quad \iota = (1, 1, \ldots, 1) \\
\sum_{i = 1}^n (y_i - \bar{y})^2 &= \sum_{i = 1}^n (\hat{y}_i - \bar{y})^2 + \sum_{i = 1}^n (y_i - \hat{y}_i)^2 \\
\sum_{i = 1}^n (y_i - \bar{y})^2 &= \sum_{i = 1}^n (\hat{y}_i - \bar{y})^2 + \sum_{i = 1}^n \hat{\varepsilon}_i^2 \\
\mathrm{TSS} &= \mathrm{ESS} + \mathrm{RSS}
\end{align}
</math>

;증명
;오차의 기대치는 0 이다 라는 가정.
;기대값의 정의에 따라 n이 확률 공간 안에서 모든 일어날 수 있는 경우의 수 일 경우에만 성립한다. (모집단)

<math>
\begin{align}
\sum_{i = 1}^n (y_i - \overline{y})^2 &= \sum_{i = 1}^n (y_i - \overline{y} + \hat{y}_i - \hat{y}_i)^2
= \sum_{i = 1}^n ((\hat{y}_i - \bar{y}) + \underbrace{(y_i - \hat{y}_i)}_{\hat{\varepsilon}_i})^2 \\
&= \sum_{i = 1}^n ((\hat{y}_i - \bar{y})^2 + 2 \hat{\varepsilon}_i (\hat{y}_i - \bar{y}) + \hat{\varepsilon}_i^2) \\
&= \sum_{i = 1}^n (\hat{y}_i - \bar{y})^2 + \sum_{i = 1}^n \hat{\varepsilon}_i^2 + 2 \sum_{i = 1}^n \hat{\varepsilon}_i (\hat{y}_i - \bar{y}) \\
&= \sum_{i = 1}^n (\hat{y}_i - \bar{y})^2 + \sum_{i = 1}^n \hat{\varepsilon}_i^2 + 2 \sum_{i = 1}^n \hat{\varepsilon}_i(\hat{\beta}_0 + \hat{\beta}_1 x_{i1} + \cdots + \hat{\beta}_p x_{ip} - \overline{y}) \\
&= \sum_{i = 1}^n (\hat{y}_i - \bar{y})^2 + \sum_{i = 1}^n \hat{\varepsilon}_i^2 + 2 (\hat{\beta}_0 - \overline{y}) \underbrace{\sum_{i = 1}^n \hat{\varepsilon}_i}_0 + 2 \hat{\beta}_1 \underbrace{\sum_{i = 1}^n \hat{\varepsilon}_i x_{i1}}_0 + \cdots + 2 \hat{\beta}_p \underbrace{\sum_{i = 1}^n \hat{\varepsilon}_i x_{ip}}_0 \\
&= \sum_{i = 1}^n (\hat{y}_i - \bar{y}) + \sum_{i = 1}^n \hat{\varepsilon}_i^2 = \mathrm{ESS} + \mathrm{RSS} \\
\end{align}
</math>

== 같이 보기 ==
* [[총 제곱합]]
* [[평균 (통계학)]]
* [[중심경향치]]
[[분류:통계학]]