열렬히.뛰기

1. 통계량과 추정

수학 & 통계 > 수리통계2 > 1. 통계량과 추정

통계량이란?

  • 표본을 이용해 만든 함수.
  • 표본 하나하나를 확률변수로 취급하기에, 거기에 덧셈이나 곱셈을 해도 확률변수인건 같다.
  • 따라서 통계량 = 확률변수로 봐도 된다.

표본통계량

  • 표본을 가지고 만든 통계량
  • 표본평균과 표본분산이 여기에서 나온다.

표본평균과 표본분산

\begin{align*} \overline{X} &= \dfrac{1}{n}\sum_{i=1}^{n}X_i \\[15pt] S^2 &= \dfrac{1}{n-1} ~\sum_{i=1}^{n}~ (X_i-\overline{X})^2 \end{align*}
  • 표본 X_i를 정해진 값으로 생각해보면, 표본평균과 표본분산을 구할 수 있다.

표본을 함수로 보기 - 표본분포

  • 위와 달리 표본 X_i가 정해진 값이 아닌, 매번 달라지는 값이라면?
  • 당연히 표본평균을 함수(확률분포)로 볼 수 있다.
  • 계산 시에는 표본평균을 하나의 값에 고정해 놓고 계산을 하면 편리하다.

표본분산과 불편추정량

순서통계량

  • 작은 것부터 크기순으로 나열된 표본의 관측값.
  • X_{(i)}들은 서로 독립이 아닌, 종속이라고 할 수 있다.
  • 표본범위와 표본중위수가 여기에서 나온다.
  • 확률함수와 기댓값 공식은 암기할 것!

예시를 들어보면 다음과 같다.

\begin{matrix} & X_{1} & X_{2} & X_{3} \\[5pt] \text{실험 1} & 5 & 7 & 9 \\[5pt] \text{실험 2} & 1 & 9 & 4 \\[5pt] \text{실험 3} & 9 & 1 & 2 \\[5pt] \text{실험 4} & 8 & 7 & 9 \\[5pt] \cdots & \vdots & \vdots & \vdots \end{matrix}
\begin{matrix} & X_{(1)} & X_{(2)} & X_{(3)} \\[5pt] \text{실험}\_1 & 2 & 5 & 7 \\[5pt] \text{실험}\_2 & 1 & 4 & 9 \\[5pt] \text{실험}\_3 & 1 & 2 & 9 \\[5pt] \text{실험}\_4 & 7 & 8 & 9 \\[5pt] \cdots & \vdots & \vdots & \vdots \end{matrix}

이때 다음과 같은 질문을 해볼 수 있다.

  • X_{(1)} = min(X_1, \cdots, X_n) 의 확률함수는?
  • X_{(n)} = max(X_1, \cdots, X_n) 의 확률함수는?
  • X_{(k)} = k번째로 작은 X_{(i)} 의 확률함수는?
  • 각각의 기댓값 : E[X_{(i)}]는 얼마인가?
  • 마지막으로 X_{(1)}, X_{(2)}의 결합확률함수는?

순서통계량 : 증명

순서통계량의 기댓값

순서통계량 : 공식

일변량 순서통계량의 pdf ; f_{X_{(r)}}(x)

\dfrac{n!} {(r-1)!~(n-1)!} \cdot [F_X(x)]^{r-1} \cdot [1-F_X(x)]^{n-r} \cdot f_X(x)

다변량 순서통계량의 pdf : f_{X_{(1)},~X_{(n)}}

\dfrac{n!}{1!~(n-2)!~1!} \cdot f_{X_1}(x_1)\cdot \Big\{ F_{X_1}(x_2) - F_{X_1}(x_1)\Big\}^{n-2}\cdot f_{X_1}(x_2)

통계적 추정

통계량을 가지고 모수를 추정(estimation)을 해볼 수 있다.

모수와 확률함수

모수 : 모집단의 특성을 나타내는 자료. \theta로 표현하는 경우가 많다.

주로 확률함수에서 특정한 문자로 나타내어진 부분이다.

  • 정규분포의 모수 : \mu\sigma
  • 포아송분포의 모수 : \lambda
  • 감마분포의 모수 : \alpha\beta

모수를 이용해 평균이나 분산을 만드는 경우가 많다.

ex. 감마분포

E(X) = \alpha\beta \kern{20pt} Var(X) = \alpha\beta^2

추정의 종류

모수를 하나의 점으로 생각하는 경우 → 점 추정

모수를 일정한 구간으로 생각하는 경우 → 구간추정