다운로드
작성자: admin 작성일시: 2016-05-30 00:46:52 조회수: 2941 다운로드: 331
카테고리: 기초 수학 태그목록:

모멘트 방법

모멘트 방법(MM: Method of Moment)은 표본자료에 대한 표본 모멘트가 확률 변수의 이론적인 모멘트와 같다고 가정하고 모수를 구하는 방법이다.

1차 모멘트(기댓값, 평균)의 경우, 다음과 같은 식이 성립한다고 가정한다.

  • 이론적인 모형 평균 $\mu = \text{E}[X]$ = 표본 평균 $\bar{x}$
$$ \bar{x} = \dfrac{1}{N} \sum_{i=1}^N x_i $$

위 식에서 $N$은 데이터의 갯수, $x_i$는 표본 데이터이다.

2차 모멘트(분산)의 경우에는 다음과 같다.

  • 이론적인 모형 분산 $\sigma^2 = \text{E}[(X-\mu)^2]$ = 표본 분산 $s^2$
$$ \bar{s}^2 = \dfrac{1}{N} \sum_{i=1}^N (x_i - \bar{x})^2 $$

베르누이 분포의 모수 추정

모멘트 방법으로 베르누이 분포의 모수 $\mu$를 구하면 다음과 같다. 이 식에서 $N_1$은 1의 갯수이다.

$$ \text{E}[X] = \mu = \dfrac{1}{N} \sum_{i=1}^N x_i = \dfrac{N_1}{N} $$

정규 분포의 모수 추정

모멘트 방법으로 정규 분포의 모수 $\mu$, $\sigma^2$를 구하면 다음과 같다.

$$ \text{E}[X] = \mu = \dfrac{1}{N} \sum_{i=1}^N x_i = \bar{x} $$$$ \text{E}[(X-\mu)^2] = \sigma^2 = \dfrac{1}{N} \sum_{i=1}^N (x_i - \mu)^2 = s^2 $$

베타 분포의 모수 추정

모멘트 방법으로 베타 분포의 모수 $a$, $b$를 구하면 다음과 같다.

$$ \text{E}[X] = \dfrac{a}{a+b} = \bar{x} $$$$ \text{E}[(X-\mu)^2] = \dfrac{ab}{(a+b)^2(a+b+1)} = s^2 $$

이를 풀면 다음과 같다.

$$ a = \bar{x} \left( \frac{\bar{x} (1 - \bar{x})}{s^2} - 1 \right) $$$$ b = (1 - \bar{x}) \left( \frac{\bar{x} (1 - \bar{x})}{s^2} - 1 \right) $$

예를 들어 $a=15, b=12$인 베타 분포의 데이터 100개로부터 모멘트 방법으로 모수를 추정하면 다음과 같다.

In [2]:
np.random.seed(0)
x = sp.stats.beta(15, 12).rvs(1000)


def estimate_beta(x):
    x_bar = x.mean()
    s2 = x.var()
    a = x_bar * (x_bar * (1 - x_bar) / s2 - 1)
    b = (1 - x_bar) * (x_bar * (1 - x_bar) / s2 - 1)
    return a, b


print(estimate_beta(x))
(15.455080715555846, 12.292335248133712)

질문/덧글

아직 질문이나 덧글이 없습니다. 첫번째 글을 남겨주세요!