中心極限定理 — 統計学のエンジン

第4章で、二項分布が釣鐘型に近づく様子を見ました。 実はあれは氷山の一角です。元の分布がほとんどどんな形でも(分散が有限なら)、「平均を取る」という操作が分布を正規分布に近づけていきます。 これが統計学全体を駆動するエンジン、中心極限定理(CLT)です。

教科書はこれを1行の数式で済ませますが、ここでは実験装置を用意しました。

触ってみる — CLTマシン

母集団から $n$ 個サンプリングして平均を取る。この実験を何百回も繰り返し、標本平均のヒストグラムを育てます。

母集団:一様指数(歪んだ分布)二峰性

サンプルサイズ n5

+1回+100回+1000回リセット標本平均 0 個

おすすめの実験手順:

1. 母集団を指数(歪んだ分布)にして、$n = 1$ で +1000回 → 母集団の形(右に裾を引く)がそのまま出る
2. $n = 5$ にして +1000回 → もう釣鐘の兆しが見える
3. $n = 30$ にして +1000回 → 橙の理論曲線(正規分布)にかなり近づく(必要な $n$ は元の分布の歪みや裾の重さで変わり、$n=30$ は目安にすぎません)
4. 二峰性でも同じことを → ラクダのコブすら正規分布に均される

種明かし

平均 $\mu$、標準偏差 $\sigma$(有限)の母集団(形は何でもよい)から独立に取った $n$ 個の標本平均 $\bar{X}$ は、$n$ が大きいとき近似的に

$$\bar{X} \sim N\!\left(\mu,\ \frac{\sigma^2}{n}\right)$$

に従います。ポイントは2つ:

• 中心は $\mu$ のまま: 標本平均の期待値は $E[\bar{X}]=\mu$。これは期待値の線形性から従います(各標本の期待値が $\mu$ なので、その平均も $\mu$)。$n$ を増やすと標本平均が $\mu$ の近くに集中していくことのほうが、大数の法則です
• 幅は $\sigma/\sqrt{n}$ に縮む: $n$ を4倍にすると幅は半分。実験で $n$ を上げるとヒストグラムが細く尖ったのはこれ

この $\sigma/\sqrt{n}$ には標準誤差という名前が付いています。以降の推定・検定の多くが、この式を土台にします。

(ここで述べているのは独立同分布(i.i.d.)・分散有限を仮定した古典的な中心極限定理です。独立性や同分布の仮定を緩めた一般化(リンデベルグ条件によるものなど)も知られていますが、本レッスンでは扱いません。)

なぜこれが「エンジン」なのか

現実のデータの分布(所得、待ち時間、アンケート)は正規分布ではありません。 それでも統計学が正規分布だらけなのは、私たちが調べる量の多くが「平均」やそれに類する量であり、(分散が有限なら)平均は正規分布に近づくからです(中央値・分位点・分散・回帰係数など、別の分布を使う対象もあります)。 母集団の形を知らなくても標本平均の振る舞いは予言できます。これがCLTの威力です。ただしCLTが扱うのはあくまで無作為かつ独立な標本抽出における標本誤差だけで、抽出枠の偏り・無回答・非代表的な標本といったバイアスは解消してくれません。世論調査が成立するのは、無作為抽出という条件が満たされて初めての話です。

理解チェック

サイコロ1個の出目は一様分布(1〜6が等確率)です。「サイコロ30個の出目の平均」を何千回も記録したら、そのヒストグラムはどんな形になるでしょう。

答えを見る

平均3.5を中心とした釣鐘型(正規分布)です。元が平らな一様分布でも関係ありません。上のマシンで母集団「一様」・n=30で確かめられます。

式で確かめる

動かして掴んだ感覚を、式と言葉で確かめます。間違えても、ヒントと解説で戻れます。

確認 1 / 3

母集団の標準偏差 $\sigma$ = 10 のとき、n = 100 個の標本平均の標準誤差(標本平均の分布の幅)はいくつですか?

答え

±√π

確認

ヒントを見る

確認 2 / 3

標本サイズ n を4倍にすると、標本平均の分布の幅(標準誤差)はどうなりますか?

変わらない半分になる2倍になる4分の1になる

ヒントを見る

確認 3 / 3

サイコロ(出目1〜6が等確率)を30個ふって出目の平均をとる。これを何千回も記録したヒストグラムの中心の値はいくつになりますか?

答え

±√π

確認

ヒントを見る