ベイジアンバックス 第1章2節 「確率の基礎(条件付確率、独立、ベイズの定理)」

スポンサーリンク
Uncategorized

統計検定を受けるにあたって、勉強したことをアウトプットとして残していこうと思う。

コーヒーショップの例を使う。

確率の基礎

条件付確率

ある情報がわかったあとで確率を考え直すことがある。  

これが条件付確率である。

事象 $B$ が起こったとわかっているもとで、事象 $A$ が起こる確率を $P(A \mid B)$ と書く。

読み方は「$B$ が起こったもとでの $A$ の確率」である。

定義は

$$ P(A \mid B) = \frac{P(A \cap B)}{P(B)} \quad (P(B) > 0) $$

である。

例えば、

  • $A =$「フードも注文する」
  • $B =$「テイクアウトである」

として、もし、

  • $P(B)=0.50$
  • $P(A \cap B)=0.12$

なら、

$$ P(A \mid B) = \frac{0.12}{0.50} = 0.24 $$

つまり、テイクアウトする客という条件の下では24%がフードも注文することになる。

独立

2つの事象が互いに影響しないとき、独立という。

事象 $A, B$ が独立であるとは、 $P(A \cap B) = P(A)P(B)$ が成り立つことをいう。

これは、条件付確率の定義に独立性の考え方を代入すると求められる。

条件付確率の定義は、$P(A \mid B) = \frac{P(A \cap B)}{P(B)}$だった。

独立とは「$B$ が起きたと知っても $A$ の確率が変わらない」ことなので、$P(A \mid B) = P(A)$ をこの定義に代入すると、

$$P(A) = \frac{P(A \cap B)}{P(B)}$$

両辺に $P(B)$ をかければ

$$P(A \cap B) = P(A)P(B)$$

となるわけである。


同値な見方として、 $P(A \mid B) = P(A)$ も使える。

つまり、$B$ が起きたという情報を知っても、$A$ の確率が変わらない。

例:

サイコロを2回振るとして、

  • $A$ = 「1回目に1の目が出る」
  • $B$ = 「2回目に4の目が出る」

1回目の出目が何であっても、2回目の出目には一切影響しない。これが独立ということである。それぞれ

$$P(A) = \frac{1}{6}, \quad P(B) = \frac{1}{6}$$

なので、

$$P(A \cap B) = P(A) \times P(B) = \frac{1}{6} \times \frac{1}{6} = \frac{1}{36}$$

となる。(コーヒーショップでの例が思いつかなかった)

ベイズの定理

条件付確率を入れ替える公式がベイズの定理である。

ベイズの定理は以下の式で表される。

$$ P(A \mid B) = \frac{P(B \mid A)P(A)}{P(B)} $$

この式の各部分は以下の意味となる。

  • $P(A)$: 何も情報がない段階で持っていた「$A$ である確率」についての見込み(事前の見込み)
  • $P(B \mid A)$: もし実際に $A$ だったとしたら、いま観測した情報 $B$ がどれくらい起こりやすいか
  • $P(B)$: $A$ かどうかによらず、そもそも情報 $B$ 自体がどれくらい起こりやすいか(基準になる確率)
  • $P(A \mid B)$: 情報 $B$ を観測したあとで、見込みを更新した「$A$ である確率」(事後の見込み)

つまりベイズの定理は、

$$(\text{更新後の見込み}) = (\text{もとの見込み}) \times \frac{\text{その見込みのもとで } B \text{ が起こりやすい度合い}}{B \text{ がそもそも起こりやすい度合い}}$$

という構造になっている。

「$P(A)$ という「元の見込み」に、$B$ という新しい情報が持つ手がかりの強さ $\dfrac{P(B \mid A)}{P(B)}$ を掛け合わせることで、見込みを $P(A \mid B)$ へと更新している」

と読むとわかりやすくなるかもしれない。

公式を暗記しないようにするために①:条件付確率の定義から求めるやり方

条件付確率の定義から

$$P(A \mid B) = \frac{P(A \cap B)}{P(B)}$$

である。

一方で、

$$P(B \mid A) = \frac{P(A \cap B)}{P(A)}$$

なので、これを変形すると

$$P(A \cap B) = P(B \mid A)P(A)$$

となる。

この式をさきほどの

$$P(A \mid B) = \frac{P(A \cap B)}{P(B)}$$

に代入すれば、

$$P(A \mid B) = \frac{P(B \mid A)P(A)}{P(B)}$$

が得られる。

公式を暗記しないようにするために②:長方形の面積から求めるやり方

こちらは例を含めて説明する。

  • $A =$「その客は常連客である」
  • $B =$「モバイル注文を使った」

としたときに、

  • $P(A) = 0.40$ ・・・全来店客のうち、常連客の割合
  • $P(B \mid A) = 0.60$ ・・・常連客のうち、モバイル注文を使う割合
  • $P(B \mid A^c) = 0.20$ ・・・常連客でない客のうち、モバイル注文を使う割合

という状況を考える。

まず、全体の合計(面積)は1の正方形が考えられる。

$P(A) = 0.40$とすると、常連客じゃない割合は0.60になる。

とすると、以下のように表せる。

そして、常連客の中でモバイル注文を使う割合の高さが $P(B \mid A)=0.60$となる。

よって、共通部分 $A \cap B$ の面積は$0.40 \times 0.60 = 0.24$となる。

$P(B)$ はまだ求めていないので、常連客でない客の列も同じように計算する必要がある。

  • 常連客でない客の部分の幅が $P(A^c)=1-0.40=0.60$
  • そのうちモバイル注文を使う割合の高さが $P(B \mid A^c)=0.20$

なので、この部分の面積は

$0.60 \times 0.20 = 0.12$

である。

モバイル注文を使った客は、常連客の列($0.24$)と常連客でない客の列($0.12$)を合わせた部分で、$P(B) = 0.24 + 0.12 = 0.36$

この領域($B$)の中で、常連客が占める割合が $P(A \mid B)$ である。

したがって、

$$P(A \mid B)=\frac{0.24}{0.36}$$

となり、

$$P(A \mid B)\approx 0.667$$

と求められる。

条件付独立

2つの事象 $A, B$ が、ある事象 $C$ を固定したもとで独立になることがある。これを条件付独立という。

定義は以下。

$$P(A \cap B \mid C) = P(A \mid C)P(B \mid C)$$

例えば、以下の状況を考える。

  • $A =$「アイスドリンクを注文する」
  • $B =$「テイクアウトである」
  • $C =$「気温が高い日である」

暑い日には、アイスドリンクもテイクアウトも増えるかもしれない。  

そのため、全体だけを見ると $A$ と $B$ は関係があるように見える。

しかし、暑い日だけに限定して見ると、「アイスドリンクかどうかとテイクアウトかどうかがほぼ独立」ということもありえる。

このように、条件 $C$ を固定すると独立になるのが、条件付独立である。

タイトルとURLをコピーしました