機械学習の基礎 〜ベイズの定理〜
2024年も8月後半、まだまだ残暑厳しいですね🌞
こんにちは、データサイエンティストひろきです。
前回に引き続き、ベイズの定理の具体例を紹介します。
ベイズの定理
$$\begin{align*}
P(A|B) = \frac{P(B|A)}{P(B)}\cdot P(A) \
\end{align*}$$
$$\begin{align*}
P(A|B)&:事後分布 (posterior)\\
P(B|A)/P(B)&:尤度 (likely hood)\\
P(A)&:事前分布 (prior)\\
\end{align*}$$
事前分布をlikely hood関数で更新し、事後分布を得る。これをベイズ更新と呼びます。
ベイズの定理の応用例：沈没船を探せ
沈没船をある海域から探す時、見つかる確率をベイズの定理を使って考えてみましょう。
まず下記事象を考えます。
$$\begin{align*}
&A={ある海域に船が沈んでいる} \\
&B={船を探して実際に船が見つかる}\\
&A^c={ある海域に船が沈んでいない} \\
&B^c={船を探して実際に船が見つからない}\
\end{align*}$$
そして、下記確率を考えてみます。
$$\begin{align*}
&p=P(A) :ある海域に船が沈んでいる確率(主観的に決める) \\
&q=P(B|A):ある海域に船が沈んでいて、船を探して実際に船が見つかる確率(捜査船の能力)\\
\end{align*}$$
この時、ある海域を探して見つからなかったけれども、実はその海域に船が沈んでいる確率
$$\begin{align*}
P(A|B^c)\\
\end{align*}$$
を求めてみましょう。
まずはベイズの定理より
$$\begin{align*}
P(A|B^c)&=\frac{P(A \land B^c)}{P(B^c)}\\
&=\frac{P(B^c|A) \cdot P(A)}{P(B^c)}\\
\end{align*}$$
これをpとqで表したいので、P(A)があからさまな形で出てくるように分母を変形し、
ベイズの定理の一部を適用すると、
$$\begin{align*}
P(B^c)&=P(A \land B^c)+P(A^c \land B^c)\\
&=P(B^c|A)\cdot P(A)+P(B^c|A^c)\cdot P(A^c)\\
&=P(B^c|A)\cdot P(A)+P(B^c|A^c)\cdot (1-P(A))\\
&=(1-q)\cdot p+1\cdot (1-p)\\
&=1-pq\
\end{align*}$$
上記式変形には下記2つの確率の意味を利用しています。
$$\begin{align*}
&P(B^c|A)=1-q\\
& \because P(B|A)+P(B^c|A)=1\\
&P(B^c|A^c)=1\\
&\because A^c(沈んでいない)という条件の元で、B^c(見つからない)確率は1だから\\
\end{align*}$$
故に、ある海域を探して見つからなかったけれども、実はその海域に船が沈んでいる確率は、
$$\begin{align*}
P(A|B^c)&=\frac{P(B^c|A) \cdot P(A)}{P(B^c)}\\
&=\frac{(1-q)\cdot p}{(1-pq)}\\
&=\frac{1-q}{1-pq}\cdot p\
\end{align*}$$
つまり、ある海域を探して見つからなかった場合、
$$\begin{align*}
&P(A) :その海域に船が沈んでいる確率(主観的に決める)\\
&が、\\
&P(A|B^c):探して見つからなかったけど、まだその海域に船が沈んでいる確率\
\end{align*}$$
に更新されたわけです。
例えばですが、
$$\begin{align*}
&p=P(A)=1/4=25\% :ある海域に船が沈んでいる確率(主観的に決める)\\
&q=P(B|A)=2/3:ある海域に船が沈んでいて、船を探して実際に船が見つかる確率(捜査船の能力)\\
\end{align*}$$
とすると、
$$\begin{align*}
P(A|B^c)&=\frac{1-q}{1-pq}\cdot p\\
&=\frac{(1-2/3)\cdot 1/4}{(1-2/3 \cdot1/4)}\\
&=0.1=10\% \\
\end{align*}$$
つまり、
ある海域に船が沈んでいる確率p=25%が、
捜索し見つからなかったことで、
それでもまだ、船が沈んでいる確率10%に更新されたということです。
実例はこちらの文献を参照ください。
それでは私もお宝を探しに行ってきます💰
Love&Respect❤️
Hiroki🐶