本文介绍条件概率与贝叶斯公式。
条件概率(conditional probability)
条件概率$\Pr[A|B]$必须定义在两个事件A和B上,含义是在B发生的条件下,A发生的概率。
可以想象B是已经满足的条件,条件概率即是在给定条件下A事件的概率。除非A与B独立,否则B的发生会影响A,因此一定有$\Pr[A|B] \neq \Pr[A]$。
数学上,$$\Pr[A|B] = \frac{\Pr[A \cap B]}{\Pr[B]}$$为A与B同时发生的概率与B发生的概率的比例。
几何上,可以用文恩图表示事件A与B:

B已经满足条件可以看作全集是B,即黑色圈出的区域,在该区域中发生A,对应A与B的交集区域。因此概率为A与B交际区域的面积与B的面积的比例。
全概率公式(law of total probability)
全概率公式非常直观,其含义是如果有一些互斥的事件$B_1, \ldots, B_k$,它们的并集为全集。则任何事件$A$发生的概率可以拆分为每一个$A \cap B_i$的概率之和。
几何上,

A被$B_1, \ldots, B_k$划分成了$A \cap B_1, A \cap B_2, \ldots, A \cap B_k$,因此A的概率为这些划分出来的事件的概率之和。
数学上,
$$\Pr[A] = \sum_{i=1}^{k}\Pr[A \cap B_k]$$
由条件概率的定义,等价于
$$\Pr[A] = \sum_{i=1}^{k}\Pr[B_k]\Pr[A|B_k]$$
当A事件取决于$B_1, \ldots, B_k$中的哪一个发生时,直接计算$A$事件的概率非常困难,可以转而计算$B_i$的概率和$A|B_i$的条件概率。
全概率公式是贝叶斯公式的基础。
贝叶斯公式(Bayes' theorem)
贝叶斯公式对于两个事件A和B定义。如果我们希望计算$A|B$的条件概率,那么由于
$$\Pr[A|B] = \frac{\Pr[A \cap B]}{\Pr[B]}$$
以及$$\Pr[B|A] = \frac{\Pr[A \cap B]}{\Pr[A]}$$
我们有如下贝叶斯公式:
$$\Pr[A|B] = \frac{\Pr[B|A]\Pr[A]}{\Pr[B]}$$
贝叶斯公式一般结合全概率公式使用,我们以一个简单的例子说明:
某城市发生了一起汽车撞人逃跑事件,该城市只有两种颜色的车,蓝20%绿80%,事发时现场有一个目击者,他指证是蓝车,但是根据专家在现场分析,当时那种条件能看正确的可能性是80%,那么,肇事的车是蓝车的概率是多少?
我们的观测(evidence)$B$是目击者指证蓝车,需要计算肇事车是蓝车这一事件$A$的条件概率$\Pr[A|B]$。
由贝叶斯公式,$$\Pr[A|B] = \frac{\Pr[B|A]\Pr[A]}{\Pr[B]}$$
由题目条件,$\Pr[A] = 0.2, \Pr[B|A]$为看正确的概率0.8。
直接计算目击者指证蓝车的概率并不容易,但是我们可以利用全概率公式:
$$\Pr[B] = \Pr[A]\Pr[B|A] + \Pr[A^c]\Pr[B|A^c]$$
其中$A^c$为$A$的反面,即肇事车是绿车。
有题目条件, $\Pr[A^c] = 0.8, \Pr[B|A^c]$为看错的概率0.2。
从而有,$$\begin{align*} \Pr[A|B] &= \frac{\Pr[B|A]\Pr[A]}{\Pr[B|A]\Pr[A] + \Pr[B|A^c]\Pr[A^c]}\\ &= \frac{0.8 \times 0.2}{0.8 \times 0.2 + 0.2 \times 0.8}\\ &= 0.5 \end{align*}$$
一般地,也可以将全集划分为多个事件$A_1, \ldots, A_k$,计算$$\Pr[A_1|B] = \frac{\Pr[A_1]\Pr[B|A_1]}{\sum_{i=1}^{k}\Pr[A_i]\Pr[B|A_i]}$$
练习题
Q:有8个箱子,现在有一封信,这封信放在这8个箱子中每一个的概率均为1/10, 不放在任何一个箱子的概率为1/5, 现在我打开1号箱子发现是空的,求下面7个箱子中含有这封信的概率?
概率论教程
更多练习题请见概率论练习题
更多概率论相关问题见本网站论坛概率论版面。
更多面试真题见面试真题汇总。
更多面试问题见面试真题汇总