全概率公式与贝叶斯公式的区别
当计算一个较复杂事件的概率时,我们往往将其分解为一些互不相容的简单事件之并,然后分别计算这些简单事件的概率,再利用概率的加法定理和乘法公式加以解决。该方法的一般化就产生了全概率公式。
在实际问题中,我们还需解决与全概率公式相反的问题:已知各项先验概率 P ( B i )和对应条件概率 P ( A | B i ),如果事件 A 已发生,需求出此时事件 B i 发生的条件概率 P ( B i | A )。
贝叶斯公式于1763年由英国统计学家T·贝叶斯(Thomas Bayes,1702—1763)给出,故称为贝叶斯(Bayes)公式或逆概率公式。其中为区别于条件概率 P ( A | B i ),我们称 P ( B i | A )为 后验概率 (posterior probability)。
注意到全概率公式和贝叶斯公式应用的条件是相同的,只是所需解决的问题不一样。若我们把事件 B 1 , B 2 ,…, B n 看作导致试验结果事件 A 发生的“原因”,而事件 A 只能伴随着“原因” B 1 , B 2 ,…, B n 其中之一发生,又已知各“原因” B i 的概率和在每个“原因”下事件 A 发生的概率,当我们要求出该事件 A 发生的概率时,通常用全概率公式;如果在进行该试验中,事件 A 已经发生,要求出由某个“原因” B j 导致该结果发生的概率,往往用贝叶斯公式。