格格党

手机浏览器扫描二维码访问

第13讲 每获得一条信息贝叶斯推理就变得更精确一些（第3页）

图表13-8第n＋1次为黑球时的变化

顺便说一下，如果在n＋1次中观察到白球，则可以分析出：a’：b’＝9a:2b，a’比a大，b’比b小（这一情况将在练习题部分出现）。

13-6观察次数越多，推算结果就越接近实际

正如上一节中所讲，在第n次的观察中，A的后验概率为a，B的后验概率为b，此时，如果第n＋1次观察为黑球，那么后验概率的比例关系则变为：

a：b→a:8b

这说明，该壶为B壶的可能性增大了。那么，为什么B的一侧会变成8倍呢？这是因为，这一变化反映了：从A中观察到黑球的概率是0.1，而从B中观察到白球的概率是0.8，这一比例增大了8倍。相反，如果在第n＋1次观察到白球，后验概率的比例关系则变为：

a：b→9a:2b

那么，该壶为A壶的可能性增大。

现在，假设该壶为B壶。此时，反复观察会发现，取出黑球所占的比例比白球要大。因此，反复观察的次数越多，B侧的数值b更大的次数也越多。那么，如果进行多次观察，则后验概率中的b就会无限接近1，而a无限接近0。这意味着，基本上能够断定：此壶为B壶。换言之，能够说明“实际情况与推理结果——该壶为B壶，是一致的”。

如果数学计算来解释上述问题，将会非常烦琐复杂。因此，以下在图表13-9中为大家列举数值来进行说明，这样更加简洁易懂。

图表13-9观察到黑球的次数＆后验概率＆发生的可能性

图表13-9体现的是：在观察20次球的颜色之后，根据出现黑球的次数来推算“该壶为B壶”的后验概率。其中第2行表示“该壶为B壶”的后验概率的数值。

例如，在“黑球出现了6次”的情况下，通过图表中我们可以看出“该壶为B壶”的后验概率为0.0002。也就是说，如果黑球只出现6次，那么“该壶为B壶”的后验概率将是一个极小的数值。而在“黑球出现了9次”的情况下，时，“该壶为B壶”的后验概率为0.898。换言之，只有当黑球出现9次左右的，“该壶为B壶”的后验概率才会为一个很大的数值。

因此我们想要知道的是，“如果该壶为B壶，那么能够观察到多少次黑球呢？”表中第3行表示：当该壶为B壶时，第1次便观察到黑球的概率。通过观察表中数值可分析出：当该壶为B壶时，观察到黑球的次数少于9次的可能性是很小的，因此也可以认为，这种情况根本不会发生。因而，即使判定观察到黑球的次数在10次以上，风险也不会很大。此时，根据贝叶斯推理计算出的“B壶的后验概率”b的数值均为99％以上。换言之，通过贝叶斯推理能够得出“毋庸置疑，此壶为B壶”的判断（当然，也有一种微乎其微的可能性：观察到黑球的次数在8次以下，这种情况下，推理就有可能是错误的）。

通过上述具体事例，大家应该已经理解了“观察次数越多，推算结果就越接近实际”的观点。

第13讲·小结

1．贝叶斯推理描述了“根据获得的信息，判断结果会发生变化”的情况。

2．若观察到黑球，那么判断就会倾向于黑球多的壶；若观察到白球，判断就会倾向于白球多的壶。

3．在贝叶斯推理中，只要信息足够多，就能够得出正确的结论。

练习题

答案参见此处

已知问题设定与本讲正文内容相同。请在下面的括号中填入合适的数值。

现在，假设在第n次的推理中，得出“该壶为A壶”的后验概率为a，该壶为B壶”的后验概率为b。在此前提下，又得知第n＋1次的观察结果是白球。假设第n＋1次观察之后，后验概率分别为a’和b’，根据序贯理性，后验概率之比为：

a’：b’＝a×（）：b×（）＝（）：（）

使其满足标准化条件，则：

从这个式子中，能够知道a’比a（）、b’比b（）

专栏n帮助贝叶斯复兴的学者们

由于受到费希尔、内曼等人的猛烈抨击，贝叶斯逆概率的观点在20世纪初一度被逐出学术圈。而此后，英国的欧文?古德和丹尼斯?林德利，美国的莱昂纳多?萨维奇这三位学者又于20世纪50年代帮助其成功复兴。

欧文?古德曾在第二次世界大战中的英国军队里与数学家艾伦?图灵一同从事密码破译的工作。当时，他们通过运用贝叶斯推理，取得了显著的成果。虽然在很长一段时间里，该成果被视为机密，受到严密保管，但自从被允许公开之后，就发表了出来。而丹尼斯?林德利则是在通过数学方法验证统计学的过程中，慢慢地开始赞同贝叶斯逆概率的学说。此后，他成为在英国普及贝叶斯统计学的先锋人物。

其中，影响力最大的当属莱昂纳多?萨维奇的研究。萨维奇天生高度近视，这对他的学习造成了极大的影响。由于智力障碍以及被人误解，他在升学时也遭遇了很大的困难。后来好不容易进入化学学科学习，又因为不适合做实验，被赶了出来。在芝加哥大学学期间，萨维奇和经济学者米尔顿?弗里德曼一起工作。自此，他的工作重心转移到统计学研究上。1954年发行出版的《统计学基础》介绍了是一种“用数学逻辑使主观概率合理化”的理论，这对于此后的概率理论和统计学产生了重大影响。有趣的是，萨维奇本人也没想到，这篇论文居然能够帮助贝叶斯逆概率复兴，甚至连很早就知道这篇论文的丹尼斯?林德利也未能预料到。此时的二人还不完全属于贝叶斯流派，但此后萨维奇的研究逐渐开始引领后来被称为“贝叶斯决策理论”的领域，他的发表成果成为圣典般的著作。