贝叶斯统计的发展史,一度被“正统”学派扼杀的伟大理论

原创 小斯  2020-07-21 21:34 

如今,贝叶斯统计已经火到无处不在,然而你是否知道,这个有趣而深刻的贝叶斯理论,一度被“正统”统计学派猛烈抨击至消亡。这篇文章就来谈谈贝叶斯理论的发展史。

1

贝叶斯理论的建立

托马斯·贝叶斯(Thomas Bayes,1702-1761),18世纪英国神学家、数学家、哲学家,贝叶斯统计学的创立者,于1742年成为英国皇家学会会员。贝叶斯理论对现代概率论和数理统计学的发展有重要的影响。

贝叶斯统计的发展史,一度被“正统”学派扼杀的伟大理论 阅读笔记 第1张

贝叶斯在1749年完成论文《机遇理论中一个问题的解》,贝叶斯推理的构想从此建立。不过贝叶斯本人却对这一发现并不重视,一直将其搁置在一旁,直到去世。

贝叶斯去世后,他的朋友理查德・普莱斯受贝叶斯亲戚所托,整理贝叶斯的文稿时发现了那篇论文。普莱斯将这篇论文寄到英国皇家学会,这篇著名的论文在 1764 年伦敦的皇家学会哲学会刊上《哲学纪要》上发表。贝叶斯逆概率自此公之于世。

对于这篇论文,著名的统计学家巴纳德 (George Alfred Barnard,1915–2002) 的评价是  : “它一定是科学史上最著名的论文之一”。然而,这篇伟大论文发表后,却并未引起多大反向。

论文发表10年后,拉普拉斯 (Pierre-Simon Laplace,1749-1827),拉普拉斯发表了论文《 论事件原因存在的概率》。 在这篇论文中 ,拉普拉斯对贝叶斯的思想进行了全面而通俗的阐述 。 之后,在1781 年和 1786 年,拉普拉斯又发表了另外两篇关于贝叶斯理论的论文,对 1774 年那篇论文中的思想进行了改进与扩展。通过这几篇文章,人们可以对贝叶斯的思想有更深入全面的理解。

拉普拉斯是法国著名的数学家和物理学家,被誉为法国的牛顿和天体力学之父。 正是由于拉普拉斯在科学界的巨大声望,因此他发表的这几篇论文受到了广泛关注,从而使得贝叶斯逆概率理论在学术界得以传播,这是贝叶斯理论的首次流行,但也一直伴随着批判声。

2

被“正统”学派扼杀

19世纪末20世纪初,内曼、皮尔逊、费希尔共同构筑起现代统计学(标准统计学,或内曼-皮尔逊统计学,频率学派)的形式。频率学派的兴起,却将贝叶斯学派推上了灭亡之路。

一直以来,由于贝叶斯推理立足于“先验概率”、“条件概率”这种看起来“不可靠的”概念,因此遭到了众多“正统”学者的批判。尤其是在19世纪末20世纪初,频率学派成为主流,贝叶斯理论遭到费希尔、内曼等人的强烈批判,打上伪劣烙印后,被学术界完全扼杀。

3

伟大理论的复兴之路

直到20世纪50年代,在[英]欧文・古德、[英]丹尼斯・林德利、[美]莱昂纳多・萨维奇等三位学者的推动下,一度被频率学派扼杀的贝叶斯统计,终于成功复兴,并且逐渐成为数理统计学派的中流砥柱之一,和频率学派分庭抗礼。

第二次世界大战时,欧文・古德曾在英国军队中与艾伦·图灵一起从事密码破译工作。当时,他们运用贝叶斯推理,取得了显著的成果。不过由于保密原因,该成果在很长时间内被视为机密,直到被允许公开时,才被发表出来。

丹尼斯・林德利则是在通过数学方法验证统计学的过程中,渐渐地开始赞同贝叶斯统计,并且很快就成为在英国普及贝叶斯统计的先锋人物。

影响力最大的是莱昂纳多・萨维奇,他于1954年出版了《统计学基础》,书中的“用数学逻辑使主观概率合理化”理论,对之后的概率理论和统计学产生了重大影响。萨维奇的研究成果成为“贝叶斯决策理论”领域的圣典,成功帮助贝叶斯统计复兴。

如今,贝叶斯已经被广泛应用到物理学、生态学、心理学、计算机、甚至哲学等各个领域。例如仅在计算机领域,应用就多的去了:自然语言处理、人工智能、推荐系统、图像识别、垃圾邮件筛选等等。

如今贝叶斯已火热到无处不在,让人无法忽视。别说学术界,就连CBS热播美剧《生活大爆炸》中,谢耳朵研究抓哔哔鸟的方法时也要来秀一把贝叶斯公式,你说火不火?

贝叶斯统计的发展史,一度被“正统”学派扼杀的伟大理论 阅读笔记 第2张

本文地址:http://cas01.com/5569.html
关注我们:请关注一下我们的微信公众号:扫描二维码小斯想的公众号,公众号:cas01
温馨提示:本站发布的压缩包如需密码解压,若无特别说明,密码统一为:cas01.com
版权声明:本文为原创文章,版权归 小斯 所有,欢迎分享本文,转载请保留出处!

发表评论


表情