贝叶斯统计(18)

贝叶斯所有内容

Θ0，接受Θ1。

第三章 先验分布的的确定

1、主观概率

贝叶斯统计中要使用先验信息，而先验信息主要是指经验和历史资料。

在经典统计中，概率是用非负性、正则性和可列可加性三条公理定义的。概率的确定方法主要是两种。一种是古典的另一种是频率方法。实际中大量使用的是频率方法，所以经典统计的研究对象是能大量重复的随机现象，不是这类随机现象就不能用频率的方法去确定其有关事件的频率。贝叶斯学派是完全同意概率的公理化定义，但认为概率也可以用经验确定，这是与人们的实践活动一致，这就可以使不能重复或不能大量重复的随机现象也可谈及概率。同时也是人们积累的丰富经验得以概括和应用。贝叶斯学派认为：一个事件的概率是人们根据经验对该事件发生可能性所给出个人信息。这样给出的概率称为主观概率。

确定主观概率的方法：根据经验和历史资料的先验信息给出的主观概率没有固定的模式，但不管用什么方法，其所确定的主观概率都必须满足概率的三条公理，即

（1） 非负性公理：对任一事件A, 0＜P(A)＜1 。

（2） 正则性公理：必然事件的概率为1。

（3） 可列可加性公理：对可列个互不相容的事件A1 ,A2 , , An有

P( Ai)= P(Ai)

I 1 i 1

当发现所确定的主观概率与这三条公理及其推出的性质有不和谐时，必须立即修正，直到和谐为止。这时给出的主观概率才能称得上概率。

2、利用先验信息确定先验分布

在贝叶斯方法中关键的一步是确定先验分布。当总体分布参数 是离散时，即参数空间 只含有限个或可数个点时，可对 中每个点确定一个主观概率。当 的先验信息（经验和历史数据）足够多时，我们可以用一下三个方法：

一、 直方图法

二、 选定先验密度函数形式再估计其超参数

三、 定分度法与变分度法