二章贝叶斯决策理论.ppt

第二章 贝叶斯决策理论 2.1 最小错误率准则 各种概率及其关系 先验概率： 后验概率： 类条件概率： 贝叶斯公式： 两个类别，一维特征 两类问题的错误率 观察到特征x时作出判别的错误率： 多类问题最小错误率 判别x属于ωi的错误率： 贝叶斯最小错误率准则 贝叶斯分类器的错误率估计 例2.1 对一大批人进行癌症普查，设ω1类代表患癌症，ω2类代表正常人。已知先验概率： 2.2 最小平均风险准则贝叶斯分 类器 问题的提出 有c个类别ω1, ω2 ,... , ωc, 将ωi类的样本判别为ωj类的代价为λij。 将未知模式x判别为ωj类的平均风险为： 最小平均风险判别准则 利用Bayes公式，构造判别函数： 贝叶斯分类器 例2.2 对一大批人进行癌症普查，设ω1类代表患癌症，ω2类代表正常人。已知先验概率： 2.3 贝叶斯分类器的其它版本 先验概率P(ωi)未知：极小化极大准则； 约束一定错误率（风险）：Neyman-Pearson准则； 某些特征缺失的决策： 连续出现的模式之间统计相关的决策： 2.4 正态分布的贝叶斯分类器 单变量正态分布密度函数（高斯分布）： 多元正态分布函数 正态分布的判别函数 贝叶斯判别函数可以写成对数形式： 情况一： 情况二： 线性分类器 线性分类器 线性分类器 线性分类器 情况三： 任意 二次分类曲线 二次分类曲面 模式识别 – 贝叶斯分类器 两类问题最小错误率判别准则： 判别准则为： 则： Bayes判别准则： ，则 以一个化验结果作为特征x: {阳性，阴性}，患癌症的人和正常人化验结果为阳性的概率分别为： 现有一人化验结果为阳性，问此人是否患癌症？ 以一个化验结果作为特征x: {阳性，阴性}，患癌症的人和正常人化验结果为阳性的概率分别为： 判别代价： λ11 = 0, λ22 = 0, λ12 = 100, λ21 = 25 现有一人化验结果为阳性，问此人是否患癌症？ 类条件概率密度函数为正态分布时： 判别函数可以写成： 此分类器称为距离分类器，判别函数可以用待识模式x与类别均值μi之间的距离表示： 判别函数可以写成： 可以简化为： 称为线性分类器 两类问题，1维特征，先验概率相同时： 两类问题，高维特征，先验概率相同时： 两类问题，1维特征，先验概率不同时： 两类问题，高维特征，先验概率不同时： 判别函数可以写成： 分类界面为2次曲线（面）