基于支持向量机的模式识别方法.pdf

维普资讯 《现代电子技术)2007年第 16期总第255期 集 成 电路 基于支持向量机的模式识别方法 梁宏斌 ，严正俊 (西安邮电学院 陕西 西安 710061) 摘 要 ：基于统计学习理论的支持 向量机 (SVM)方法是现代智能技术 的一个重要分支。SVM 实现 了结构风险最小化 (sRM)，而不是经验风险最小化(ERM)，在保证分类精度的前提下，提高了分类器的泛化能力。着重讨论C—SVM 原理，并 在此基础之上，对算法进行了测试。测试结果表明，C—SVM 分类算法具有较好的推广能力。 关键词 ：统计学习理论 ；支持 向量机 ；C—SVM；模式识别 中图分类号 ：TP183 文献标识码 ：B 文章编号 ：1004—373X(2007)16—193—02 Pattern RecognitionBasedonSupportVectorM achine ． LIANGHongbin，YANZhengjun (XianUniversityofPostandTelecommunications，Xian，710061，China) Abstract：SupportVectorMachinebasedonthestatisticlearning theory，isan importantbranchofmodern intelligence technica1．SVM realizesSRM whilenotERM ，onthebasisofchassificationphecies，theordinarycapacity isproposed．Thispa permainlydiscussestheC—SVM algorithm．Basedonthis，thealgorithm isvalidatedthroughauniversaldatabase． Keywords：statisticallearningtheory；supportvectormachine；C—SVM ；patternrecognition 问题就转化为以下带约束条件的极小值求解 问题 。 1 支持向量机原理 min1llw ll (1) 支持向量机是从求解线性可分情况下的最优超平面 SubjecttO：Y (w · )一胡 ≥0，i一 1，2，…， (2) 发展而来的。其基本思想可用下图加以说明。设样本为 d 定义 问题 的Lagrange函数如下 ： 维向量 ，某区域的 个样本及其所属类别表示为 (五，Y)，i 一 1，2，…，，ER ，y∈{+1，一1}。图 1中，圆形和星形 L(W，b，a)一告ww一∑ (w ·一6)+∑a 点代表 2类样本，H为分类面，H1，H2平行于分类面，且 (3) 所有样本点都位于 H1，H2之外。H1，H2之间的距离叫 在 I．agrange函数 中对 w 和b分别求偏导，并令其为 作分类间隔(