机器学习 课件 6.2支持向量机基本原理.pdf

支持向量机基本原理

支持向量机（supportvectormachine，SVM）

基本原理基于统计学习理论的方法二分类

H为线性超平面，H1、H2分别为过各类中离超平面最近的样本且平行于超平面

分类间隔（margin）：|H1H2|。

最优超平面：将两类数据正确分开，并且使分类间隔最大。

定义最优超平面，并把寻找最优超平面归结为求解一个凸规划问题

Ø支持向量机能较好地解决小样本、非线性和高维数据、局部极小点等实际问题。

支持向量机（supportvectormachine，SVM）

基本原理

能将两类样本正确分开的超平面有无数多个。如何求得最优超平面？

支持向量机（supportvectormachine，SVM）

超平面

线性超平面非线性超平面

线性可分情况线性不可分情况线性不可分情况

支持向量机

数据线性可分

•线性最优超平面线性支持向量机

数据线性不可分

•非线性最优超平面非线性支持向量机

核方法

升维

基于Mercer核展开定理，通过用内积函数定义的非线性变换将输入空间

线性化

映射到高维特征空间（Hilbert空间），在这个高维特征空间中寻找输入

变量和输出变量之间的关系。

TheEnd