学海网

局部支持向量机的研究（硕士学位论文），共76页。
【摘要】 统计学习理论建立在结构风险最小化原则的基础上。与传统统计学习理论相比,V.Vapnik等人提出的统计学习理论是一种针对小样本情况研究统计学习规律的理论。与此同时,在这一理论基础上发展起来的支持向量机可用于模式识别和回归估计,因其具备理论完备化、全局优化、推广性好、适应性强等优点而不同于其余机器学习算法,并且也有力地推动着机器学习理论和技术的发展。然而支持向量机全局化的方法并不蕴含一致性理论,局部支持向量机的提出符合了“全局一致性蕴含局部性”的思路。近年来,局部支持向量机在理论研究及应用方面都得到了一定程度的关注,如遥感图像分类、脑电图信号处理、网络流量预测等领域。本文首先对机器学习和统计学习理论进行简单的介绍,并在此基础上引入支持向量机的特点及研究现状。其次,阐述局部支持向量机的研究现状及其意义,详细介绍并说明局部支持向量机在学习性能上的特点和优势及其一些改进策略。最后,分析当前几种局部支持向量机算法及其改进思路。本文具体完成工作如下：(1)针对局部支持向量机在大规模数据集中时间复杂度比较高的问题,提出基于协同聚类的局部支持向量机,在不降低分类精度的情况下,成功降低了算法的时间复杂度。(2)详细介绍加权支持向量机,并将加权思想应用到局部支持向量机中,提出加权局部支持向量机,以提高小样本数据的分类精度。(3)详细介绍单类支持向量机,并将其用于局部支持向量机,提出单类局部支持向量机进行探索性研究。
【关键词】 局部支持向量机； 支持向量机； 协同聚类； 单类支持向量机； 加权支持向量机；

目录
1 引言
1.1 研究背景 1
1.1.1机器学习的定义与发展 2
1.1.2统计学习理论的主要内容 2
1.2 研宄现状 4
1.2.1支持向量机的研究 4
1.2.2局部支持向量机的研宄 4
1.2.3加权支持向量机的研宄 5
1.2.4单类支持向量机的研究 5
1.3 问题的提出及研宄意义 6
1.4 论文主要工作 6
1.5 本章小结 7
2 支持向量机 8
2.1 支持向量机的理论基础 8
2.2 最优分类超平面 8
2.3 线性情形 9
2.3.1 线性可分 9
2.3.2线性不可分 11
2.4 非线性情况及核函数 11
2.5 Libsvm的特点及应用 13
2.6 本章小结 13
3 局 支持量机 14
3.1 局部支持向量机的发展背景 14
3.1.1理论背景 14
3.1.2应用背景 15
3.1.3局部支持向量机与支持向量机的对比 15
3.2 局部支持向量机及其形式 16
3.2.1 SVM-KNN 17
3.2.2 kNNSVM 17
3.2.3 LSVM 18
3.3 局部支持向量机的几种改进 19
3.3.1 PSVM 20
3.3.2 Falk-SVM 21
3.4 分析局部支持向量机及其改进 23
3.5 本章小结 24
4 基于协同聚类的局部支持向量机 25
4.1 聚类分析及相关概念 25
4.1.1簇和聚类 25
4.1.2聚类分析流程图 26
4.2 常用聚类算法 26
4.2.1尽均值算法 27
4.2.2 h中心点算法 28
4.3 协同聚类 29
4.3.】协同的生物学背景 29
4.3.2协同聚类思想 29
4.3.3基于协同聚类的局部支持向量机 31
4.4 实验 31
4.4.1分类实验 32
4.4.2关于单个支持向量机模型的研宄实验 35
4.5 本章小结 37
5 加权局部支持向量机 38
5.1 加权支持向量机 38
5.1.1 加权支持向量机算法公式 38
5.1.2加权方式 39
5.2 Weighted Falk-SVM 算法 40
5.3 实验 41
5.3.1分类实验 41
5.3.2单个加权局部支持向量机模型实验 43
5.4 本章小结 46
6 单类局部支持向量机 47
6.1 单类问题 47
6.2 单类支持向量机 47
6.2.超球体算法 48
6.2.2超平面算法 49
6.3 单类支持向量机的改进方式 50
6.3.1引入未标号数据——BSVM 50
6.3.2选择样本点 51
6.3.3改变优化目标 51
6.4 单类局部支持向量机 52
6.5 实验 53
6.5.1 OCFalk-SVM 与 Falk-SVM 对比实验 53
6.5.2单个模型分类实验 54
6.5.3 Libsvm单类验证实验 56
6.6 本章小结 58
7 结论与展望 59
7.1 研宄工作总结 59
7.2 实验评价 59
7.3 进-步研宄的考虑 60
作者简历 64
独创性声明 65
学位论文数据集 66