学海网

毕业设计 基于ID3算法的决策树生成算法研究和实现 共58页，31775字
摘要
决策树是数据挖掘中重要的分类方法,本文在ID3算法的基础上,提出了一个在决策树各级节点上,以信息增益作为节点属性选择的标准,对每个非叶节点进行了测试类聚,并将例子集分成不同子集,实现了决策树创建和相应规则的生成新算法。结果表明该实现方法是正确和高效的。
关键词ID3； 决策树； 分类； 数据挖掘；信息熵
目 录
1 绪论 1
1.1研究背景及意义 1
1.2国内外研究简介 1
1.3本文的主要工作 2
1.4本文的组织结构 2
2 决策树算法描述 3
2.1数据挖掘（Data Mining）概述 3
2.2分类知识 3
2.3归纳学习(induction learning) 4
2.4决策树算法的产生与发展 5
2.5决策树学习算法 7
2.5.1决策树描述 7
2.5.2决策树的类型 8
2.5.3决策树的生成过程 8
2.6决策树的构造方法及算法数学模型 9
2.7决策树树结点的结构定义 11
2.8本章小结 12
3 ID3算法的描述 13
3.1熵(Entropy) 13
3.2信息增益 13
3.3 ID3算法 14
3.3.1属性选择 14
3.3.2 ID3算法思想描述 15
3.3.3 ID3算法优缺点 15
3.4本章小结 16
4 算法的实现及应用 17
4.1 ID3算法构造决策树 17
4.2 基于ID3算法的决策树在地产营销中的应用实例 18
4.3 系统实现 20
4.4根据决策树得到分类规则 22
4.5本章小节 23
5决策树学习 24
5.1决策树学习的常见问题 24
5.2决策树算法的优缺点 24
5.3算法改进 25
5.4本章小结 26
结论 27
致谢 28
参考文献 29
附录 30
附录1 程序代码 30
附录2 中英文翻译 39