学海网

人脸检测中的训练集优化，工学博士学位论文，共153页。
摘要
人脸检测（Face Detection）是指任意给定一幅图像，判定该图像中是否存在人脸；如果存在，则返回其位置和大小。该研究具有重要的科学意义和巨大的应用价值，一些相关的应用主要包括：人机交互、人脸识别和人脸数据库的管理，特别是与安全领域相关的视频监控等。
经过三十多年的发展，人脸检测技术取得了长足进步。特别是在基于学习的方法用于人脸检测取得成功后，一系列基于学习的算法被广泛应用到人脸检测研究中来。但是所有这些基于统计学习的方法的性能都在很大程度上依赖于训练集合的优劣。因此，研究者们往往不得不花费大量的精力来收集具有足够代表性的人脸和非人脸样本集合。但我们却注意到，在收集到一个特定的样本集合后，研究人员的主要精力就转移到了特征提取和分类器设计方法上，却较少关注所收集的样本集合是否合理以及如何对其进行自动优化等重要问题。基于此，本文专门针对样本集自动优化问题开展研究，重点探讨了通过重采样来优化人脸检测训练集规模和样本分布的方法。主要贡献总结如下：
1. 提出了基于遗传算法的人脸样本扩张方法
首先提出了一种基于遗传算法（GA：Genetic Algorithm）的人脸样本扩张方法，用来对收集的人脸样本集合进行数量上的优化。具体地说，首先通过手工收集一定数量的人脸样本作为GA 的初始种群，然后该初始种群进行繁殖（交叉和变异）。本文的交叉和变异算子是针对人脸的特殊性提出的适用于人脸的操作算子，对于变异算子，本文还采用了人脸重加光等技术，用来丰富样本集合的多样性。这样经过繁殖不断生成新的后代，为了实现后代的“优胜劣汰”，本文在繁殖的过程中采用分类器SNoW（Sparse Network of Winnow）来对新生成的后代进行评价。每次经过SNoW 评价后留下来的解和初始种群一起构成下一代的父代，进行新一轮的繁殖。为了配合人脸样本集合的迭代优化，该分类器SNoW 每经过一次GA 迭代都用初始种群和上一代中经过SNoW 评价后留下来的解来重新训练，再用新训练得到的分类器评价下一代的解。为了确定GA 迭代的终止条件，在GA 迭代过程中每代训练的分类器SNoW 都在校验集上进行测试，并比较得到的结果，当相连几代训练的分类器性能差异缩小到预先指定的一个阈值时即可停止迭代。
2. 提出了基于流形的训练集分布优化方法
GA 繁殖会使得后代的人脸样本数量急剧膨胀，为了控制后代的规模，需要对其进行下采样；同时GA 生成的后代样本集的分布也需要优化。由于人脸数据分布的非线性，本文采用流形(Manifold)的方法来对GA 生成的后代样本集合进行下采样和分布优化。其大致的思想是先利用Isomap（Isometric FeatureMapping）对GA 繁殖的后代进行流形学习，并根据样本在高维流形空间中的测地距离对数据集中过于密集的地方进行稀疏化(下采样)，以删除GA 产生的冗余样本。然后，基于Isomap 学习得到的数据集低维流形嵌入，利用LLELocal
Linear Embedding）算法对该嵌入中较大的空洞进行插值，从而得到一个分布更为合理的数据流形。
3. 提出了基于支持向量机的训练集边界分布优化方法
通过 GA 和流形等重采样可以对收集的人脸样本集合进行数量上的扩充和分布上的优化。但是对于分类边界上的人脸样本，由于其适应度值较低，因而容易在GA 迭代的过程中被抛弃。但是支持向量机（SVM：Support VectorMachine）的理论表明，分布在类别边界上的样本(即支持向量)，会在基于边界的分类器学习算法中发挥重要作用。因此，为了进一步优化通过GA 和流形方法重采样的人脸样本集合的分布，还需要对人脸样本集的边界进行优化，即织补上那些位于分类边界上的样本，以使得收集的人脸和非人脸集合的边缘更加清晰。为此，本文提出了一种基于SVM 的、非线性的训练集边界分布优化算法，即嵌入图像欧式距离的精简集方法。该算法通过产生边界上的虚拟样本来对人脸和非人脸的边界处缺失的样本进行织补，以优化人脸和非人脸集合中位于边界附近的样本分布。
尽管基于优化的训练集合训练得到的AdaBoost分类器已经取得了非常好的人脸检测效果，但是在人脸检测的过程中，仍然存在一些误检。为了进一步改善人脸检测系统的性能，本文还提出了韦伯局部描述子（WLD：Weber LocalDescriptor）用于学习一个基于SVM 的人脸检测校验器，并将其添加在AdaBoost分类器的后端，可以对输入图像中AdaBoost 判为人脸的子窗口进行过滤，从而提高集成后的分类器性能。
基于本论文提出的方法优化的训练集训练的人脸检测系统已经获得了实际应用，并取得较好的效果。而且，本论文的工作表明，尽管大多数的研究者都非常重视分类器的设计、特征的提取和选择，反例样本（非人脸）的选择(如Bootstrap)，但是正例样本（人脸）的重采样（通过样本的扩张和优化分布）也可以非常显著的提高分类器的性能，同时还能减少样本收集的繁琐工作量。
还需要说明的是，尽管本文以人脸检测中的样本优化为例，实际上基于统计学习方法的性能大多依赖于收集的训练集的数量和分布，因此本文的方法也可用于其他基于统计学习的训练集的优化中，以提高其他分类器的性能。
关键词：训练集优化，重采样技术，人脸检测，遗传算法，流形（Manifold），支持向量机（SVM），AdaBoost，韦伯定律