核方法kernel methods (KMs)是一类
模式识别的
算法。其目的是找出并学习一组数据中的相互的关系。用途较广的核方法有
支持向量机、
高斯过程等。
核方法是解决
非线性模式分析问题的一种有效途径,其核心思想是:首先,通过某种非线性映射将原始数据嵌入到合适的高维特征空间;然后,利用通用的线性学习器在这个新的空间中分析和处理模式。
相对于使用通用非线性学习器直接在原始数据上进行分析的范式,核方法有明显的优势:
首先,通用非线性学习器不便反应具体应用问题的特性,而核方法的非线性映射由于面向具体应用问题设计而便于集成问题相关的
先验知识。
再者,线性学习器相对于非线性学习器有更好的
过拟合控制从而可以更好地保证泛化性能。
还有,很重要的一点是核方法还是实现高效计算的途径,它能利用
核函数将非线性映射隐含在线性学习器中进行同步计算,使得计算
复杂度与高维特征空间的维数无关。