-
捕获非线性特征的一个常用方法是采用核技巧,如高斯核
RBF
,将原始特征映射到一个更高维空间。在这个高维空间模型是线性可分的,即:只需要考虑新特征之间的线性关系。但是核技巧存在计算量大、内存需求大的问题。
设低维样本空间为 维度,低维样本 。
多项式核定义为: 。其中 为超参数, 为多项式的度
degree
。根据定义,多项式核等于样本在高维空间向量的内积:
当 时,有:
使用 是为了 的表达更简洁。
如果不用核技巧,仅仅考虑使用一个多项式映射,则我们得到:
结合 模型,则得到
POLY2
模型: