减少方差的技术


如果学习算法存在着高方差问题,可以考虑尝试下面的技术:添加更多的训练数据:这是最简单最可靠的一种处理方差的策略,只要你有大量的数据和对应的计算能力来处理他们。加入正则化(L2正则化,L1正则化,dropout):这项技术可以降低方差,但却会增大偏差。加入提前终止(例如根据开发集误差提前终止梯度下降)

SVM


前言SVM是在高维特征空间使用线性函数假设空间的学习系统,它由一个来自最优化理论的学习算法训练,该算法实现了一个由统计学习理论导出的学习偏置。SVM是线性分类器的一种加深,SVM有一些显而易见的几何意义,但由于它用到的一些数学工具比较深奥,所以理解起来非常困难。SVM是机器学习领域若干标准技术的集大