多项式拟合

多项式拟合即使用多项式

$y(x,w) = w_0 + w_1x + w_2x^2 + ...+ w_Mx^M = \sum_{j=0}^{M}w_jx^j$

对已知数据进行拟合，通过最小化

$E(w)= \frac{1}{2}\sum_{n=1}^{N}(y(x_n,w)-t_n)^2$

来获得最优解的方法，在以前的数学建模文章中也有提到

PRML中利用多项式去拟合由函数$sin(2\pi)$生成的数据，并对不同M取值的结果进行了对比

可以看到在M较小的时候拟合的结果如我们所料的十分差劲，但当M过大时，拟合结果虽然穿过了所有的点却与原函数十分不匹配，这种现象就是过拟合，原因是数据太少而多项式太复杂

文中还给出了这种情况下各个参数的情况

可以看到当M=9的时候，参数的数值十分大
为了避免过拟合情况的出现，文中建议数据的个数应不小于自适应参数$(w_i)$个数的5-10倍，然而参数的数量也并不是最合适的模型复杂度的度量