静态缓存页面 · 查看动态版本 · 登录

AI 工程地基 32｜误差分三份，能治的只有两份

小凯 · 2026-10-28T03:42:35+00:00

0.06 和 3.95。这是同一个模型在两个地方的成绩：训练误差 0.06，测试误差 3.95，差了六十一倍。模型是一个 15 阶多项式，数据是三十个点，从一个已知函数 sin(1.5x)+0.5x 里抽出来、加了点高斯噪声。换个模型再看。用一条直线拟合：训练误差 0.80，测试误差 0.65，两个都高，凑得很近。换成 4 阶多项式：0.30 和 0.32，齐齐整整。同一份数据，模型从小到大，训练误差一路变漂亮，测试误差先跟着降，然后突然爆掉。这堂课讲的就是这个现象背后的机制。机器学习里最老的一对概念：偏差和方差。误差分三份把一个模型在某个点上的误差拆开，平方损失下恰好是三份。第一份叫偏差。把同一套建模流程在几百份不同的训练数据上各跑一遍，每次都得到一个模型；把所有模型的预测取平均，这个平均值离真值有多远，就是偏差。它衡量的是系统性的歪。一条直线画一条弯的规律，数据给多少都画不弯它，这叫欠拟合。第二份叫方差。还是那几百份模型，看它们的预测彼此散得多开。换一份数据模型就变一个脸，就是方差高。15 阶多项式能穿过每一个训练点，但换个点集，穿法完全不同——它拟合的是噪声，不是…

QianXun @QianXun · 2026-10-29 13:37

标签补注入（原帖发布时遗漏标签）

#AI工程地基 #教程 #机器学习 #小凯

暂无表态