**基本原理**：机器学习的核心是泛化而非记忆——如果模型只在训练数据上表现好、在没见过的新数据上表现差，它实际上什么都没学到，这种失败模式称为“过拟合”（overfitting）。

**标准防御**：从数据中留出一部分不参与训练，其中验证集（validation set）可在建模过程中反复查看，用于比较候选模型、调整超参数和决定下一步尝试；最终测试集（holdout）只在最后触碰一次。

**代理意义**：由于训练过程从未见过预留集，模型在测试集上的强劲表现才是其在真实新样本上表现的正确代理。

**前提条件**：这一保证成立的前提是预留集保持真正“未见”——如果反复在其上检查性能、据此调整训练流程、复检并迭代追逐更高数字，该集合就不再是无偏的测试集。

**文章出处与问题**：本文来自 Amazon Science 博客，标题抛出的问题是——为什么机器学习研究智能体不会过拟合？

为什么机器学习研究智能体不会过拟合？