#overfitting

在做医疗大数据或 AI 风险预测时,很多人习惯把几十个特征全扔进模型,并自信地引用祖传口诀“每个变量只要 10 个阳性事件就够了”。然而,这种死记硬背式的建模往往会让算法在外部新数据面前摔得粉身碎骨。本文用大白话聊聊为什么特征不是越多越好,以及如何用现代统计准则守住过拟合的底线。

很多人刚接触机器学习或数据分析时,总有一种本能:希望训练出来的模型曲线能精准穿过每一个数据点,把训练误差压到零。然而在真实世界里,越是“身段柔软、千变万化”的模型,出门往往摔得越惨。本文用大白话聊聊经典教材 ISLR 中的核心秘密——为什么最精准的预测,往往是由那些“长相朴素”的模型做出来的?