如何使用Python绘制学习曲线以诊断模型偏差和方差？

本文共计1089个文字，预计阅读时间需要5分钟。

在直接使用 `learning_curve` 时，最常遇到的 `ValueError` 错误是 Found array with dim 3. Expected dim 2 or 4.。这通常是因为提供的输入数据维度不符合预期。

确保：

实操建议：

立即学习“Python免费学习笔记（深入）”；

• X 必须是二维数组（n_samples × n_features），哪怕只有一列特征也得是 reshape(-1, 1)，不能是 Series 或一维 ndarray
• y 可以是一维，但类型要和模型匹配：分类任务别传浮点数标签，回归任务别传字符串
• 务必在调用 learning_curve 前完成所有预处理（如 StandardScaler.fit_transform(X_train)），不能把 Pipeline 里带 fit 的步骤丢给它自动做
• 如果模型本身要求稀疏输入（比如 LogisticRegression 配 solver='saga'），记得传 return_train_score=True，否则默认只返回测试分，画不出完整曲线

train_sizes参数设多少才反映真实学习行为

train_sizes 不是随便写个 [0.1, 0.3, 0.5, 0.7, 0.9] 就行。太密会拖慢速度，太粗会漏掉关键拐点，尤其当样本量小（

实操建议：

立即学习“Python免费学习笔记（深入）”；

• 优先用 np.linspace(0.1, 1.0, 5) 而不是等间隔整数，避免在小样本下取到 train_size=1 导致 CV 报错
• 若总样本 n_samples ，把点数减到 3–4 个，比如 <code>[0.2, 0.5, 0.8]；否则交叉验证每折训练数据太少，方差爆炸
• 注意 cv 的折数影响实际最小训练集大小：设 cv=5 且 train_sizes=[0.2]，那每折只有总样本的 20% 用于训练、80% 用于验证——此时训练集极小，分数不可信

画出来的曲线平坦/抖动大，是模型问题还是代码问题

曲线在 y 轴方向几乎水平，或者上下剧烈跳动，大概率不是模型本身烂，而是评估方式没控住随机性。

实操建议：

立即学习“Python免费学习笔记（深入）”；

• 必须固定 random_state：在 learning_curve(..., cv=ShuffleSplit(n_splits=5, test_size=0.2, random_state=42)) 里显式传，否则每次运行 CV 划分不同，曲线毛刺感强
• 避免用 cv='warn' 或默认 cv=None（即 StratifiedKFold(n_splits=5)），它不保证重复性；改用带 random_state 的 ShuffleSplit 或 KFold
• 如果 scoring 用的是 'f1' 这类依赖阈值的指标，而模型输出是概率（如 RandomForestClassifier.predict_proba），得配 make_scorer(f1_score, greater_is_better=True, average='macro')，否则可能因默认阈值导致分数突变

Learning Curve 和 Validation Curve 容易混淆的边界在哪

Learning Curve 是看「训练集大小」变化对性能的影响，Validation Curve 是看「超参取值」变化的影响。混用会导致诊断结论完全反向。

实操建议：

立即学习“Python免费学习笔记（深入）”；

• 怀疑欠拟合（高偏差）→ 画 Learning Curve：如果训练分和验证分都低且接近，说明模型容量不够，该换复杂模型，不是调参
• 怀疑过拟合（高方差）→ 先看 Learning Curve：如果训练分高、验证分低、且随样本增加差距缩小，才是真过拟合；如果验证分一直上不去，可能是数据噪声大或特征质量差
• 想调 max_depth 或 C？那是 validation_curve 的活，别往 learning_curve 的 param_name 里塞——它根本不接受这个参数

真正难的是把曲线趋势和业务数据分布对应起来：比如某特征缺失率突然升高那段训练集规模，可能正好卡在曲线拐点，这种细节不会自动标出来，得你手动比对。