哪种机器学习提升方法在Boosting与AdaBoost中最为出色？

本文共计3162个文字，预计阅读时间需要13分钟。

在Kaggle及其他机器学习任务中，集成方法非常流行，无论是随机森林还是其他算法，都表现出强大的能力。本文从Boosting的基本概念出发，详细介绍了AdaBoost算法。

在 Kaggle 及其它机器学习任务中，集成方法非常流行，不论是 还是随机森林，它们都强大无比。而本文作者从最基础的 Boosting 概念到 AdaBoost 算法进行了详细的介绍，并展示了如何实现 AdaBoost，这些都是走进集成方法大家族的敲门砖。

最近， Boosting 技术在 Kaggle 竞赛以及其它预测分析任务中大行其道。本文将尽可能详细地介绍有关 Boosting 和 AdaBoost 的相关概念。 喜欢本文记得收藏、点赞、关注。

本文将涉及：

• 对 bagging（装袋法）的快速回顾
• bagging 的局限性
• Boosting 的概念细节
• boosting 的计算效率
• 代码示例

Bagging 的局限性

接下来，我们不妨考虑一个二元分类问题。我们把一个观测结果分类为 0 或 1。尽管这并不是本文的目的，但是为了清晰起见，让我们回顾一下 Bagging 的概念。

Bagging 指的是一种叫做「Bootstrap Aggregating」（自助聚合）的技术。