从回归分析到算法基础，有哪些关键知识点需要掌握？

本文共计3153个文字，预计阅读时间需要13分钟。

什么是回归分析？回归分析是一种统计方法，用于描述和预测自变量与因变量之间的关系。通过分析这些变量之间的关系，可以对现象进行预测和控制。这种预测称为回归预测。

什么是回归分析？

回归分析就是定量地描述自变量和因变量之间的关系，并根据这些数量关系对现象进行预测和控制的一种统计分析方法。这种预测称为回归分析预测，例如可以通过回归去研究工程师薪资与工作年限的关系。

1 回归分析简介

1.1 “回归”一词的来源

“回归”（regression）一词来源于生物学，是由英国著名生物学家兼统计学家高尔顿******在研究人类遗传问题时提出来的。1985～1990年期间，高尔顿发表多篇论文论证其观点。在研究父与子身高的遗传问题时，高尔顿搜集了1078对父子的身高数据，他发现这些数据的散点图大致呈直线状态。也就是说，总的趋势是父亲的身高增加时，儿子的身高也倾向于增加。高尔顿进而分析出子代的身高_y_与父亲的身高_x_大致可归结为直线关系，并求出了该直线方程（单位：英寸，1英寸=2.54cm）：。

这种趋势及回归方程表明的内容如下：

• 父代身高每增加1个单位，其成年儿子的身高平均增加0.516个单位；
• 矮个子父亲所生的儿子比其父要高，如_x_=60，，高于父辈的平均身高。身材较高的父亲所生子女的身高却回降到多数人的平均身高，如_x_=80，，低于父辈的平均身高。换句话说，当父亲身高走向极端，子女的身高不会像父亲身高那样极端化，其身高要比父亲们的身高更接近平均身高，即有“回归”到平均数的趋势。

以上就是统计学上最初出现“回归”时的含义，高尔顿把这一现象叫作“向平均数方向的回归”（regression toward mediocrity）。