PRML中，线性回归模型是如何构建的？

本文共计16904个文字，预计阅读时间需要68分钟。

原文：本节主要基于PRML一书的第一章，介绍了回归的线性模型，详细讨论了以下内容：基函数、偏置-方差分解、贝叶斯线性回归、贝叶斯模型比较和证据近似，最后简要讨论了固定基函数的局部的。

本节以PRML第一章为基础，阐述了回归的线性模型，具体内容涵盖：基函数、偏置与方差分析、贝叶斯线性回归、模型比较与证据近似，并对固定基函数的局部性质做了简要说明。

本文主要基于PRML一书的第三章，介绍了回归的线性模型，详细讨论的内容有：基函数、偏置-方差分解、贝叶斯线性回归、贝叶斯模型比较和证据近似，最后简要讨论了固定基函数的局限性，并给出了全文的参考资料。

本文地址：www.cnblogs.com/faranten/p/15947139.html
转载请注明作者与出处
​ ​ ​ 线性模型最简单的形式就是输入变量的线性模型，但是，将一组输入变量的非线性函数进行线性组合，我们可以得到一类更加有用的函数，本章我们的讨论重点就是输入变量的非线性函数的线性组合。

1 线性基函数

​ ​ ​ 回归问题最简单的形式就是输入变量的线性函数，即

\[y(\mathbf x,\mathbf w)=w_0+w_1x_1+w_2x_2+\cdots+w_Dx_D \]

这称为线性回归（linear regression），更一般地

\[y(\mathbf x,\mathbf w)=w_0+\sum_{j=1}^{M-1}w_j\phi_j(\mathbf x) \]

其中\(\phi_j(\mathbf x)\)称为基函数（basis function），这是线性模型更一般的形式，具有更广泛的应用。