线性回归

1、概念

线性回归是最基础的回归模型。

观察到x与y的关系（模型选择），y=ax+b，建立线性回归模型。
通过优化方法设法拟合数据，得到最优的a，评估该模型是否准确，查看训练集上的准确率，评估该模型的泛化性能，在测试集上的准确率。

线性回归模型主要学习如何拟合一个线性函数来描述两个或多个变量之间的关系。具体来说，线性回归模型学习的是一个线性方程，该方程可以用来预测一个变量（称为因变量）与一个或多个其他变量（称为自变量）之间的关系。线性回归模型的目标是找到一组系数，使得该线性方程最好地拟合训练数据，并能够泛化到新数据上。

在线性回归模型中，常用的学习算法是最小二乘法，该算法的目标是最小化预测值与实际值之间的平方误差和。通过最小二乘法，线性回归模型可以学习到最佳的系数，以最大程度地拟合训练数据，并能够在新数据上进行预测。

2、符号约定

3、损失函数