一、定义：
一种用于拟合模型的数学方法，目标是找到一组模型参数，使得模型的预测值与真实值之间的误差平方和最小。
二、核心思想：
通过最小化误差，让模型尽可能接近训练数据
三、应用场景：
在回归分析中，最小二乘法广泛用于寻找数据点的最佳拟合直线或曲线。例如：
- 在线性回归中，最小二乘法用于确定直线 y=wx+by = wx + by=wx+b 的斜率 www 和截距 b
四、如何理解：
通过数学方法，求得当SSE最小时对应的w和b的值。
几何解释
- 最小二乘法的本质是通过调整模型参数，让所有点到拟合曲线（或直线）的垂直距离平方和最小。
- 在二维平面中，可以想象每个点到直线的距离作为误差，最小二乘法让这些距离尽可能小。
直观理解：
假设你正在扔飞镖，而目标是扔得尽可能接近靶心。最小二乘法就像是通过计算所有飞镖的偏离距离平方，把这些距离加起来，找到一种扔法（直线的参数），让偏离总量最小。
应用场景
- 线性回归：预测房价、股票价格等。
- 曲线拟合：用高阶多项式或其他函数拟合非线性数据。
- 工程问题：分析误差分布，优化设计模型。
最小二乘法不仅简单而且实用，是机器学习和数据分析中的基础工具之一！
