线性模型
分类：把多种数据进行区分
回归：归纳出某种数据的分布规律
线性模型(linear model) ：试图学得一个通过属性的线性组合来进行预测的函数
公式如下：
# x为特征值，w为权重，b为偏值
线性回归
## 转化为公式时，需要把特征值数值化：
1.若数据有“序” (order) 的关系，则连续化 (按序赋值)
2.若数据无序，则用向量编码(0&1)
* 若一个离散属性有k个可能的取值，则转化为一个k维的向量
求解过程：
** 最小二乘参数估计：对w，b求偏导，然后让导数为0
得到闭式(closed-form)解：
闭式解 vs 数值解
闭式解：
解析解(又称“”闭式解“)，是指通过严格的公式所求得的解。即包含分式、三角函数、指数、对数甚至无限级数等基本函数的解的形式。给出解的具体函数形式，从解的表达式中就可以算出任何对应值。解析解为一封闭形式的函数，因此对任一独立变量，皆可将其代入解析函数求得正确的相依变量。因此，解析解也称为闭式解。
** 解析法
用来求得解析解的方法称为解析法，解析法是常见的微积分技巧，如分离变量法等。
数值解：
数值解(numerical solution)是采用某种计算方法,如有限元的方法, 数值逼近,插值的方法, 得到的解.别人只能利用数值计算的结果, 而不能随意给出自变量并求出计算值。
** 当无法藉由微积分技巧求得解析解时，这时便只能利用数值分析的方式来求得其数值解了。数值方法变成了求解过程重要的媒介。
多元(Multi-variate)线性回归
求解过程：
# 把方程简化为增广矩阵
# 矩阵有逆时：直接算 => 解方程组；
# 逆不存在时：加一个限制 => 加上偏好
线性模型变化
可以对线性模型稍加变化，用来求解非线性模型。 例如
标签：函数,--,模型,分类,矩阵,线性,回归 From： https://blog.csdn.net/SHUA_y/article/details/140467498