一.回归定义
就是找到一个function,输入特征x,输出一个数scalar
二.模型步骤
三步:模型假设(假设线性模型),模型评估(通过损伤函数),模型优化(梯度下降)
1.模型假设:假设为线性模型
分为单个特征的一元线性模型和多个特征的多元线性模型
y = b + Σwixi
2.模型评估:损失函数
损失函数就是所有样本预测值和实际值的差的平方之和,损失函数越小模型越好
3.最佳模型:
梯度下降:对w和b分别求偏导,令结果等于0,可以求出最小损失函数下下的w和b,进而求出f(x)
三.如何验证训练好的模型的好坏
测试数据与function的值差距不能过大(否则欠拟合),function的值与预测数据不能过大(否则过拟合)
多项式次数不能过小也不能过大
四步骤优化
1.两个input的四个线性模型和到一个线性模型中
2.加入更多参数x
3.加入正则化