首页 > 其他分享 >承接day2 ————岭回归

承接day2 ————岭回归

时间:2023-05-27 21:22:20浏览次数:24  
标签:ridge fit 回归 day2 regressor test alpha 承接

#岭回归
from sklearn import linear_model
#参数alpha用于控制复杂度,alpha的值越接近于0,岭回归器表现越接近于普通最小二乘法的线性回归器
#因此,若想让异常值具有良好的健壮性,就要为alpha分配一个较大的值,这里我们用一个中等大小的值0.01
ridge_regressor = linear_model.Ridge(alpha=0.01,fit_intercept=True,max_iter=10000)

import sklearn.metrics as sm
#训练回归器
ridge_regressor.fit(x_train,y_train)
y_test_pred_ridge = ridge_regressor.predict(x_test)
print("Mean absolute error",round(sm.mean_absolute_error(y_test,y_test_pred_ridge), 2))

'''
岭回归是对系数规模施加了惩罚的正则化方法,除了岭系数在计算时减去一个值外,
他和最小二乘法是相同的。在岭回归中,缩放转换会有重大影响。因此在估计模型前要对所有因子
进行标准化处理
标准化:减去均值再除以标准差
'''

在前面普通线性回归的基础上,加上上面的代码。即为岭回归(有了惩罚项)

标签:ridge,fit,回归,day2,regressor,test,alpha,承接
From: https://www.cnblogs.com/fighting-huihui/p/17437374.html

相关文章

  • 小灰灰机器学习day2——构造线性回归器
    filename="Ve.txt"x=[]y=[]withopen(filename,'r')asf:forlineinf.readlines():xt,yt=[float(i)foriinline.split(',')]x.append(xt)y.append(yt)num_training=int(0.5*len(x)......
  • Day2-java泛型与集合
     ArrayList类的使用Set接口及实现类的使用了解对象顺序,Comparable接口及其使用Queue接口和实现类的使用了解Map接口及实现类的使用Collections类的实用方法操作List对象StreamAPI的使用了解泛型类型 取出和输入不用强制类型转换泛型是带一个或多个类型......
  • 回归树
    训练集给出如下数据: 测试集提供其中的部分列: 要求预测以下列的数据:['Tdewpoint','Visibility','Windspeed','RH_out','Press_mm_hg','RH_9','T_out','RH_4'] 使用回归树进行预测:importpandasaspdfromsk......
  • 3.3 线性回归的简洁实现
    importnumpyasnpimporttorchfromtorch.utilsimportdatafromd2limporttorchasd2lfromtorchimportnn#nn是神经网络(NeuralNetworks)的缩写3.3.1生成数据集true_w=torch.tensor([2,-3.4])#与上一节类似生成数据集true_b=4.2features,labels=......
  • 3.4 softmax回归
    3.4.1分类问题整节理论知识,详见书本。3.4.2网络架构整节理论知识,详见书本。3.4.3全连接层的参数开销整节理论知识,详见书本。3.4.4softmax运算整节理论知识,详见书本。3.4.5小批量样本的向量化整节理论知识,详见书本。3.4.6损失函数整节理论知识,详见书本。3.4.7......
  • MySQL学习进阶篇Day2
    2.索引2.1索引概述2.1.1介绍索引(index)是帮助MySQL高效获取数据的数据结构(有序)。在数据之外,数据库系统还维护着满足特定查找算法的数据结构,这些数据结构以某种方式引用(指向)数据,这样就可以在这些数据结构上实现高级查找算法,这种数据结构就是索引。 一提到数据结构,大......
  • day2打卡
    双指针,比如-4,-3,-2,-1,0,1,2,3最大的都在两边,设置两个指针,遍历的时候比较大小,大的插入新数组,然后指针++或者减减  也是双指针,以1,1,1,1,100为例,要找到最小大于100的序列,指针i遍历到100就停止了,然后j从i开始的地方出发,每次减去1,发现合适,减减键减到了倒数第二个1就停止了,这时最小序列就......
  • 3.1 线性回归
    3.1.1线性回归的基本元素整节理论知识,详见书本。3.1.2向量加速化%matplotlibinlineimportmathimporttimeimportnumpyasnpimporttorchfromd2limporttorchasd2l#以后常用的计时器classTimer:#@save"""记录多次运行时间"""def__init__(self......
  • 3.2 线性回归从零开始实现
    %matplotlibinlineimportrandomimporttorchfromd2limporttorchasd2l3.2.1生成数据集为了简单起见,使用易于可视化的低维数据。使用线性模型\(\boldsymbol{y}=\boldsymbol{Xw}+b+\epsilon\)生成数据集及其标签,其中合成的数据集是一个矩阵\(\boldsymbol{X}\in\R^{1......
  • 计量经济学笔记-2一般回归分析和模型设定
    2.一般回归分析和模型设定问题1:辨别相关性是不是因果关系统计关系:预测关系经济关系:因果关系问题2:一般归回分析和线性回归模型问题3:线性回归模型的系数coefficients的经济意义回归分析是研究变量Y和变量X之间关系的常用工具。用于考察X对Y的影响用X的信息预测......