首页 > 其他分享 >多元线性回归分析

多元线性回归分析

时间:2025-01-18 23:56:56浏览次数:3  
标签:解释 变量 回归 多元 线性 对数 数据 gen

介绍:

回归分析是一种强大的统计方法,用于研究变量之间的关系,特别是一个或多个自变量与一个因变量之间的定量关系。

总结就是研究XY之间的相关性的分析

First:相关性:

相关性不代表因果性,

Eg:统计数据表明:游泳死亡人数越高,雪糕卖得越多(游泳死亡人数和雪糕售出量之间呈显著正相关)

可以下结论:吃雪糕就会增加游泳死亡风险吗(因为吃雪糕,所以游泳死亡风险增加了)?

当然不可以,可能这里是因为夏天所以游泳的人和吃雪糕的人多了,但是两者没有因果

SECOND:Y

Y是什么?俗称因变量。取义,因为别人的改变,而改变的变量。

在实际应用中,Y常常是我们需要研究的那个核心变量。

(1)经济学家研究经济增长的决定因素,那么Y可以选取GDP增长率(连续数值型变量)

(2)P2P公司要研究借款人是否能按时还款,那么Y可以设计成一个二值变量,Y=0时代表可以还款,Y=1时代表不能还款(0-1型变量)。

(3)消费者调查得到的数据(1表示非常不喜欢,2表示有点不喜欢,3表示一般般,4表示有点喜欢,5表示非常喜欢。(定序变量):

(4)管理学中RFM模型:F代表一定时间内,客户到访的次数,次数其实就是一个非负的整数。(计数变量)

(5)研究产品寿命、企业寿命甚至是人的寿命(这种数据往往不能精确的观测,例如现在要研究吸烟对于寿命的影响,如果选取的样本中老王60岁现在还活的非常好,我们不可能等到他去世了再做研究,那怎么办呢?直接记他的年龄为60+,那这种数据就是截断的数据)(生存变量)

THIRD:X

X是用来解释Y的相关变量,所以X被称为自变量,当然,另一套定义方法是:X为解释变量,Y为被解释变量,

回归分析的任务就是,通过研究X和Y的相关关系,尝试去解释Y的形成机制,进而达到通过X去预测Y的目的。

例题:下表是1990-2007年中国棉花单产与要素投入的表格,请用回归的方法指出哪个要素投入是最重要的要素?

回归分析的使命

使命1:回归分析要去识别并判断:哪些X变量是同Y真的相关,哪些不是。统计学中有一个非常重要的领域,叫做“变量选择”。(逐步回归法)

使命2:去除了那些同Y不相关的X变量,那么剩下的,就都是重要的、有用的X变量了。接下来回归分析要回答的问题是:这些有用的X变量同的相关关系是正的呢,还是负的?

使命3:在确定了重要的X变量的前提下,我们还想赋予不同X不同的权重也就是不同的回归系数,进而我们可以知道不同变量之间的相对重要性。

这就是回归分析要完成的三个使命:

第一、识别重要变量;

第二、判断相关性的方向;

第三、要估计权重(回归系数)

回归的分类:

数据的分类;

(1)横截面数据:在某一个时点收集到的不同对象的数据

(2)时间序列数据:对同一个对象在不同时间 连续观察所得

(3)面板数据:横截面数据和时间序列数据的综合

数据的收集:

一元线性回归:

这里的线性假定并不要求初始模型都呈上述的严格线性关系自变量与因变量可通过变量变换而转化成线性模型。

下面的四个例子都可以通过变量替换转换为线性模型

1.数据的预处理

可以使用excel/state/spss进行数据的预处理

回归系数的解释:

定量的解释

假设x是某个产品的评分(1-10),y是我们的销量

我们经过计算得出的是y=3.4+2.3x

那么3.4:当评分为0的时候的销量为3.4,(但是没有实际意义)

2.3:每增加一个单位的评分,我们的平均销量增加2.3

假设我们增加了一个自变量,x2产品的价格

我们得出的是y=5.3+0,.19*x1-1.74*x2

5.3:当评分为0,价格为0的时候的销量为5.4,(但是没有实际意义)

0.19:其他变量不变的清空下,每增加一个单位的评分,我们的平均销量增加0.19

-1.74:其他变量不变的清空下,每增加一个单位的价格,我们的平均销量减少1.74

当我们引入一个价格之后,我们的回归系数的变化特别大

这就是遗漏变量的内生性

(

内生性的探究:

假设我们的模型是

u为无法观测或者和y无关的一些变量的集合,且和所有的自变量x不相关的一个扰动项,这个叫做模型的外生性

如果相关,就存在内生性,会导致回归系数不精准,不满足无偏和一致性

加入有两个变量,但是我们忽略了一个,使用一元的线性回归模型,y=kx+b+u

根据蒙特卡罗模拟,发现k越大,内生性越大

无内生性(noendogeneity)要求所有解释变量均与扰动项不相关,这个假定通常太强,因为解释变量一般很多(比如,5-15个解释变量)且需要保证它们全部外生。

是否可能弱化此条件?答案是肯定的,如果你的解释变量可以区分为核心解释变量控制变量两类。

核心解释变量:我们最感兴趣的变量,因此我们特别希望得到对其系数的致估计(当样本容量无限增大时,收敛于待估计参数的真值)

控制变量:我们可能对于这些变量本身并无太大兴趣;而之所以把它们也放入回归方程,主要是为了“控制住"那些对被解释变量有影响的遗漏因素。

在实际应用中,我们只要保证核心解释变量与u不相关即可。

)

所以解释的时候也可以只用去重点去解释核心的解释变量

什么时候取对数对我们的变量进行解释?

目前,对于什么时候取对数还没有固定的规则,但是有一些经验法则:

(1)与市场价值相关的,例如,价格、销售额、工资等都可以取对数,

(2)以年度量的变量,如受教育年限、工作经历等通常不取对数,

(3)比例变量,如失业率、参与率等,两者均可;

(4)变量取值必须是非负数,如果包含0,则可以对y取对数In(1+y);

取对数的好处:(1)减弱数据的异方差性(2)如果变量本身不符合正态分布,取了对数后可能渐近服从正态分布(3)模型形式的需要,让模型具有经济学意义

四种解释:

一元线性回归的解释

双对称模型:

x半对数模型

y半对数模型

定性的解释

虚拟变量:

5,如果有定性的变量,如何处理:

比如研究性别对工资的影响

这里就要引入虚拟变量去讨论男性和女性

计算出来的

多分类的虚拟变量设置

 这里都是ppt的截图

一般虚拟变量个数是定性变量的个数-1(有一个当作对照组)

含有交互项的自变量:

 

实操:

现有某电商平台846条关于婴幼儿奶粉的销售信息,每条信息由11个指标组成。其中,评价量可以从一个侧面反映顾客对产品的关注度。请对所给数据进行以下方面的分析,要求最终的分析将不仅仅有益于商家,更有益于宝妈们为宝贝选择适合自己的奶粉。

1)以评价量为因变量,分析其它变量和评价量之间的关系;

2)以评价量为因变量,研究影响评价量的重要因素

State

定量数据进行描述性统计:

Summarize + 变量1---n

对定性数据进行描述性统计:

Tabulate +变量,gen(A)

返回对应的这个变量的频率分布表,并生成对应的虚拟变量(以A开头)。

对变量进行说明

summarize 团购价元 评价量 商品毛重kg

// 定性变量的频数分布,并得到相应字母开头的虚拟变量

tabulate 配方,gen(A)

tabulate 奶源产地 ,gen(B)

tabulate 国产或进口 ,gen(C)

tabulate 适用年龄岁 ,gen(D)

tabulate 包装单位 ,gen(E)

tabulate 分类 ,gen(F)

tabulate 段位 ,gen(G)

对变量的一些说明

对定量变量进行回归

Regress y x1 x2....

这里的Model==SSR,Residual==SSE,Total==SST

在回归中,我们一般使用调整后的R方

补充:关于拟合优度和调整后的拟合优度:

我们引入的自变量越多,拟合优度会变大。

但我们倾向于使用调整后的拟合优度如果新引入的自变量对SSE的减少程度特别少,那么调整后的拟合优度反而会减小。

F(2,843)是F检验后的量,Prob是p值,这里的原假设是系数全0,这里p=0不接受原假设,所以回归系数不全是0,那么我们可以向下继续回归

原假设是检测βi是否为0

p小于0.05的才是我们关注的,因为这些系数显著的异于0(t检验),

对定性变量进行回归

reg 评价量 G1 G2 G3 G4

这里的G4被被当作了对照组 (多重共线性)

regress 评价量 团购价元 商品毛重kg A1 A2 A3 B1 B2 B3 B4 B5 B6 B7 B8 B9 C1 C2 D1 D2 D3 D4 D5 E1 E2 E3 E4 F1 F2 G1 G2 G3 G4

进行多元线性回归检验

这里的p表示可以接受

这个的解释就可以是coef列的,当其他的变量不变的情况下,xx比xx的平均要xx

eg:F1(分类为牛奶粉的),在其他变量不变的情况下,平均比F2(羊奶粉)高出14894.55的评价量

将表格导出到docx

est store m1

reg2docx m1 using m1.docx, replace

这里的显著性标记

// *** p<0.01  ** p<0.05 * p<0.1

R方低的解决办法

(1)回归分为解释型回归和预测型回归预测型回归一般才会更看重R2解释型回归更多的关注模型整体显著性以及自变量的统计显著性和经济意义显著性即可。

(2)可以对模型进行调整,例如对数据取对数或者平方后再进行回归。

(3)数据中可能有存在异常值或者数据的分布极度不均匀

标准化回归命令(去除量纲)

regress 评价量 团购价元 商品毛重kg, b

regress 评价量 团购价元 商品毛重kg A1 A2 A3 B1 B2 B3 B4 B5 B6 B7 B8 B9 C1 C2 D1

D2 D3 D4 D5 E1 E2 E3 E4 F1 F2 G1 G2 G3 G4,b

这里显著的量只有F1和团购价,比较beta的绝对值,发现团购价才是影响评价量的重要因素

标签:解释,变量,回归,多元,线性,对数,数据,gen
From: https://blog.csdn.net/2401_84910613/article/details/145234916

相关文章

  • 欧拉筛(线性筛)找素数(质数) - Java实现
    欧拉筛(线性筛)找素数(质数)-Java实现importjava.io.BufferedReader;importjava.io.IOException;importjava.io.InputStreamReader;importjava.io.PrintWriter;importjava.util.LinkedList;publicclassMain{staticintn=0;staticboolean[]notP......
  • [数据结构学习笔记16] 线性查找(Linear Search)
    查找算法是指从一个集合里比如数组,列表,树里查找我们想要的值。我们从最简单的线性查找开始。线性查找,就是遍历集合里的元素,查看是否有和我们想要查找的值相同的,有则查找成功,没有则查找失败。比如:5,8,6,9,1,7,3,2,4我们要找3,那从5开始依次往后,到了第7个(下标6),我们找到了3。如果我们要找......
  • 线性dp+背包问题题解
    线性dp理解递推/记忆化搜索,有很多种理解方式递归重叠子问题的记忆化搜索:像这里例如\(f[3]\)可以通过一次计算得到,保存答案,下一次直接调用即可,省去很多复杂度我们从此引出dp第一个性质:最优子结构大问题的最优解包含小问题的最优解,并且小问题的最优解可以推导出大问题的最优......
  • 【深度学习基础】线性神经网络 | softmax回归的从零开始实现
    【作者主页】FrancekChen【专栏介绍】⌈⌈⌈PyTorch深度学习⌋......
  • 【大数据】机器学习-----线性模型
    一、线性模型基本形式线性模型旨在通过线性组合输入特征来预测输出。其一般形式为:其中:x=(x......
  • 高精度3D建模,满足多元应用需求!
    在当今这个数字化快速发展的时代,3D建模技术已经成为推动各行各业转型升级的重要驱动力。作为这一领域的佼佼者,积木易搭凭借强悍的软硬件实力、灵活的模型交付格式、自研的3D交互展示引擎以及领先的多终端适配技术,为客户提供了一站式的3D建模解决方案,助力客户在数字世界中脱颖而......
  • 线性模型统一框架
    t检验的线性数学模型单样本t检验:假设总体均值为\(\mu\),样本容量为\(n\),样本均值为\(\bar{X}\),样本标准差为\(S\)。模型可以表示为\(X_i=\mu+\epsilon_i\),其中\(X_i\)是第\(i\)个观测值,\(\epsilon_i\)是误差项,且\(\epsilon_i\simN(0,\sigma^2)\)。检验统计量\(t=\frac{\bar{......
  • [Machine Learning] 使用经典线性回归模型实现房价预测
    一、内容实现概述本文主要讲述使用Python的Plotly绘图库绘制掷2个6面骰子多次后其结果之和的直方图结果Matplot绘制过程如下:导入random库、plotly库以及绘制直方图的Bar()方法两次同时调用random库的randint()随机方法在1-6的整数中随机取一个值,并记录每两次随机值之和的结......
  • 线性回归超详解
    目录一、回归问题vs分类问题二、线性回归1、一句话理解2、数学推导2.1线性函数表示  2.2损失函数2.3梯度下降2.3.1什么是梯度2.3.2梯度下降目标 2.3.3过程2.3.4迭代公式3、特征预处理3.1为什么要预处理3.2数据归一化方法1)最小-最大归一化2)Z-Scor......
  • 第三节 回归实战
    数据处理超参:人为指定不能改变测试数据只有x没有标签y训练数据拆分,82开,作训练集和验证集(验证模型好坏),模型训练不是一路上升的过程,训练几次验证一次,最好的模型save下来one-hot独热编码猪(100)狗(010)猫(001)defget_feature_importance(feature_data,labe......