首页 > 其他分享 >贝叶斯分位数回归、lasso和自适应lasso贝叶斯分位数回归分析免疫球蛋白、前列腺癌数据|附代码数据

贝叶斯分位数回归、lasso和自适应lasso贝叶斯分位数回归分析免疫球蛋白、前列腺癌数据|附代码数据

时间：2024-04-22 23:47:59浏览次数：22  
标签：语言 回归 贝叶斯 位数 lasso RQ

原文链接：http://tecdat.cn/?p=22702

最近我们被客户要求撰写关于贝叶斯分位数回归的研究报告，包括一些图形和统计输出。

贝叶斯回归分位数在最近的文献中受到广泛关注，本文实现了贝叶斯系数估计和回归分位数（RQ）中的变量选择，带有lasso和自适应lasso惩罚的贝叶斯

摘要

还包括总结结果、绘制路径图、后验直方图、自相关图和绘制分位数图的进一步建模功能。

简介

回归分位数（RQ）由（Koenker和Gilbert，1978）提出，将感兴趣的结果的条件分位数作为预测因子的函数来建模。自引入以来，分位数回归一直是理论界非常关注的话题，也在许多研究领域得到了大量的应用，如计量经济学、市场营销、医学、生态学和生存分析（Neelon等，2015；Davino等，2013；Hao和Naiman，2007）。假设我们有一个观察样本{(xi , yi);i = 1, 2, - -, n}，其中yi表示因变量，xi表示协变量的k维矢量。

贝叶斯_分位数_回归

Tobit RQ为描述非负因变量和协变量向量之间的关系提供了一种方法，可以被表述为因变量的数据未被完全观察到的分位数回归模型。关于Tobit 分位数回归模型有相当多的文献，我们可以参考Powell（1986）、Portnoy（2003）、Portnoy和Lin（2010）以及Kozumi和Kobayashi（2011）来了解概况。考虑一下这个模型。

图片

其中，yi是观察到的因变量，y∗i是相应的潜在的未观察到的因变量，y 0是一个已知的点。可以证明，RQ系数向量β可以通过以下最小化问题的解来持续估计
图片

Yu和Stander（2007）提出了一种Tobit RQ的贝叶斯方法，使用ALD计算误差，并使用Metropolis-Hastings（MH）方法从其后验分布中抽取β。

真实数据实例

我们考虑用真实的数据例子。

免疫球蛋白G数据

这个数据集包括298名6个月到6岁儿童的免疫球蛋白G的血清浓度（克/升），Isaacs等人（1983）对其进行了详细讨论，Yu等人（2003）也使用了该数据集。为了说明问题，该数据集的贝叶斯分位数回归模型（可以拟合如下）。

    
rq(血清浓度~年龄, tau=0.5)

摘要函数提供估计值和95%的置信区间

图片

绘制数据，然后将五条拟合的RQ线叠加在散点图上。

    
R> for (i in 1:5) {
+ taus=c(0.05, 0.25, 0.5, 0.75, 0.95)
+ rq(tau=taus[i])
+ abline(fit, col=i)
+ }
R> 
R> for (i in 1:5) {
+ fit = rq(年龄+I(年龄^2),tau=taus[i])
+ curve(,add=TRUE)
+ }

图片

图2：免疫球蛋白G数据的散点图和RQ拟合。

点击标题查阅往期内容

图片

matlab使用分位数随机森林（QRF）回归树检测异常值

图片

左右滑动查看更多

图片

01

图片

02

图片

03

图片

04

图片

该图显示了298名6个月至6岁儿童的免疫球蛋白G的散点图。叠加在该图上的是{.05, .25, .50, .75, .95}的RQ线（左图）和 RQ线（左图）和RQ曲线（右图）。

图可以用来评估吉布斯采样向平稳分布的收敛情况。我们在图1中只报告了τ=0.50时每个参数的路径图和后验直方图。我们使用以下代码

    
plot(fit,"tracehist",D=c(1,2))

可以通过生成路径图、后验直方图、自相关图来对Gibbs采样的绘制结果进行图形总结。路径和直方图，路径和自相关，直方图和自相关，以及路径、直方图和自相关。这个函数还有一个选项。在图3中，免疫球蛋白G数据系数的路径图表明，采样从后验空间的一个偏远区域跳到另一个区域的步骤相对较少。此外，直方图显示边际密度实际上是所期望的平稳的单变量常态。

图片

图3：当τ=0.50时，免疫球蛋白G数据集的系数的路径和密度图。

前列腺癌数据

在本小节中，我们说明贝叶斯分位数回归在前列腺癌数据集（Stamey等人，1989）上的表现。该数据集调查了等待根治性前列腺切除术的病人的前列腺特异性抗原（lpsa）水平和八个协变量之间的关系。

这些协变量是：癌症对数体积（lcavol）、前列腺的对数重量（lweight）、年龄（age）、良性前列腺的对数体积（lbph）、精囊侵犯（svi）、胶囊穿透的对数（lcp）、格里森评分（gleason）以及格里森评分4或5的百分比（pgg45）。

在本小节中，我们假设因变量（lpsa）均值为零，而预测因子已被标准化，均值为零。为了说明问题，我们考虑当τ=0.50时，贝叶斯lasso套索RQ（方法="BLqr"）。在这种情况下，我们使用以下代码

    
R> x=as.matrix(x)
R> rq(y~x,tau = 0.5, method="BLqr")

图片

模型法可用于确定回归中的活跃变量。 

图片

相应的吉布斯采样的收敛性是通过生成样本的路径图和边际后验直方图评估的。因此，图可以用来提供一个关于吉布斯采样器收敛的图形检查，通过使用以下代码检查路径图和边际后验直方图。

    
plot(fit, type="trace")

上述代码的结果分别显示在图4和图5中。图4中的路径图显示，生成的样本迅速穿越了后验空间，图5中的边际后验直方图显示，条件后验分布实际上是所需的平稳单变量常态。 

图片

图片

小麦数据

我们考虑一个小麦数据集。这个数据集来自于国家小麦种植发展计划（2017）。这个小麦数据由11个变量的584个观测值组成。因变量是每2500平方米小麦产量增加的百分比。协变量是化肥尿素（U）、小麦种子播种日期（Ds）、小麦种子播种量（Qs）、激光平田技术（LT）、复合肥施肥（NPK）、播种机技术（SMT）、绿豆作物种植（SC）、作物除草剂（H）、作物高钾肥（K）、微量元素肥料（ME）。

下面的命令给出了τ=0.50时Tobit RQ的后验分布。

    
rq(y~x,tau=0.5, methods="Btqr")

图片

还可以拟合贝叶斯lassoTobit 分位数回归和贝叶斯自适应lassoTobit 分位数回归。当τ=0.50时，函数可以用来获得Tobit 分位数回归的后验平均值和95%的置信区间。 

图片

结论

在本文中，我们已经说明了在分位数回归（RQ）中进行贝叶斯系数估计和变量选择。此外，本文还实现了带有lasso和自适应lasso惩罚的贝叶斯Tobit 分位数回归。还包括总结结果、绘制路径图、后验直方图、自相关图和绘制定量图的进一步建模。

参考文献

Alhamzawi, R., K. Yu, and D. F. Benoit (2012). Bayesian adaptive lasso quantile regression. Statistical Modelling 12 (3), 279–297.

Brownlee, K. A. (1965). Statistical theory and methodology in science and engineering, Volume 150. Wiley New York.

Davino, C., M. Furno, and D. Vistocco (2013). Quantile regression: theory and applications. John Wiley & Sons.

图片

本文摘选 《 R语言实现贝叶斯分位数回归、lasso和自适应lasso贝叶斯分位数回归分析 》 ，点击“阅读原文”获取全文完整资料。

点击标题查阅往期内容

R语言RSTAN MCMC：NUTS采样算法用LASSO 构建贝叶斯线性回归模型分析职业声望数据
R语言STAN贝叶斯线性回归模型分析气候变化影响北半球海冰范围和可视化检查模型收敛性
R语言贝叶斯MCMC：用rstan建立线性回归模型分析汽车数据和可视化诊断
R语言贝叶斯MCMC：GLM逻辑回归、Rstan线性回归、Metropolis Hastings与Gibbs采样算法实例
R语言贝叶斯Poisson泊松-正态分布模型分析职业足球比赛进球数
R语言用Rcpp加速Metropolis-Hastings抽样估计贝叶斯逻辑回归模型的参数
R语言逻辑回归、Naive Bayes贝叶斯、决策树、随机森林算法预测心脏病
R语言中贝叶斯网络（BN）、动态贝叶斯网络、线性模型分析错颌畸形数据
R语言中的block Gibbs吉布斯采样贝叶斯多元线性回归
Python贝叶斯回归分析住房负担能力数据集
R语言实现贝叶斯分位数回归、lasso和自适应lasso贝叶斯分位数回归分析
Python用PyMC3实现贝叶斯线性回归模型
R语言用WinBUGS 软件对学术能力测验建立层次（分层）贝叶斯模型
R语言Gibbs抽样的贝叶斯简单线性回归仿真分析
R语言和STAN,JAGS：用RSTAN,RJAG建立贝叶斯多元线性回归预测选举数据
R语言基于copula的贝叶斯分层混合模型的诊断准确性研究
R语言贝叶斯线性回归和多元线性回归构建工资预测模型
R语言贝叶斯推断与MCMC：实现Metropolis-Hastings 采样算法示例
R语言stan进行基于贝叶斯推断的回归模型
R语言中RStan贝叶斯层次模型分析示例
R语言使用Metropolis-Hastings采样算法自适应贝叶斯估计与可视化
R语言随机搜索变量选择SSVS估计贝叶斯向量自回归（BVAR）模型
WinBUGS对多元随机波动率模型：贝叶斯估计与模型比较
R语言实现MCMC中的Metropolis–Hastings算法与吉布斯采样
R语言贝叶斯推断与MCMC：实现Metropolis-Hastings 采样算法示例
R语言使用Metropolis-Hastings采样算法自适应贝叶斯估计与可视化
视频：R语言中的Stan概率编程MCMC采样的贝叶斯模型
R语言MCMC:Metropolis-Hastings采样用于回归的贝叶斯估计

标签：语言,回归,贝叶斯,位数,lasso,RQ
From： https://www.cnblogs.com/tecdat/p/18151840

相关文章

  • R语言Stan贝叶斯回归置信区间后验分布可视化模型检验|附数据代码
    全文链接：https://tecdat.cn/?p=35899原文出处：拓端数据部落公众号贝叶斯回归是一种统计方法，它使用贝叶斯定理来估计回归模型的参数。与传统的频率派回归方法不同，贝叶斯回归提供了参数的后验分布，而不仅仅是点估计。这意味着我们可以得到参数的不确定性度量，而不仅仅是单一的估计值......
  • 数据分享|R语言逻辑回归、Naive Bayes贝叶斯、决策树、随机森林算法预测心脏病|附代码
    全文链接：http://tecdat.cn/?p=23061最近我们被客户要求撰写关于预测心脏病的研究报告，包括一些图形和统计输出。这个数据集可以追溯到1988年，由四个数据库组成。克利夫兰、匈牙利、瑞士和长滩。"目标"字段是指病人是否有心脏病。它的数值为整数，0=无病，1=有病数据集信息：目标:主......
  • 李彦宏：闭源才有真正商业模式才能聚集算力和人才；史上首位数学和计算机最高奖双得主丨RT
       开发者朋友们大家好： 这里是「RTE开发者日报」，每天和大家一起看新闻、聊八卦。我们的社区编辑团队会整理分享RTE（RealTimeEngagement）领域内「有话题的新闻」、「有态度的观点」、「有意思的数据」、「有思考的文章」、「有看点的会议」，但内容仅代表编......
  • 位数问题-dp
    #include<bits/stdc++.h>#defineintlonglong#defineendl'\n'usingnamespacestd;constintmod=12345;//dp[i][0]是前i位有偶数个3的个数//dp[i][1]是前i位有奇数个3的个数intdp[10005][2];voidsolve(){ intn; cin>>n; dp[0][0]=1; dp[0][1]=0; for......
  • 操作系统综合题之“采用二级页表的分页存储管理方式，计算页目录号的位数 和 页大小，给定
    一、问题：某计算机系统的主存按字节编址，逻辑地址和物理地址都是32位，其内存管理采用两级页表的分页存储管理方式。逻辑地址中页号位10位，页内偏移地址为10位。该计算机系统的两级页表结构如下图所示，图中数值均为十进制数1.页目录号的位数为多少？页的大小为多少KB？2.如果页目录项大小......
  • 操作系统综合题之“采用二级页表的分页存储管理方式，计算页目录号的位数 和 页的大小，给
    一、问题：某计算机系统的主存按字节编址，逻辑地址和物理地址都是32位，其内存管理采用练级页表的分页存储管理方式。逻辑地址中页号为10位，页内偏移地址为12位。该计算机系统的两级页表结构如下图所示，图中数值均为十进制数1.页目录号的位数为多少？页的大小为多少KB？2.如果页目录项大小......
  • 贝叶斯定理推导（Bayes's Theorem）
    这里用文氏图（Venn diagram）来推导一下贝叶斯定理。 假设A和B为两个不相互独立的事件。 交集（intersection）： 上图红色部分即为事件A和事件B的交集。 并集（union）：  由Venndiagram可以看出，在事件B已经发生的情况下，事件A发生的概率为事件A和事件B的交集除以事件B： ......
  • [数论] 判断一个多位数是不是x的倍数
    (n最多10000位)3<=x<=9;判断3：判断一个数是否是3的倍数，原理是将这个数的各个位上的数加起来，其和是3的倍数的话，那这个数便是3的倍数。判断4：判断一个数是否是4的倍数的方法:看这个数的末两位上的数是否是4的倍数。因为满百位的肯定是4的整数倍，100可以整除4判断5：判断一个......
  • 贝叶斯线性回归和多元线性回归构建工资预测模型|附代码数据
    原文链接：http://tecdat.cn/?p=21641最近我们被客户要求撰写关于贝叶斯线性回归的研究报告，包括一些图形和统计输出。在劳动经济学领域，收入和工资的研究为从性别歧视到高等教育等问题提供了见解工资模型在本文中，我们将分析横断面工资数据，以期在实践中使用贝叶斯方法，如BIC和贝叶......
  • 贝叶斯分位数回归、lasso和自适应lasso贝叶斯分位数回归分析免疫球蛋白、前列腺癌数据
    原文链接：http://tecdat.cn/?p=22702最近我们被客户要求撰写关于贝叶斯分位数回归的研究报告，包括一些图形和统计输出。贝叶斯回归分位数在最近的文献中受到广泛关注，本文实现了贝叶斯系数估计和回归分位数（RQ）中的变量选择，带有lasso和自适应lasso惩罚的贝叶斯摘要还包括总结结果、......

赞助商

阅读排行

网站主页关于我们联系我们网站地图

本网站内容转载自其他媒体，侵权联系[admin##ips99.com]。

Copyright © 2020-2023 IPS99 版权所有 IPS99