全文下载链接:http://tecdat.cn/?p=2857
最近我们被客户要求撰写关于贝叶斯的研究报告,包括一些图形和统计输出。
本文是通过对area,perimeter,campactness几个变量的贝叶斯建模,来查看他们对groovelength这个变量的影响,并且对比rjags R2jags和内置贝叶斯预测函数的结果
读取数据
seed=read.csv("seeds_dataset.csv")
seed=seed[,1:7]
查看数据的结构
str(seed)
'data.frame': 209 obs. of 7 variables:
$ area : num 14.9 14.3 13.8 16.1 14.4 ...
$ perimeter : num 14.6 14.1 13.9 15 14.2 ...
$ campactness : num 0.881 0.905 0.895 0.903 0.895 ...
$ length : num 5.55 5.29 5.32 5.66 5.39 ...
$ width : num 3.33 3.34 3.38 3.56 3.31 ...
$ asymmetry : num 1.02 2.7 2.26 1.35 2.46 ...
$ groovelength: num 4.96 4.83 4.8 5.17 4.96 ...
建立回归模型
Residuals:
Min 1Q Median 3Q Max
-0.66375 -0.10094 0.00175 0.11081 0.45132
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 19.46173 2.45031 7.943 1.29e-13 ***
area 0.49724 0.08721 5.701 4.10e-08 ***
perimeter -0.63162 0.18179 -3.474 0.000624 ***
campactness -14.05218 1.34325 -10.461 < 2e-16 ***
---
Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
Residual standard error: 0.1608 on 205 degrees of freedom
Multiple R-squared: 0.895, Adjusted R-squared: 0.8934
F-statistic: 582.4 on 3 and 205 DF, p-value: < 2.2e-16
从回归模型的结果来看,三个自变量对因变量都有显著的意义。其中,area有正向的影响。而其他两个变量是负向的影响。从r方的结果来看,达到了0.895,模型具有较好的解释度。
建立贝叶斯回归模型
Bayesian analysis
With bayesglm
Deviance Residuals:
Min 1Q Median 3Q Max
-0.66331 -0.09974 -0.00002 0.11110 0.44841
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 18.90538 2.41549 7.827 2.63e-13 ***
area 0.47826 0.08604 5.559 8.40e-08 ***
perimeter -0.59252 0.17937 -3.303 0.00113 **
campactness -13.74353 1.32463 -10.375 < 2e-16 ***
---
Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
(Dispersion parameter for gaussian family taken to be 0.02584982)
Null deviance: 50.4491 on 208 degrees of freedom
Residual deviance: 5.2992 on 205 degrees of freedom
AIC: -164.91
Number of Fisher Scoring iterations: 6
从内置贝叶斯模型的结果来看,3个变量同样是非常显著,因此模型的结果和回归模型类似。然后我们使用BUGS/JAGS软件包来建立贝叶斯模型
使用 BUGS/JAGS软件包来建立贝叶斯模型
建立贝叶斯模型
jags(model.file='bayes.bug',
parameters=c("area","perimeter","campactness","int"),
data = list('a' = seed$area, 'b' = seed$perimete
n.cha
查看模型结果:
module glm loaded
Compiling model graph
Resolving undeclared variables
Allocating nodes
Graph information:
Observed stochastic nodes: 209
Unobserved stochastic nodes: 5
Total graph size: 1608
Initializing model
bb <- jags1$BUGSoutput 提取“ BUGS输出”
mm <- as.mcmc.bugs(bb) 将其转换为coda可以处理的“ mcmc”对象
plot(jags1) 绘制图像
从上面的图中,我们可以看到自变量的中位数和置信区间。从置信区间来看,各个变量的取值和贝叶斯模型的结果类似。贝叶斯结果的值全部落入在了置信区间内。
然后绘制每次迭代中各个变量参数的轨迹图
trace + density #轨迹图
可以看到每个变量的参数都在一定区间内波动。同时可以看到误差在一定的迭代次数之后趋于收敛。
点击标题查阅往期内容
R语言和STAN,JAGS:用RSTAN,RJAG建立贝叶斯多元线性回归预测选举数据
左右滑动查看更多
01
02
03
04
然后绘制每个变量参数的密度图 prettier density plot
可以看到每个变量的参数的密度分布近似于正态分布。同时我们可以看到分布的均值和贝叶斯模型,得到的结果类似。
然后绘制每个变量参数的置信区间 estimate + credible interval plot
从结果来看,可以看到各个变量参数的置信区间,campatness和int的置信区间较大,而其他两个变量的置信区间较小。
从上面的实验结果对比,我们可以看到,三个自变量对因变量均有重要的影响。area,perimeter,campactness几个变量他们对groovelength这个变量均有重要的影响。同时我们可以认为回归模型的结果和贝叶斯模型的结果相似。然后我们使用rjags&R2jags软件包来对数据进行贝叶斯型的建立,从结果来看,同样和之前得到的模型结果相差不大。并且我们通过模型的迭代,可以得到每个参数的置信区间。
点击文末 “阅读原文”
获取全文完整资料。
本文选自《r语言使用rjags R2jags建立贝叶斯模型》。
点击标题查阅往期内容
使用贝叶斯层次模型进行空间数据分析
R语言逻辑回归、Naive Bayes贝叶斯、决策树、随机森林算法预测心脏病PYTHON银行机器学习:回归、随机森林、KNN近邻、决策树、高斯朴素贝叶斯、支持向量机SVM分析营销活动数据|数据分享
PYTHON用户流失数据挖掘:建立逻辑回归、XGBOOST、随机森林、决策树、支持向量机、朴素贝叶斯和KMEANS聚类用户画像
MATLAB随机森林优化贝叶斯预测分析汽车燃油经济性
R语言中贝叶斯网络(BN)、动态贝叶斯网络、线性模型分析错颌畸形数据
使用贝叶斯层次模型进行空间数据分析MCMC的rstan贝叶斯回归模型和标准线性回归模型比较
python贝叶斯随机过程:马尔可夫链Markov-Chain,MC和Metropolis-Hastings,MH采样算法可视化
Python贝叶斯推断Metropolis-Hastings(M-H)MCMC采样算法的实现
matlab贝叶斯隐马尔可夫hmm模型实现
贝叶斯线性回归和多元线性回归构建工资预测模型
Metropolis Hastings采样和贝叶斯泊松回归Poisson模型
贝叶斯分位数回归、lasso和自适应lasso贝叶斯分位数回归分析免疫球蛋白、前列腺癌数据
R语言RSTAN MCMC:NUTS采样算法用LASSO 构建贝叶斯线性回归模型分析职业声望数据
R语言STAN贝叶斯线性回归模型分析气候变化影响北半球海冰范围和可视化检查模型收敛性
PYTHON用户流失数据挖掘:建立逻辑回归、XGBOOST、随机森林、决策树、支持向量机、朴素贝叶斯和KMEANS聚类用户画像
贝叶斯分位数回归、lasso和自适应lasso贝叶斯分位数回归分析免疫球蛋白、前列腺癌数据R语言JAGS贝叶斯回归模型分析博士生延期毕业完成论文时间
R语言Metropolis Hastings采样和贝叶斯泊松回归Poisson模型
Python决策树、随机森林、朴素贝叶斯、KNN(K-最近邻居)分类分析银行拉新活动挖掘潜在贷款客户
R语言贝叶斯MCMC:用rstan建立线性回归模型分析汽车数据和可视化诊断
R语言贝叶斯MCMC:GLM逻辑回归、Rstan线性回归、Metropolis Hastings与Gibbs采样算法实例
R语言贝叶斯Poisson泊松-正态分布模型分析职业足球比赛进球数
随机森林优化贝叶斯预测分析汽车燃油经济性
R语言逻辑回归、Naive Bayes贝叶斯、决策树、随机森林算法预测心脏病
R语言用Rcpp加速Metropolis-Hastings抽样估计贝叶斯逻辑回归模型的参数
R语言中的block Gibbs吉布斯采样贝叶斯多元线性回归
Python贝叶斯回归分析住房负担能力数据集
R语言实现贝叶斯分位数回归、lasso和自适应lasso贝叶斯分位数回归分析
Python用PyMC3实现贝叶斯线性回归模型
R语言用WinBUGS 软件对学术能力测验建立层次(分层)贝叶斯模型
R语言Gibbs抽样的贝叶斯简单线性回归仿真分析
R语言和STAN,JAGS:用RSTAN,RJAG建立贝叶斯多元线性回归预测选举数据
R语言基于copula的贝叶斯分层混合模型的诊断准确性研究
R语言贝叶斯线性回归和多元线性回归构建工资预测模型
R语言贝叶斯推断与MCMC:实现Metropolis-Hastings 采样算法示例
R语言stan进行基于贝叶斯推断的回归模型
R语言中RStan贝叶斯层次模型分析示例
R语言使用Metropolis-Hastings采样算法自适应贝叶斯估计与可视化
R语言随机搜索变量选择SSVS估计贝叶斯向量自回归(BVAR)模型
WinBUGS对多元随机波动率模型:贝叶斯估计与模型比较
R语言实现MCMC中的Metropolis–Hastings算法与吉布斯采样
R语言贝叶斯推断与MCMC:实现Metropolis-Hastings 采样算法示例
R语言使用Metropolis-Hastings采样算法自适应贝叶斯估计与可视化
视频:R语言中的Stan概率编程MCMC采样的贝叶斯模型
R语言MCMC:Metropolis-Hastings采样用于回归的贝叶斯估计