首页 > 其他分享 >广义线性模型(GLM)及其应用

广义线性模型(GLM)及其应用

时间:2022-08-20 10:36:32浏览次数:73  
标签:GLM 模型 广义 线性 正态分布 变量 函数

广义线性模型[generalize linear model(GLM)]是线性模型的扩展,通过联系函数建立响应变量的数学期望值与线性组合的预测变量之间的关系。它的特点是不强行改变数据的自然度量,数据可以具有非线性和非恒定方差结构。是线性模型在研究响应值的非正态分布以及非线性模型简洁直接的线性转化时的一种发展

 

在广义线性模型的理论框架中,则假设目标变量Y则是服从指数分布族,正态分布和伯努利分布都属于指数分布族,因此线性回归和逻辑回归可以看作是广义线性模型的特例。

这是概率分布及其正则联系函数(Canonical Link function)的列表。

  • 正态分布:恒等函数
  • 泊松分布:对数函数
  • 二项分布:分对数函数

除此以外我们还可以自定义联系函数,如果不喜欢自己编写可以使用在 statsmodels 中实现了的各种联系函数,Stan、PyMC3 和 TensorFlow Probability 等概率编程框架也给我们提供了这些函数。

link function也被翻译为连接函数,这里觉得联系函数更为贴切所以还是翻译为联系函数

线性回归

线性回归用于通过解释变量 X 的线性组合来预测连续变量 y 的值。

在单变量情况下,线性回归可以表示如下

模型假定噪声项的正态分布。该模型说明如下

完整文章:

https://avoid.overfit.cn/post/eb42f5cb4a534dfa9844600acb1fc546

标签:GLM,模型,广义,线性,正态分布,变量,函数
From: https://www.cnblogs.com/deephub/p/16607248.html

相关文章

  • 吴恩达机器学习笔记|(2)线性回归(Linear-Regression)
    一、模型描述建立y关于x的线性函数HypothesisFunction:\(H_\theta(x)=\theta_0+\theta_1x\)用\(H_\theta(x)\)来拟合y与x的关系Parameters:\(\theta_0,\thet......
  • 【深度学习】| 线性回归的简单实现
    1概述本文的主要目的是通过实现最简单的线性回归模型,理解pytorch在数据导入、模型定义、、损失计算、优化迭代、自动求导和批次训练等方面的特点。2数据导入首先,生成......
  • 数模(1)—— 多重共线性的验证
    模型的解释变量之间存在线性关系若中心化之后自变量的相关系数矩阵R=X'X接近于退化就存在多重共线性R有多少个特征根接近于零,设计矩阵X就有多少个多重共线性关系......
  • 【数据结构与算法】线性表——顺序表的实现
    顺序表的实现C++代码使用了模板。使用的时候直接导入头文件即可。代码实现相关细节、解释都在注释里了。那么就直接上代码了。//MySeqList.h文件#ifndef__MYSEQLIS......
  • 一文看懂线性回归和非线性回归
    一文看懂线性回归和非线性回归           1.非线性回归           2.线性回归           3.总结1.非线性回归我们首先来看维基百......
  • 线性基
    writtenon2022-08-14学高斯消元的时候顺便学到了线性基,线性基通常在异或运算中出现。这里先贴一下别人的博客,个人认为这篇博客总结的还是蛮好的,可以特别关注一下里面......
  • 【MIT18.06·线性代数02】
    线性方程组的矩阵形式可以将线性方程组写成\(Ax=b\)的矩阵相乘形式:比如线性方程组\(\left\{\begin{matrix}\begin{aligned}2x-y&=0\\-x+2y&=3\end{aligned}\end......
  • 【MIT18.06·线性代数01】过去对线性方程组的理解
    如何理解一个线性方程组?考虑这样一个方程组:\(\left\{\begin{matrix}\begin{aligned}2x-y&=0\\-x+2y&=3\end{aligned}\end{matrix}\right.\)在之前的理解方式中,求......