首页 > 其他分享 >对数几率回归(逻辑回归)中的sigmoid函数两边取对数转换为对数几率回归模型表达式的过程

对数几率回归(逻辑回归)中的sigmoid函数两边取对数转换为对数几率回归模型表达式的过程

时间:2024-09-15 14:49:04浏览次数:13  
标签:right frac 几率 ln 回归 wTx y1 对数

公式(3-4)是:

y = 1 1 + e − ( w T x + b ) y = \frac{1}{1 + e^{-(w^T x + b)}} y=1+e−(wTx+b)1​

这个公式描述的是逻辑回归中的sigmoid函数

我们想从这个式子推导出 ln ⁡ ( y 1 − y ) \ln\left(\frac{y}{1 - y}\right) ln(1−yy​),即求解 odds 的自然对数。

  1. 由公式(3-4),将两边同时乘以 1 + e − ( w T x + b ) 1 + e^{-(w^T x + b)} 1+e−(wTx+b):
    y ( 1 + e − ( w T x + b ) ) = 1 y(1 + e^{-(w^T x + b)}) = 1 y(1+e−(wTx+b))=1

  2. 接着将 y y y 移到等式右边:
    1 + e − ( w T x + b ) = 1 y 1 + e^{-(w^T x + b)} = \frac{1}{y} 1+e−(wTx+b)=y1​

  3. 然后减去 1:
    e − ( w T x + b ) = 1 y − 1 = 1 − y y e^{-(w^T x + b)} = \frac{1}{y} - 1 = \frac{1 - y}{y} e−(wTx+b)=y1​−1=y1−y​

  4. 取两边的自然对数:
    − ( w T x + b ) = ln ⁡ ( 1 − y y ) -(w^T x + b) = \ln\left(\frac{1 - y}{y}\right) −(wTx+b)=ln(y1−y​)

  5. 最后乘以 -1,得到:
    w T x + b = ln ⁡ ( y 1 − y ) w^T x + b = \ln\left(\frac{y}{1 - y}\right) wTx+b=ln(1−yy​)

对数的性质:对数的负号会使分子和分母交换
这就是推导的过程。

标签:right,frac,几率,ln,回归,wTx,y1,对数
From: https://blog.csdn.net/u013172930/article/details/142282489

相关文章

  • 多元线性回归损失函数求导过程 均方误差推导过程 最小二乘法推导
    1.方程2-8:          2.对方程2-8关于求导:          3.分别求导:   ,因为 与无关。   ,根据矩阵微分公式。   ,根据矩阵微分公式。   ,根据矩阵微分公式,这里是对称矩阵,所以。4.将求导结果代入:         ......
  • 顶刊算法 | 鹈鹕算法POA-Transformer-LSTM多变量回归预测
    顶刊算法|鹈鹕算法POA-Transformer-LSTM多变量回归预测目录顶刊算法|鹈鹕算法POA-Transformer-LSTM多变量回归预测效果一览基本介绍程序设计参考资料效果一览基本介绍1.Matlab实现顶刊算法|鹈鹕算法POA-Transformer-LSTM多变量回归预测(程序可以作为JCR一区级论文代码支撑,目......
  • 小众创新组合!LightGBM+BO-Transformer-LSTM多变量回归交通流量预测(Matlab)
    小众创新组合!LightGBM+BO-Transformer-LSTM多变量回归交通流量预测(Matlab)目录小众创新组合!LightGBM+BO-Transformer-LSTM多变量回归交通流量预测(Matlab)效果一览基本介绍程序设计参考资料效果一览基本介绍1.Matlab实现LightGBM+BO-Transformer-LSTM多变量回归预测,LightGBM+BO-......
  • 从简单分析到智能问数,Smartbi AIChat让数据回归业务
    在某科技公司,资深数据分析师李晨(化名)正忙于分析新产品的市场表现。面对传统自助式BI工具,李晨在功能界面中手动设置各种查询条件,进行了一番复杂的拖拉拽操作,有时甚至还需要编写SQL语句。即便是像他这样经验丰富的分析师,也不得不耗费大量时间进行数据准备和手动分析。其实,李晨遇到的......
  • *Python*机器学习算法——线性回归(Linear Regression)
    目录⭐️引言⭐️理论1、 简单线性回归2、 多元线性回归3、最佳拟合⭐️结语⭐️引言        线性回归(LinearRegression)是一种基本的预测分析方法,它通过拟合数据点来建立因变量(目标变量)与一个或多个自变量之间的关系模型。线性回归假设这种关系是线性的,并试图找到......
  • 二、神经网络基础(逻辑回归和向量化)
    1、二分类  logistic回归是一个用于二分类(BinaryClassification)的算法。二分类就是输出结果y只有0和1两个标签(也有-1和1的情况)。以一个图像识别为例,例如识别猫,1代表猫,0代表不是猫。用y表示输出的结果标签。  在二分类问题中,目标是训练一个分类器,它以图片的特征向量x为输入,......
  • 小众创新组合!LightGBM+BO-Transformer-LSTM多变量回归交通流量预测(Matlab)
    小众创新组合!LightGBM+BO-Transformer-LSTM多变量回归交通流量预测(Matlab)目录小众创新组合!LightGBM+BO-Transformer-LSTM多变量回归交通流量预测(Matlab)效果一览基本介绍程序设计参考资料效果一览基本介绍1.Matlab实现LightGBM+BO-Transformer-LSTM......
  • 【私有云场景案例分享③】批量回归测试自动化流程
    此文章来源于项目官方公众号:“AirtestProject”版权声明:允许转载,但转载必须保留原链接;请勿用作商业或者非法用途一、前言在软件开发生命周期中,回归测试是必不可少的环节。它确保新功能的引入不会破坏现有功能。然而,手动进行这些测试不仅效率低,且容易疏漏测试点。如果通过Devi......
  • [全网独家原创]基于(BO)Bayes-Transformer-LSTM多输出回归预测(多输入多输出)Matlab代码
    [全网独家原创]基于(BO)Bayes-Transformer-LSTM多输出回归预测(多输入多输出)Matlab代码你先用你就是创新!!!每个输出都有以下线性拟合图等四张图!!!具体看图,独家图像!!!程序已经调试好,替换数据集根据输出个数修改outdim值即可运行!!!数据格式为excel!(如下)需要其他算法的都可以定制!贝叶......
  • 【机器学习(三)】分类和回归任务-随机森林-Sentosa_DSML社区版
    文章目录一、算法概念二、算法原理(一)定义(二)袋外数据三、随机森林的优缺点(一)优点(二)缺点四、随机森林分类任务实现对比(一)数据加载1、Python代码2、Sentosa_DSML社区版(二)样本分区1、Python代码2、Sentosa_DSML社区版(三)模型训练1、Python代码2、Sentosa_DSML社区版(四)模......