• 2024-06-23应用数学与机器学习基础 - 最大似然估计篇
    序言最大拟然估计(MaximumLikelihoodEstimation,MLE)是统计学和机器学习领域中的一种重要参数估计方法。MLE的核心思想是基于给定的数据,找到一组参数值,使得这组参数生成观测数据的概率(即似然函数)达到最大。这样做的原因在于,如果某组参数能够使得观测数据出现的概率最大,那
  • 2024-06-05最大似然估计的求解步骤(详细解释,通俗易懂)
          关于最大似然估计的定义我已经分享过啦,小伙伴们可以通过下面的链接看看 什么是最大似然估计?1.求解步骤        今天我们来说一下它的求解步骤(这里的求解过程是以离散型随机变量为例,连续型随机变量同理)。在上文中我们知道,离散型随机变量的似然函数为
  • 2024-06-04什么是最大似然法(估计)?(大白话解释定义,三分钟学会)
    最大似然法是干嘛的?        假如我现在有一组数据,我知道它们是符合某个概率分布的,但是里面的参数我不知道,那我肯定得想个办法把里面的参数给弄出来,这样才能用这个分布去做一些事情,但是具体怎么去弄出来呢,哎,最大似然函数就是搞这个的,简单一句话,最大似然函数就是利用现
  • 2024-06-03揭秘《庆余年算法番外篇》续集:范闲通过最大似然法推理找到火烧史家镇的凶手
    揭秘《庆余年算法番外篇》:范闲通过贝叶斯推理找到太子火烧使家镇的证据上次写了这篇文章之后,很多留言说开了上帝视角,先假设了二皇子和太子有罪,这次通过最大似然法进行推导。方法介绍:最大似然法是一种在概率统计中广泛使用的参数估计方法。该方法基于一组已知的样本数据,旨
  • 2024-05-05最大似然估计
    什么是最大似然估计?先定义几个常用的术语。1.什么是参数?在统计学中,参数是指用来描述一个统计模型的未知特征或属性。这些特征可以是概率分布的位置、形状、尺度等方面的性质,也可以是用于描述数据生成过程中的固定参数。参数通常是我们感兴趣的、要从数据中推断或估计的量。举
  • 2024-04-04【信号处理】基于期望最大化算法EM的最大似然递归状态估计附matlab代码
     ✅作者简介:热爱科研的Matlab仿真开发者,修心和技术同步精进,代码获取、论文复现及科研仿真合作可私信。
  • 2024-04-02【机器学习300问】61、逻辑回归与线性回归的异同?
        本文讲述两个经典机器学习逻辑回归(LogisticRegression)和线性回归(LinearRegression)算法的异同,有助于我们在面对实际问题时更好的进行模型选择。也能帮助我们加深对两者的理解,掌握这两类基础模型有助于进一步理解更复杂的模型结构,例如逻辑回归是许多复杂分类算法的
  • 2024-04-01R语言使用Rasch模型分析学生答题能力|附代码数据
    全文链接:http://tecdat.cn/?p=10175最近我们被客户要求撰写关于Rasch的研究报告,包括一些图形和统计输出。几个月以来,我一直对序数回归与项目响应理论(IRT)之间的关系感兴趣在这篇文章中,我重点介绍Rasch分析。最近,我花了点时间尝试理解不同的估算方法。三种最常见的估算方法是:
  • 2024-03-20R语言随机波动模型SV:马尔可夫蒙特卡罗法MCMC、正则化广义矩估计和准最大似然估计上证指数收益时间序列|附代码数据
    全文链接:http://tecdat.cn/?p=31162最近我们被客户要求撰写关于SV模型的研究报告,包括一些图形和统计输出。本文做SV模型,选取马尔可夫蒙特卡罗法(MCMC)、正则化广义矩估计法和准最大似然估计法估计。模拟SV模型的估计方法:  sim<-svsim(1000,mu=-9,phi=0.97,sigma
  • 2024-03-12【机器学习】贝叶斯分类器 | 分类器基本原理,朴素贝叶斯,半朴素贝叶斯,贝叶斯网
    在学习贝叶斯分类器的过程中我逐渐理解了不同视角下的机器学习过程​我们的学习本质上是对于众多的属性,x1,x2,x3到一个结果分类y,线性分类器什么的是训练集拟合一个函数从众多属性x到y,SVM是学习一个分界线划分不同的y对应的x,而贝叶斯分类器本质上是对数据集观测做统计结
  • 2024-03-06R语言有状态依赖强度的非线性、多变量跳跃扩散过程模型似然推断分析股票价格波动
    原文链接:http://tecdat.cn/?p=23010 原文出处:拓端数据部落公众号跳跃扩散过程为连续演化过程中的偏差提供了一种建模手段。但是,跳跃扩散过程的微积分使其难以分析非线性模型。本文开发了一种方法,用于逼近具有依赖性或随机强度的多变量跳跃扩散的转移密度。通过推导支配过程时变
  • 2024-01-27为什么使用交叉熵作为逻辑回归的损失函数?
    整理以前学习过程中的疑问。为什么使用交叉熵作为逻辑回归的损失函数?频率学派的一种估计参数的方法,这种方法适合分类回归任务。必须要提一下的是,频率学派将参数\(\theta\)​看作一个未知待估计的常数,其目标是使用带一定性质的估计方法求出。似然函数就是其中的一种方法。A
  • 2024-01-203.2 最大似然估计
    一种给定观测数据来评估模型参数的方法,即模型和数据已知参数未定。似然性:在观测结果已知的情况下,对参数进行估值和猜测,即代表某个参数为特定值的可能性。似然性=L(参数|数据)=L(θ|x)参数θ数据x步骤:1、确定分布类型2、尝试不同的参数值,找到似然性最大的。
  • 2024-01-04常见推断方法一览:极大似然估计、最大后验估计、期望最大化、贝叶斯推断、马尔科夫链蒙特卡洛方法、变分推断
    常见推断方法一览推断方法区别频率派极大似然估计MLE最大后验估计MAP期望最大化EM贝叶斯推断Bayesian马尔科夫链蒙特卡洛方法MCMC变分推断VI 推断方法区别极大似然估计(MaximumLikelihoodEstimation,MLE):解释:假设你有一堆骰子,你投掷它们很多次,然后记录下每次的结果
  • 2023-12-25EM(Expectation-Maximum)算法
    EM算法简介EM算法的核心分为两步E步(Expection-Step)M步(Maximization-Step)因为在最大化过程中存在两个参量,其中若知道,则知道;若知道,则知道。且两个量未存在明显的关系,但又互相依存可以采用EM算法其中主要思想为:首先随机初始化参数然后求的在参数下按照极大似然估计求得参数然后根据参
  • 2023-12-23极大似然估计
    设有观测方程:Zi=g(xi)+vixi为待求量,vi为观测噪声,服从vi~N(0,Σ)*这里Z,x,v都是多维向量,而∑是协方差阵。贝叶斯估计: p(x)*p(z|x)=p(z)*p(x|z)=p(x,z)*人话:x与z同时达到某值的概率= x达到某值的概率* x达到某值的条件下,z达到某值的概率 p(x|z)=
  • 2023-12-12EM算法——最大似然估计的拓展
    EM算法(Expectation-Maximization)是一种用于解决含有隐变量的概率模型参数估计问题的迭代优化算法。其基本思想是通过交替进行期望(Expectation)和最大化(Maximization)两个步骤来优化模型参数。在E步骤中,通过当前参数对隐变量的条件分布进行估计,计算完全数据对数似然的期望值。这一步
  • 2023-12-09机器学习-线性回归-最大似然估计求解-解析解-01
    最大似然估计已经从某一分布中获取到n个样本并且假设改样本的分布服从某一个分布f(θ),θ为需要估计的参数,根据这n个样本去推导θ的值就叫做最大似然估计,假设样本服从某分布,根据样本计算出分布中的参数,参数计算出之后,就能去进行预测,正态分布概率密度:假设样本的误差服从正
  • 2023-11-17似然函数的作用
    似然函数是统计学和机器学习中一个关键的概念,它在参数估计和模型选择等方面发挥着重要作用。下面详细解释似然函数的定义和作用:1.定义:似然函数通常用L(θ∣X)表示,其中θ是模型参数,X是观测到的数据。似然函数描述了在给定一组参数θ的条件下,观测到数据X的概率。2.作
  • 2023-11-07最大期望算法
        最大期望算法(Expectation-maximizationalgorithm,又译期望最大化算法)在统计中被用于寻找,依赖于不可观察的隐性变量的概率模型中,参数的最大似然估计。在统计计算中,最大期望(EM)算法是在概率(probabilistic)模型中寻找参数最大似然估计或者最大后验估计的算法,其中概率模型依赖
  • 2023-11-01R语言实现MCMC中的Metropolis–Hastings算法与吉布斯采样|附代码数据
     最近我们被客户要求撰写关于MCMC的研究报告,包括一些图形和统计输出。创建测试数据第一步,我们创建一些测试数据,用来拟合我们的模型。我们假设预测变量和因变量之间存在线性关系,所以我们用线性模型并添加一些噪音。  trueA<-5trueB<-0trueSd<-10sampleSize<-31
  • 2023-10-20【论文阅读】DeepAR Probabilistic forecasting with autoregressive recurrent networks
    原始题目:DeepAR:Probabilisticforecastingwithautoregressiverecurrentnetworks中文翻译:DeepAR:自回归递归网络的概率预测发表时间:2020年07月平台:InternationalJournalofForecasting文章链接:https://www.sciencedirect.com/science/article/pii/S0169207019301888
  • 2023-09-28R语言随机波动模型SV:马尔可夫蒙特卡罗法MCMC、正则化广义矩估计和准最大似然估计上证指数收益时间序列|附代码数据
    全文链接:http://tecdat.cn/?p=31162最近我们被客户要求撰写关于SV模型的研究报告,包括一些图形和统计输出。本文做SV模型,选取马尔可夫蒙特卡罗法(MCMC)、正则化广义矩估计法和准最大似然估计法估计。模拟SV模型的估计方法:  sim<-svsim(1000,mu=-9,phi=0.97,sigma
  • 2023-09-28贝叶斯决策
    基础概念先验概率根据先前的经验,也就是对某些类别预先知道的知识,对样本进行预测的概率。似然概率先验概率描述的根据现有知识,预测样本属于某一类的概率,是一个统计信息量。比如5个球中,有3个黑球,则黑球的概率是3/5。似然概率描述的是已知样本属于某一类,预测样本特征x分布的概
  • 2023-09-16生信教程|最大似然系统发育推断
    动动发财的小手,点个赞吧!简介顾名思义,最大似然系统发育推断旨在找到进化模型的参数,以最大化观察手头数据集的可能性。模型参数包括树的拓扑结构及其分支长度,还包括推理中假设的替代模型(例如HKY或GTR)的所有参数。由于当数据集包含多个类群时,这些参数的搜索空间是巨大的,因此所有用