首页 > 其他分享 >极大似然估计(Maximum Likelihood Estimate, MLE)的理解

极大似然估计(Maximum Likelihood Estimate, MLE)的理解

时间:2023-03-02 16:14:53浏览次数:43  
标签:似然 MLE 理解 Maximum lnL cdots 估计 theta

1.理解

设总体有分布 \(f(x;\theta_1,\cdots,\theta_k), X_1,\cdots,X_n\) 为自这个总体总抽出的样本,则样本\((X_1,\cdots,X_n)\) 的分布(即其概率密度函数或概率函数)为

\[f(x_1;\theta_1,\cdots,\theta_k)f(x_2;\theta_1,\cdots,\theta_k)\cdots f(x_n;\theta_1,\cdots,\theta_k), \]

记为\(L(x_1,\cdots,x_n;\theta_1,\cdots,\theta_k)\).
固定\(\theta_1,\cdots,\theta_k\), 而看作\(x_1,\cdots,x_n\)的函数时,L是一个概率密度函数或概率函数。可以这样理解:若

\[L(Y_1,\cdots,Y_n;\theta_1,\cdots,\theta_k) > L(X_1,\cdots,X_n;\theta_1,\cdots,\theta_k) \]

则在观察时出现\((Y_1,\cdots,Y_n)\) 这个点的可能性要比出现\((X_1,\cdots,X_n)\) 的可能性要大。
把这件事反过来说,可以这么想:当已观察到\(X_1,\cdots,X_n\) 时,若

\[L(X_1,\cdots,X_n;\theta_1',\cdots,\theta_k')>L(X_1,\cdots,X_n;\theta_1'',\cdots,\theta_k'') \]

则被估计的参数\((\theta_1,\cdots,\theta_k)\) 是\((\theta_1',\cdots,\theta_k')\) 的可能性比它是\(\theta_1'',\cdots,\theta_k''\) 的可能性要大。
当\(X_1,\cdots,X_2\) 固定而把L看作\(\theta_1,\cdots,\theta_k\) 的函数时,它称为“似然函数”。这个名称的意义,可根据上述分析得到理解:
这个还是对不同的\((\theta_1,\cdots,\theta_k)\) 的取值,反映了在观察结果\((X_1,\cdots,X_2)\) 已知的条件下,\((\theta_1,\cdots,\theta_k)\) 的各种值的“似然程度”。
把观察值\((X_1,\cdots,X_2)\)看作结果,而把参数值\((\theta_1,\cdots,\theta_k)\) 看成是导致这个结果的原因。现在已经有了结果,要反过来推算各种原因的概率
这里,参数\((\theta_1,\cdots,\theta_k)\) 有一定的值(虽然未知),并非事件或者随机变量,无概率可言,于是就改用“似然”这个词。

由上述分析就自然地导致以下的方法:应该用似然程度最大的那个点\((\theta_1^*,\cdots,\theta_k^*)\), 即满足条件

\[L(X_1,\cdots,X_n;\theta^*,\cdots,\theta_k^*)=max_{\theta1,\cdots,\theta_k} L(X_1,\cdots,X_n;\theta_1,\cdots,\theta_k) \]

的\((\theta_1^*,\cdots,\theta_k^*)\) 去作为\((\theta_1,\cdots,\theta_k)\)的估计值,因为在已得样本\(X_1,\cdots,X_n\) 的条件下,这个“看起来最像”是真参数值。这个估计\((\theta_1^*,\cdots,\theta_k^*)\) 就叫做\((\theta_1,\cdots,\theta_k)\)的“极大似然估计”。如果要估计的是\(g(\theta_1,\cdots,\theta_k)\),则\(g(\theta_1^*,\cdots,\theta_k^*)\) 是它的极大似然估计。
因为

\[lnL=\sum_{i=1}^{n} {lnf(X_i;\theta_1,\cdots,\theta_k)}, \]

且为使L达到最大,只需使lnL达到最大(它们是同单调的,而取对数是为了求导的时候将连乘转为连加),故在f对\(\theta_1,\cdots,\theta_k\) 存在连续的偏导数时,可建立方程组(称为似然方程组):

\[{\partial lnL \over \partial \theta_i} = 0 \quad (i = 1,\cdots,k). \]

如果这个方程组有唯一的解,又能验证它是一个极大值点,则它必是使L达到最大的点,即极大似然估计。

2. 参考

《概率论与数理统计(陈希孺)》
详解最大似然估计(MLE)、最大后验概率估计(MAP),以及贝叶斯公式的理解

标签:似然,MLE,理解,Maximum,lnL,cdots,估计,theta
From: https://www.cnblogs.com/harrymore/p/17172093.html

相关文章

  • js 正则 htmlEncode, htmlDecode
    参考:https://www.cnblogs.com/moqiutao/p/15629810.html//html编码解码exportfunctionhtmlEncodeByRegExp(str){vars='';if(str.length===0){ret......
  • C. Maximum Set[数学] [*1300-*1500]
    C.MaximumSet[数学][*1300-*1500]题目链接点我题意:一个集合是漂亮的,如果他的每一个元素都是集合中其他元素的倍数或者因子给定你一个\(l\)和\(r\)让你找出在\(......
  • 概率论--极大似然估计法
    求解极大似然估计值的步骤1.把所有的函数值相乘2.两边取lnx3.求偏导求偏导的时候令该偏导值等于0,解出该参数的值就为估计值连续性的求解方法和离散型一样......
  • 最大似然估计(maximum likelihood estimation, MLE)
    原理:给定一个概率分布D,假定其概率密度函数(连续分布)或概率聚集函数(离散分布)为fD,以及一个分布参数θ,我们可以从这个分布中抽出一个具有n个值的采样X1,X2,...,Xn,通过利用fD,我......
  • 关于错误消息 RangeError - Maximum call stack size exceeded at XXX
    错误消息:RangeError:MaximumcallstacksizeexceededatConnectableSubscriber.error执行Angular开发的SpartacusStorefront时遇到。RangeError:Maximumcall......
  • 最大流应用(Maximum Flow Application)
    1.BipartiteMatching1.1MatchingDef.Givenanundirectedgraph\(G=(V,E)\),subsetofedges\(M⊆E\)isamatchingifeachnodeappearsinatmostone......
  • Hamlet 词频统计
    1defgetText():2txt=open('I:\Hamlet_-Prince-of-Denmark_哈姆雷特_.txt','r').read()3txt=txt.lower()4forchin'!"#$%&()*+,-./:;<=>?@[......
  • 【题解】ABC290F Maximum Diameter
    大龄选手只杀到E,鉴定为寄。思路正解是高明数数,这里提供一种强行推导的方法。首先有一个死掉的思路:原问题等价于求所有\(n\)个点的有标号无根树的直径之和。如果有什......
  • [LeetCode] 1792. Maximum Average Pass Ratio
    Thereisaschoolthathasclassesofstudentsandeachclasswillbehavingafinalexam.Youaregivena2Dintegerarray classes,where classes[i]=[pass......
  • 概率和似然
    在日常生活中,我们经常使用这些术语。但是在统计学和机器学习上下文中使用时,有一个本质的区别。本文将用理论和例子来解释概率和似然之间的关键区别。概率与似然假设在一......