高斯混合模型
假设有k个簇,每一个簇服从高斯分布,以概率随机选择一个簇k ,从其分布中采样出一个样本点,如此得到观测数据
其中模型参数为:
若样本关联K维的隐含变量为
,其对应的随机向量用大写字母Z表示
若属于第
簇,则
采用EM算法求解
Е步:基于当前参数值 ,推断隐含变量
的信息(后验概率/期望)
可以看做是对
从属于第
个簇的一种估计
M步:基于当前的期望重新估计参数的值
、
、
假设有k个簇,每一个簇服从高斯分布,以概率随机选择一个簇k ,从其分布中采样出一个样本点,如此得到观测数据
其中模型参数为:
若样本关联K维的隐含变量为
,其对应的随机向量用大写字母Z表示
若属于第
簇,则
采用EM算法求解
Е步:基于当前参数值 ,推断隐含变量
的信息(后验概率/期望)
可以看做是对
从属于第
个簇的一种估计
M步:基于当前的期望重新估计参数的值
、
、