GMM算法及其应用

高斯混合模型及其应用（GaussianMixtureModel,GMM）高斯混合模型及其应用（GaussianMixtureModel,GMM）主要内容GMM算法GMM最大似然法EM算法GMM算法和K-Means、FCM异同点GMM算法应用图像分割背景建模GMM高斯混合模型（GaussianMixedModel,GMM）指的是多个高斯分布函数的线性组合，理论上GMM可以拟合出任意类型的分布，通常用于解决同一集合下的数据包含多个不同的分布的情况（或者是同一类分布但参数不一样，或者是不同类型的分布，比如正态分布和伯努利分布）。目的（1）求出每一个样本属于哪个分布（2）求出每一个分布对应的参数GMM使用一个高斯模型拟合分布GMM使用两个高斯模型拟合分布GMM-例子GMM原始形式权重可以看成使第k类被选中的概率。kkKkkxNxp,1kGMM原始形式权重可以看成使第k类被选中的概率。kkKkkxNxp,1kGMM原始形式推导引入K维的随机变量z，并且z使用1-of-K表示。表示第k类被选中的概率，即：需要满足以下两个条件：关于z有：1kzkkzp1kz（2）和GMM原始公式推导每一类数据都服从正态分布，用条件概率可以表示为GMM原始公式推导每一类数据都服从正态分布，用条件概率可以表示为上式可以改写为：从而可以求出p(x)：例子GMM模型的在二维空间的示意图采用Bayes规则，数据点x属于第k个类的概率可以用后验概率表示为：GMM原始公式推导GMM—参数最大似然估计GMM有三组参数需要估计：kkKkkxNxp,1GMM—参数最大似然估计对上式取对数，再对均值求令导数为0，可得两边同乘以其中GMM—参数最大似然估计同理可得方差的最大似然估计为GMM—参数最大似然估计GMM算法图示GMMＥＭ算法对于给出的ＧＭＭ１.初始化参数：均值μｋ，协方差矩阵∑ｋ，混合系数πｋ２Ｅ步骤：３.Ｍ步骤：通过下列重估共识修正参数1(|,)()(|,)knkknkKjnjjjNxzNx11()NnewknknnkzxN11()()()NnewnewnewTknknknknkzxxNnewkkNNＥＭ算法４.检验是否收敛EM和K的关系图像分割采用GMM算法，实现RGB图像分割背景建模主要任务输入视频背景