EM算法
参考视频:https://www.bilibili.com/video/BV1qW411k7ao
PDF笔记来源:https://github.com/ws13685555932/machine_learning_derivation
讲解:https://github.com/NLP-LOVE/ML-NLP/tree/master/Machine%20Learning/6.%20EM
最大期望算法(Expectation-maximization algorithm,又译为期望最大化算法),是在概率模型中寻找参数最大似然估计或者最大后验估计的算法,其中概率模型依赖于无法观测的隐性变量。
最大期望算法经过两个步骤交替进行计算,
第一步是计算期望(E),利用对隐藏变量的现有估计值,计算其最大似然估计值; 第二步是最大化(M),最大化在E步上求得的最大似然值来计算参数的值。M步上找到的参数估计值被用于下一个E步计算中,这个过程不断交替进行。
极大似然估计用一句话概括就是:知道结果,反推条件θ。