最大期望算法
EM算法的正式提出来自美国数学家Arthur Dempster、Nan Laird和Donald Rubin，其在1977年发表的研究对先前出现的作为特例的EM算法进行了总结并给出了标准算法的计算步骤，EM算法也由此被称为Dempster-Laird-Rubin算法。1983年，美国数学家吴建福（C.F. Jeff Wu）给出了EM算法在指数族分布以外的收敛性证明。
MLE就是利用已知的样本结果，反推最有可能(最大概率)导致这样结果的参数值 的计算过程。直白来讲，就是给定了一定的数据，假定知道数据是从某种分布中 随机抽取出来的，但是不知道这个分布具体的参数值，即“模型已定，参数未 知” ，MLE就可以用来估计模型的参数。MLE的目标是找出一组参数(模型中的 参数)，使得模型产出观察数据的概率最大。
MLE求解过程:
编写似然函数(即联合概率函数)
对似然函数取对数，并整理；(一般都进行)
求导数；
解似然方程。