一
机器翻译中要计算未对齐句对的翻译概率,我们可以采用EM算法获取
P(f|e) =Sigma(P(a, f|e)),一共有如下3种对齐方式
初始化设定 t(x|b)=t(x|c)=t(y|b)=t(y|c)=1/2
对齐1:p(a,f|e)=1/2*1/2=1/4
对齐2:p(a,f|e)=1/2*1/2=1/4
对齐3:p(a,f|e)=1/2
继续计算
对齐1:p(a|e,f)=(1/4)/(1/4+1/4)=1/2
对齐2:p(a|e,f)=(1/4)/(1/4+1/4)=1/2
对齐3:p(a|e,f)=(1/2)/(1/2)=1
tc(x|b)=1/2
tc(x|c)=1/2
tc(y|b)=1+1/2=3/2
tc(y|c)=1/2
完成E步骤,利用E步骤获取的信息重新估计参数
t(x|b)=(1/2)/(1/2+3/2)=1/4
t(x|c)=(1/2)/(1/2+1/2)=1/2
t(y|b)=(3/2)/(1/2+3/2)=3/4
t(y|c)=(1/2)/(1/2+1/2)=1/2
完成M步骤,重复上面的EM步骤,直至收敛
以上只是简单的EM算法的使用,在机器翻译,语言识别等领域应用比较广泛,多用于训练。
二
請按照IBM Model 1及EM algorithm,計算expectation step的c,和maximization step的t,並假設的常數項為1,即。
目前t(e | f) :
e
|
t(e|這)
|
t(e|小孩)
|
the
|
0.7
|
0.1
|
child
|
0.05
|
0.8
|
Alignments:
Counts:
e
|
c(e|這)
|
c(e|小孩)
|
the
|
0.876
|
0.125
|
child
|
0.0589
|
0.942
|
重新估計後的t(e | f) :
e
|
t(e|這)
|
t(e|小孩)
|
the
|
0.937
|
0.117
|
child
|
0.063
|
0.883
|
- 大小: 2.2 KB
- 大小: 18.8 KB
分享到:
相关推荐
一个EM算法的简单实例展示,背景,算法边界和运算结果对比都很清楚,包含代码分析
EM算法应用与机器学习,此篇论文是em算法的最初版本。
EM算法的介绍,包括原理,证明以及应用。
二维混合高斯分布的EM算法(matlab)
EM 算法 信号检测与估计 高斯。 em算法是混合高斯信号估计的算法,MATLAB编程实现
EM 算法原理及其应用
EM算法应用实例中硬币模型的matlab代码。 我们要做一个投掷硬币的实验,现在有两个硬币A和B,这两个硬币都是有偏的。现在要做5组实验,每次实验从两个硬币中随机抽取一个,然后连续抛10次。在不知道每次抛的硬币是A...
EM算法混合高斯模型应用的matalb代码,代码有详细注释。
详细介绍了EM算法的原理,及其在图像取证中的应用。
机器学习中的EM算法详解及R语言实例.pdf
EM 算法原理及其应用
这几天把EM算法(Expectation ...又混合高斯模型开始,由浅入深,逐步讲解了EM算法在混合高斯模型应用和一般化描述。自己感觉还是比较容易理解的。 如果发现pdf中有什么问题,或有什么错误,请直接与我联系,欢迎讨论。
本系列讲解EM及GMM相关知识点,让你对EM整理流程有清晰的认识,...1.10EM算法应用之GMM(高斯混合模型)的迭代过程1.11EM算法代码之手动实现GMM迭代过程1.12EM算法代码之基于sklearn身高性别数据GMM高斯混合聚类实现
高斯混合模型GMM与EM算法的matlab实现,用户可直接运行代码,观看结果,欢迎下载,进行进一步讨论
基于遗传算法的K_means初始化EM算法及聚类应用
在医疗影像 CT图像中肝癌检出中应用,EM算法应用对CT图像中肝脏,脾,肌肉的histogram值的求出。
最大期望算法 EM(expectation-maximization)算法主要是用于在不完全数据的情况下计算最大似然估计。在EM算法正式提出以来,人们对EM算法的...EM算法在数理统计,数据挖掘,机器学习以及模式识别等领域有广泛的应用。
EM算法的模型聚类的研究及应用EM算法的模型聚类的研究及应用EM算法的模型聚类的研究及应用EM算法的模型聚类的研究及应用EM算法的模型聚类的研究及应用
通俗的介绍EM算法, 有EM算法的基本思路, 应用示例, EM算法的性质 EM算法的缺点改进方法 易于理解
EM算法简介 以及在HMM中的应用 以及EM算法的证明过程