Lecture 05 · 词典、短语、重排与搜索

S03 · 词典、短语、重排与搜索

一条准确的局部规则仍需要与其他对应组合。短语统计翻译把对应、顺序、目标语言规律与搜索组合在一个可运行系统中。

状态 b0

我→I、昨天→yesterday、给了她→gave her、一本书→a book;短语系统并非逐词替换。

我 / 昨天 / 给了 / 她 / 一本 / 书我I昨天yesterday给了她gave her一本书a book词典给对应;短语表保留局部搭配。“给了她”与“gave her”一起统计整体评分兼顾源句对应与目标表达;这里不指定真实系统的候选分数。

状态 b1

两个候选用同一组片段,差别在yesterday的位置。比较源对应与目标表达。

我 / 昨天 / 给了 / 她 / 一本 / 书我I昨天yesterday给了她gave her一本书a bookI yesterday gave her a bookI gave her a book yesterday候选整体评分兼顾源句对应与目标表达;这里不指定真实系统的候选分数。

状态 b2

翻译对应、重排与目标语言模型共同评分,搜索组合片段并形成含EOS的完整候选。

我 / 昨天 / 给了 / 她 / 一本 / 书我I昨天yesterday给了她gave her一本书a book翻译对应+重排目标语言模型搜索候选I gave her a book yesterday . EOS整体评分兼顾源句对应与目标表达;这里不指定真实系统的候选分数。

公式与算例详情

本例保留四组短语对应:“我→I”“昨天→yesterday”“给了她→gave her”“一本书→a book”。候选为“I yesterday gave her a book”和“I gave her a book yesterday”;它们用于讨论词序与语言习惯,没有附造模型分数或声称真实系统已作此排名。

短语翻译模型提供双语对应证据,重排模型评价片段位置关系,目标语言模型评价目标串的统计规律。搜索在有限预算内组合短语与顺序。规则系统也可以利用上下文;SMT通过语料估计参数,也是在学习。单独的语言模型只评价目标表达,不能独自确保忠实于源句。

这里的六源片段和四短语单元承担不同职责:前者是课堂输入划分,后者是可被组合的翻译单元。两种划分不必一一相同。

继续学习

从一条混排消息到模型的输入 · LAB01:A · 邻居变多,bank 的表示会怎样变?

把预测、训练与评价摊在同一张样本表上 · LAB01:B · 同一预测目标,三个模型;训练一次,生成多次

路径 A:分数进步了,为什么这一句仍然错 · LAB02:路径A · 分数进步了,为什么这一句仍然错

保留的完整推导:R01 · R06 · R07 · R08 · R59。

原始来源