Lecture 05 · 2016:机制之后,重新看翻译改善

S01G · 2016:机制之后,重新看翻译改善

现在已经认识循环生成、读取与训练,可以再看生产系统的同题对比。原图不再只是“后来更好”的历史卡,而成为可解释的实际对象。

状态 b0

源文、PBMT、GNMT与人工参考保持官方原图身份,先找一处可检查的表达变化。

2016:重新读这份真实翻译对照Google 官方样例源文/PBMT/GNMT/人工参考:同一处表达,发生了什么变化?

状态 b1

对照新闻开头,GNMT结合深层循环、attention与wordpiece等变化;单例观察不等同唯一组件归因。

2016:重新读这份真实翻译对照Google 官方样例源文PBMTGNMT人工参考GNMT:深层循环+attention+wordpiece;系统改变后,表达也改变。

公式与算例详情

Google 2016年9月27日《A Neural Network for Machine Translation, at Production Scale》提供中文输入、PBMT、GNMT与人工参考四列同题新闻图。课堂保留完整原图,并放大同一开头片段,以便核对人物、动作、关系和表达。

官方原文描述GNMT的深层循环encoder-decoder、attention、wordpiece等系统设计。用这些机制解释系统改变了什么,与把某一句改善完全归因到单一组件不同。该精选例只支持本例观察,不提供产品总体排名,也不构成部件消融。

完整来源与原图尺寸保持;放大仅裁取同一原图区域,没有修改文字或补造模型输出。

继续学习

2014:先拥有一个可工作的翻译器,再决定改哪里 · LAB02:D/E · 固定源序,比较两种读取接口

从2017计算图到2020组合,再看持续状态系统 · LAB02:接着研究 · 哪个实验最便宜,又能区分解释?

保留的完整推导:R02。

原始来源