从机器翻译到 Transformer

左右滑动查看完整图解 ↔

放大阅读图解 ↗

本讲目录

49页课堂主线

一句译文里的决定

语言分析怎样参与翻译

从单位到向量

沿句子更新状态

完整地生成一句译文

需要时回头读取

重新组织完整 Transformer

从任务数据到预训练

让图像提供缺少的颜色

让同一计算少搬数据

回到研究选择

完整资源推导(可选)

本页说明

学习材料

一句译文里,已经做了哪些决定?

R00 · 一句译文里,已经做了哪些决定?

从可以直接读懂的中英翻译进入。学习任务是把我们已经在做的选择拆成可计算对象,然后判断什么方法值得用来处理它。

状态 b0

原句没有附答案;先调用已有语言经验完成翻译。

状态 b1

句末和句首两种时间位置都可保留同一事件,不把一种表达当唯一合法形式。

状态 b2

未组合的教学查词结果保留give/he/one与待处理的了、本;此时只定位一两处差别。

公式与算例详情

主句是“我昨天给了他一本书。”,选定译文是“I gave him a book yesterday.”;“Yesterday, I gave him a book.”也可以。两者都需要保留给予者、接受者、物体和时间。“I yesterday give he one book.”是本轮刻意构造的未组合查词结果,了、本仍作为待处理卡保留,不是任何历史产品的输出。

开场不要求立即掌握全部词性和句法术语。he→him、give→gave及一本→a book揭示了词形与组合的决定;时间位置则允许不同合适表达。原法语构式和有出处的Google历史译例留在历史阅读,不承担本次默认开场。

继续学习

同一句话怎样成为分析对象与模型输入 · LAB01:A · 邻居变多,bank 的表示会怎样变?

把预测、训练与评价摊在同一张样本表上 · LAB01:B · 同一预测目标,三个模型;训练一次,生成多次

历史推导与原实验身份:S01G。旧切分、代词、权重与测量保留原任务条件,不能替换成本轮九单位新句。