从机器翻译到 Transformer

左右滑动查看完整图解 ↔

放大阅读图解 ↗

本讲目录

49页课堂主线

一句译文里的决定

语言分析怎样参与翻译

从单位到向量

沿句子更新状态

完整地生成一句译文

需要时回头读取

重新组织完整 Transformer

从任务数据到预训练

让图像提供缺少的颜色

让同一计算少搬数据

回到研究选择

完整资源推导(可选)

本页说明

学习材料

这一本书的颜色,原句并没有给出

T44 · 这一本书的颜色,原句并没有给出

原句已经给出事件与时间,却没有给出这一本书的封面颜色。先确定缺少什么事实,再观察图片是否提供了相应条件。

状态 b0

原句没有颜色,合理判断是信息不足;不是猜常见书色。

状态 b1

同一给书事件的图像提供可观察的蓝色封面条件。

状态 b2

换为红书图后,封面颜色这一相关条件改变;人物、动作与构图仍相似。

状态 b3

封面颜色来自图;昨天来自文字;我指谁需说话情境或额外给定。

公式与算例详情

封面颜色可从图中观察;“昨天”来自中文,第一人称说话者仍需情境或额外说明。图中右侧的成年男性接收者与“他”相容,画面本身不能证明说话者身份或日期。

蓝、红图是用于比较条件的人工构造,人物、动作与构图相似,纹理仍有细微差别,不能视为逐像素严格控制的实验。这些新图使用他/him;旧她/her 图、checkpoint 与既有实验结果保留原身份。

继续学习

路径 B:换图后分布变了,模型是否看懂了 · LAB03:路径B · 换图后分布变了,模型是否看懂了

历史推导与原实验身份:R50 · R58。旧切分、代词、权重与测量保留原任务条件,不能替换成本轮九单位新句。