从机器翻译到 Transformer

左右滑动查看完整图解 ↔

放大阅读图解 ↗

本讲目录

49页课堂主线

一句译文里的决定

语言分析怎样参与翻译

从单位到向量

沿句子更新状态

完整地生成一句译文

需要时回头读取

重新组织完整 Transformer

从任务数据到预训练

让图像提供缺少的颜色

让同一计算少搬数据

回到研究选择

完整资源推导(可选)

本页说明

学习材料

围绕同一本书,检查相关信息是否被使用

T49 · 围绕同一本书,检查相关信息是否被使用

训练目标说明参数怎样学习,尚不能证明模型正确使用了图像。围绕封面颜色,分别改变相关事实、遮去证据、改变无关背景,提出可检查的行为预期。

状态 b0

蓝红图给出不同封面颜色,待检行为是颜色词随相关事实变化。

状态 b1

灰色不透明封套遮去封面与书脊,封套不是书的颜色;待检行为是说明颜色信息不足。

状态 b2

设想保留同一封面而只换背景,待检行为是颜色答案稳定。仅有数值变化不足以证明正确使用视觉条件。

公式与算例详情

蓝、红图用于提出颜色变化的检查问题,人物和构图相似但并非逐像素严格控制。遮挡图对当前蓝图加灰色不透明封套,覆盖封面与书脊;灰色属于封套,不是书的真实颜色。保留封面、只换背景是待实施的控制设计。这里未运行图文模型,三种预期均不是已取得的输出或准确率。

原 LAB14 已训练几何分类及控制表在 visual-condition-use 主题与 LAB14 中保留。原 LAB03 的随机图像 cross 通路也保留:max|Δlogits|=0.016440292,argmax 均为 a,关闭整条视觉分支(含偏置)后相等。它说明通路影响数值,不等于正确使用颜色;旧她/her、数据、参数及实验身份未改。

继续学习

把预测、训练与评价摊在同一张样本表上 · LAB01:B · 同一预测目标,三个模型;训练一次,生成多次

路径 B:换图后分布变了,模型是否看懂了 · LAB03:路径B · 换图后分布变了,模型是否看懂了

历史推导与原实验身份:R50 · R51 · R58。旧切分、代词、权重与测量保留原任务条件,不能替换成本轮九单位新句。