Lecture 05 · 从关系检查,走进完整翻译任务

S02 · 从关系检查,走进完整翻译任务

开场的困难是跨语言保留关系。改用中文到英文,是为了让大家能直接检查每个决定,并把后续系统部件接在同一任务上。

状态 b0

给书图帮助识别人物、接收者、物体与时间;当前翻译输入仍是文字。

我 / 昨天 / 给了 / 她 / 一本 / 书谁给?给谁?给什么?什么时候?I gave her a book yesterday.六个源教学片段;目标含句号与 EOS。人物、物体、时间保持对应。

状态 b1

目标依次为I gave her a book yesterday . EOS;六个源片段只是教学划分。

我 / 昨天 / 给了 / 她 / 一本 / 书谁给?给谁?给什么?什么时候?Igaveherabookyesterday.EOS六个源教学片段;目标含句号与 EOS。人物、物体、时间保持对应。

公式与算例详情

教学构造,不是模型实跑。 源句切为我/昨天/给了/她/一本/书六段;目标为I gave her a book yesterday . EOS八项,其中句号与终止符EOS都计入预测。BOS提供解码开始标记,不属于这八个目标。

切分是本课为计算设定的约定,真实token可以是字、词或子词。给书图用于帮助人确认给予者、接受者、物体和时间;早期翻译模型并不读取这张图。目标中的yesterday改变位置,但事实关系不改变。图像可见的额外事实将到多模态段才成为机器的新输入。

此后二维RNN、三源读取、四维block和标量在线累计是不同尺度的教学算例,不能被拼成同一组参数的完整前向。共同延续的是任务和信息路径,而非虚构一套所有数字都来自同次运行的模型。

继续学习

从一条混排消息到模型的输入 · LAB01:A · 邻居变多,bank 的表示会怎样变?

路径 A:分数进步了,为什么这一句仍然错 · LAB02:路径A · 分数进步了,为什么这一句仍然错

保留的完整推导:R01 · R06。