从机器翻译到 Transformer

左右滑动查看完整图解 ↔

放大阅读图解 ↗

本讲目录

49页课堂主线

一句译文里的决定

语言分析怎样参与翻译

从单位到向量

沿句子更新状态

完整地生成一句译文

需要时回头读取

重新组织完整 Transformer

从任务数据到预训练

让图像提供缺少的颜色

让同一计算少搬数据

回到研究选择

完整资源推导(可选)

本页说明

学习材料

同样的词性,怎样组成不同关系?

T03 · 同样的词性,怎样组成不同关系?

我和他都是代词,但交换它们会改变事件。词性分类之后还需要处理哪些成分组成一起,以及成分之间在事件中是什么关系。

状态 b0

从给联系我、他、一本书和昨天,角色与之前词性表分开显示。

状态 b1

清掉角色箭头,显示主句、主语、时间、谓语、动词组、宾语成分与名词短语的组合。

状态 b2

一、本、书所在子树被高亮,显示整体译法和组合的对象。

状态 b3

重新检查角色描述事件关系,树描述组成,两种任务不同。

公式与算例详情

角色图以给为中心,分别连接给予者我、接受者他、物体一本书、时间昨天。箭头表达角色联系,不是attention权重,也不是依存解析器的输出。

简化成分树把主句分为主语、时间成分、谓语和标点;谓语内有给/了组成的动词组、宾语成分他及名词短语一本书(他在角色图中承担接受者)。名词短语内进一步显示数量短语一/本和名词书。分支表示组成关系,这是便于解释的一种教学分析,不声称唯一gold tree。

角色图回答谁做了什么、对谁和在何时;成分树回答哪些单位组成同一成分;词性表回答单位的类别。名词短语在后续选择a book、连接动词和调整位置时是一个可整体处理的对象。

继续学习

同一句话怎样成为分析对象与模型输入 · LAB01:A · 邻居变多,bank 的表示会怎样变?

历史推导与原实验身份:S03。旧切分、代词、权重与测量保留原任务条件,不能替换成本轮九单位新句。