已写到 I gave,下一词还未知
T20 · 已写到 I gave,下一词还未知
上一段已从 BOS 走到 EOS,也看过正确前缀怎样训练。现在退回同一生成时刻,只改变中文信息进入目标预测的接口。
状态 b0
原来的源初始化背景与新保留的逐位置源状态并列。已知条件只有完整中文和BOS I gave;源摘要的影响已沿decoder状态传到这里,保存源信息与当前选择读取分开。
状态 b1
Q 来自当前目标状态。各源位置提供匹配 K 与内容 V,尚未引入正确下一词。
状态 b2
源评分、源 softmax、加权内容 c 依次接入词表预测;当前目标状态也连入输出。这里c命名本次读回内容,和前面LSTM的cell状态不同。
状态 b3
从词表分布选出 him 后,反馈箭头才出现。此图展示合适译文的机制路径,没有给出实测概率。
公式与算例详情
源摘要→初始化s₀保留为前一系统的背景;b0中进入当前目标状态的灰箭头概括沿状态传递的历史,不表示本步重新注入源摘要。
本页从b2开始,c表示当前attention读回的内容向量;它不是LSTM沿时间传递的cell状态。相同字母在不同计算里有不同职责。
源端九个 h 仍是前面循环编码得到的各位置状态。图中保留所有状态,不意味着每次只挑一个状态,也不保证某个位置必定获得最高权重。真实条件预测通常使用当前目标状态和读回的内容,并在完整目标词表上归一化。当前译文是为了说明路径选择的教学示例,不是新训练模型的运行回执。
这里先教 Q/K/V 的职责;2014 Bahdanau 路线使用可学习匹配网络,后面局部手算采用点积。这一差别在 T24 口述并保留原论文来源。
继续学习
历史推导与原实验身份:R30 · R31 · R37 · R32 · R33 · R34 · R28。旧切分、代词、权重与测量保留原任务条件,不能替换成本轮九单位新句。
原始来源
- https://arxiv.org/pdf/1409.0473v1:。原版本及采用边界见正文