写到这里,还能怎样取得源信息?
T19 · 写到这里,还能怎样取得源信息?
已经能够工作和训练的系统,才有具体可比较的设计改动。当前不是宣判固定摘要必败,而是识别它提供源信息的接口。
状态 b0
源句经c_src初始化s₀,再沿decoder状态传到当前预测。合法前缀BOS I gave保持,下一词未揭示;b0先问可改哪一处。
状态 b1
接住学生指向的状态容量、更新或源位置;保留已经算出的源位置是下一段选择考察的读取改动。
公式与算例详情
本页沿用T15的初始化版本:源句先经固定摘要c_src建立s₀,随后源条件沿decoder状态传到当前预测;不表示每一步直接重新注入c_src。可以合理增加状态宽度、改进更新和训练,也可以保存各源状态,让当前目标步选择读取内容。构造译例不足以证明某条路线总体胜出;原2014论文和任务证据留在translation-choices-2014主题。
本页保留合法前缀BOS I gave,下一词仍为问号,不让him反向成为查询输入。后续attention只改变取得源信息的连接,完整生成和训练框架继续成立。
继续学习
原始来源
- https://arxiv.org/pdf/1409.3215v1:。原版本及采用边界见正文
- https://arxiv.org/pdf/1409.0473v1:。原版本及采用边界见正文