已知位置能并行，未知新词仍要等待
T34 · 已知位置能并行，未知新词仍要等待
同句生成已经闭合，最后把“同层位置并行”与“未知目标按步生成”放回各自成立的条件。
状态 b0
同一源H与八行右移目标输入共同训练；每行合法范围受causal mask约束，各标签用于各自loss。
状态 b1
生成时him必须先被选择，再追加为下一行输入。并行条件由已知输入决定，不由有没有RNN单独决定。
公式与算例详情
训练teacher forcing把已知参考序列右移为输入，因果mask保证每行仅依赖合法过去；一层内的所有已知行可用矩阵同时计算。推理生成的下一词尚未选出，下一行输入未形成，仍自回归进行。训练并行不能直接推出单步生成延迟，也不能代替端到端任务比较。架构只是计算组织，后续能力还取决于训练数据、目标、规模、计算和使用条件。
继续学习
历史推导与原实验身份：R47 · R46 · R48。旧切分、代词、权重与测量保留原任务条件，不能替换成本轮九单位新句。
原始来源
- https://arxiv.org/pdf/1706.03762v1：。原版本及采用边界见正文