T29 · 重新组织序列计算，为什么值得试？

现在已经认识同句读取、缩放和位置条件，比较架构才有可指认的具体工作，而不只比较名字。

状态 b0

同一源句下比较循环、局部卷积和全self-attention；2017之前循环和卷积路线已使用attention。

状态 b1

学生先指出并行机会、远处连接等可观察预期，再记下成对交互代价。任务质量与训练成本共同决定是否继续投入，不把未知目标词并行生成。

公式与算例详情

普通局部卷积依靠层叠扩大感受野，不能把当前图说成一层已经连接任意远处；循环位置间有前后依赖，全attention对已知输入位置形成成对关系。训练吞吐、单步生成延迟和翻译质量是不同问题。2017原论文v1的Table2及完整条件保留在S26历史页；默认课堂只口述其质量与训练成本证据支持竞争力，不读跨论文成绩单。后来服务也可能按质量与延迟选择混合部件；2020案例保留在S27。

继续学习

让整套 Transformer 共同完成一次预测 · LAB03：F · 跟着一个 token 穿过完整 encoder block

从2017计算图到2020组合，再看持续状态系统 · LAB02：接着研究 · 哪个实验最便宜，又能区分解释？

历史推导与原实验身份：R38 · R48 · R46。旧切分、代词、权重与测量保留原任务条件，不能替换成本轮九单位新句。

原始来源

• https://arxiv.org/pdf/1706.03762v1：。原版本及采用边界见正文