Lecture 05 · 词表行共享,窗口计算共享

S04 · 词表行共享,窗口计算共享

不同词串要共享经验,先需要可共同调整的表示,再需要把局部词向量组合起来的预测规则。

状态 b0

书的索引5对应one-hot地址与E[5];同一token查同一行,索引不表示语义大小。

让不同词串共用表示与计算书索引 5one-hot (0,0,0,0,0,1)E[5]:参数表的一行编号是地址,不是语义大小。相同 token 复用同一行参数;查表尚未计算本次语境。token 是输入单位;六个教学片段不代表真实 WordPiece 切分。

状态 b1

I与gave查表后拼接,经共享前馈网络形成词表分布;查embedding与计算上下文是两步。

让不同词串共用表示与计算I · gave查表/拼接共享前馈网络词表分布输入词串改变,embedding 和预测网络仍共享参数。相似统计可以通过共享向量参与新组合的预测。token 是输入单位;六个教学片段不代表真实 WordPiece 切分。

公式与算例详情

词表索引是地址。课堂以“书”对应索引5与one-hot $(0,0,0,0,0,1)$;embedding查表取出参数矩阵$E$的一行$E[5]$。同一个token在不同位置或不同样本中复用这行参数。它还没有读取当前语境。

神经窗口模型把有限窗口中的embedding拼接或组合,经共享前馈网络形成内部表示与词表logits,再作softmax。参数共享使不同词串的梯度能共同改变表示和预测函数;具体泛化收益由数据与任务评价决定。

模型的输入单位可能是字、词或子词;给书句的六个教学片段不是真实WordPiece切分。完整bank两语境将在self-attention段回访,那时学生已掌握按位置读取的机制。

继续学习

从一条混排消息到模型的输入 · LAB01:A · 邻居变多,bank 的表示会怎样变?

保留的完整推导:R02 · R03 · R04 · R05。