同一套规则，逐步读完九个单位
T10 · 同一套规则，逐步读完九个单位
简单平均丢失了组合。RNN让当前词向量与过去状态共同计算新状态，以同一套参数处理变长输入。
状态 b0
我、e(我)、h1上下对齐，后续位置暂灰。
状态 b1
昨天的词向量与刚才h1一起进入下一次状态更新。
状态 b2
完整九位状态出现；tanh逐坐标作非线性变换，将实数压到−1与1之间。θ为共享参数，h为随当前句和位置改变的量。
公式与算例详情
九行词向量与九个源状态一一对齐。形式为h_t=tanh(W_x e(x_t)+W_h h_{t-1}+b)。tanh是逐坐标施加的非线性函数，把任意实数压到−1与1之间。θ包含W_x、W_h、b等跨步共享参数，h_t则是一次读句子时的中间计算量。更长输入意味着更多次调用共享规则，不是临时训练更多网络。
词向量来自查表，状态组合了当前输入和之前状态；两者不能混称同一个对象。此处完整九步为计算路径示意，只有随后我／昨天的两步使用明确教学数值。