R59.md · 可读全文

这里保留原文的中文、公式标记、代码和链接。可直接交给 Agent 读取,也可选取下方原文复制。此入口返回 HTML;原始 .md / .py 文件仍保留,完整候选包同时包含 UTF-8 原件。

# R59 · 同一条错译,先完成一次共同诊断

从结构到训练、读取和执行,我们已能提出多种错误解释。现在回到同一her/him错译,增加一项可比较的观察,选择下一步优先检查什么。

<span id="r59-b0"></span>

## 状态 b0

同一错译和正确候选出现,但尚无评分。此刻只凭输出,仍无法区分模型偏好错误与搜索漏掉候选。

这是用于共同诊断的构造案例;评分证据在下一状态才加入。

<span id="r59-b1"></span>

## 状态 b1

新增同规则整句分数,正确候选高于返回错句。先核对画面上的比较条件,再得出至少存在这一候选对的搜索缺口。

<span id="r59-b2"></span>

## 状态 b2

保留分数并冻结模型/评分,下一步检查候选覆盖与剪枝;若正确候选反而分低,优先检查应转向评分和条件使用。

## 公式与算例详情

### 用同一评分比较两个候选

源句为“我昨天给了她一本书”。以下候选与分数都是教学构造,未冒充 LAB 02 的运行结果。

| 候选(空格分词,8 个 token,含句号与 EOS) | 同一模型的 $\sum_t\log p(y_t\mid y_{<t},x)$ | 搜索结果 |
| --- | ---: | --- |
| I gave him a book yesterday . EOS | −8.2 | 返回 |
| I gave her a book yesterday . EOS | −6.4 | 未返回,但已显式计算评分 |

这里固定源句、模型参数、tokenizer,求和使用自然对数,包含 EOS,没有长度惩罚。−6.4>−8.2,因此已知至少一个分数更高的正确候选被遗漏,支持先检查候选覆盖、beam 剪枝与实现。两条候选没有穷尽所有输出;找回其中一个正确候选也不能证明模型可靠使用了全部源信息。

### 下一项检查取决于分数方向

冻结模型、数据与评分规则,保存 beam 每步候选及剪枝原因;扩大 beam,或在受限词表/短序列上穷举,检查同一目标分数能否提高。若另一受控候选对中正确候选反而得分更低,应转查模型评分及源条件利用,纯搜索优化不保证修好它。区分这两种分数关系,才能为同一种表面错译选择不同的下一步。

原课页采用记录:[M38 自学与实践入口](sources.html#M38)。页码均按PDF物理页计。

### 继续学习

若要判断下一步应改搜索还是评分,读[beam 有没有把正确答案漏掉](https://codingai-lec05.pages.dev/course/knowledge/teacher-forcing-and-generation.html#teacher-forcing-and-generation-s04),并在[CLS 03](https://deepnote.com/workspace/ise3309jingao-5ba66b0a-4283-4f5a-ae06-3f68d3201e99/project/Fall-26-Lecture-05-841ec8e7-e352-4840-b628-d3742b03d6d0/notebook/CLS-03-719b25c7c5b64687998ba9c19d2f6776?utm_content=719b25c7c5b64687998ba9c19d2f6776&utm_source=openai&utm_medium=mcp&utm_campaign=openaimcp&utm_term=get_notebook)“路径 A:分数进步了,为什么这一句仍然错”与[LAB 02](https://deepnote.com/workspace/ise3309jingao-5ba66b0a-4283-4f5a-ae06-3f68d3201e99/project/Fall-26-Lecture-05-841ec8e7-e352-4840-b628-d3742b03d6d0/notebook/LAB-02-bba1d024d8e64a589c290b09381de692?utm_content=bba1d024d8e64a589c290b09381de692&utm_source=openai&utm_medium=mcp&utm_campaign=openaimcp&utm_term=get_notebook)“路径A · 分数进步了,为什么这一句仍然错”对照既有 checkpoint:正确项−1.280045低于错误项−0.905535,beam2曾保留正确项却仍将其排后。它与[本页正确候选更高分的教学构造](lecture.html#read-R59)导向不同诊断,不能当同一结果。若基础评分口径仍不清楚,LAB 02 的“D · 源、decoder输入、目标,分别是哪一行?”和“D · 局部最优能否到达全句最高分?”检查 EOS/PAD、穷举与 beam;再按[受控检查](experiments.html#r5-controlled)固定评分后改变一个解释。