Lecture 05 · 回到同一张图,改变的是输入接口

R50 · 回到同一张图,改变的是输入接口

目标、信息通路与训练问题已有位置,现在兑现图像条件的迁移。返回同一湖边图,只改变它进入序列模型的组织方式。

状态 b0

返回同一湖边图,对照先前整图条件接口;画面事件保持,接下来改变输入组织。

草帽人、木凳、湖面与小狗属于同一情境,切片后没有重新生成物体。

同一张湖边图;按行优先分成 3×3湖边的人、木凳与小狗现在改变的是输入组织方式。旧:整图特征 → 字幕初态

状态 b1

3×3网格在原图上按行编号。观察物体如何跨越格子,分块单位不是物体类别。

同一张湖边图;按行优先分成 3×3123456789格子编号可以追回原图坐标。1 2 34 5 67 8 9右下的小狗,落在哪些块里?

状态 b2

抽出的patch与原图区域逐一对应,所有块使用同一坐标系。真实像素切片与下一页的224/16形状例分别看。

同一张湖边图;按行优先分成 3×3123456789patch 1patch 5patch 9原图裁块 → patch 序列

公式与算例详情

从同一原图得到可追溯的小块

前面图像字幕使用的同一幅湖边情境,现在作为另一种输入组织方式。图中的3×3网格只是把分块过程放大给人看,所有小块都由同一图像坐标系的 SVG viewport 显示原始像素区域,没有重新生成或拼造 patch 内容。原图为1254×1254,3×3展示中每块覆盖418×418的原图区域。编号按从左到右、从上到下的行优先顺序,patch序列可以追溯到原图位置。

从演示网格到模型输入形状

实际 ViT 通常把已预处理的图像分为固定大小、不重叠的方形块。以224×224的RGB输入与16×16 patch为例,一共有14×14=196块,每块有16×16×3=768个数。课堂3×3图仅说明变换关系,不假装运行了一个真实224×224模型;不在本页给出分类概率或声称注意力看到了小狗。

与字幕模型的任务不同,切块只是把图像交给序列结构的输入接口。后续需要投影、位置、Transformer和适合任务的输出头,才能定义一个完整的视觉模型。参考 CS231n Lecture 8 物理 p101–105。

原课页采用记录:M31 图像作为序列。页码均按PDF物理页计。

继续学习

要把图上的 patch 与实际输入对应起来,用原图尺寸与行优先编号追踪一个418×418展示区域,再独立计算224×224输入、16×16 patch 的196×768形状。视觉条件是否真正被使用与CLS 03“4 · 同一张图,分类与逐词预测要不同接口”继续解释为什么切块还不是任务;LAB 03“视觉接口 · 196 个 patch 如何影响下一词分布?”检查投影、位置与输出接口。