R50 · 回到同一张图,改变的是输入接口
目标、信息通路与训练问题已有位置,现在兑现图像条件的迁移。返回同一湖边图,只改变它进入序列模型的组织方式。
状态 b0
返回同一湖边图,对照先前整图条件接口;画面事件保持,接下来改变输入组织。
草帽人、木凳、湖面与小狗属于同一情境,切片后没有重新生成物体。
状态 b1
3×3网格在原图上按行编号。观察物体如何跨越格子,分块单位不是物体类别。
状态 b2
抽出的patch与原图区域逐一对应,所有块使用同一坐标系。真实像素切片与下一页的224/16形状例分别看。
公式与算例详情
从同一原图得到可追溯的小块
前面图像字幕使用的同一幅湖边情境,现在作为另一种输入组织方式。图中的3×3网格只是把分块过程放大给人看,所有小块都由同一图像坐标系的 SVG viewport 显示原始像素区域,没有重新生成或拼造 patch 内容。原图为1254×1254,3×3展示中每块覆盖418×418的原图区域。编号按从左到右、从上到下的行优先顺序,patch序列可以追溯到原图位置。
从演示网格到模型输入形状
实际 ViT 通常把已预处理的图像分为固定大小、不重叠的方形块。以224×224的RGB输入与16×16 patch为例,一共有14×14=196块,每块有16×16×3=768个数。课堂3×3图仅说明变换关系,不假装运行了一个真实224×224模型;不在本页给出分类概率或声称注意力看到了小狗。
与字幕模型的任务不同,切块只是把图像交给序列结构的输入接口。后续需要投影、位置、Transformer和适合任务的输出头,才能定义一个完整的视觉模型。参考 CS231n Lecture 8 物理 p101–105。
原课页采用记录:M31 图像作为序列。页码均按PDF物理页计。
继续学习
要把图上的 patch 与实际输入对应起来,用原图尺寸与行优先编号追踪一个418×418展示区域,再独立计算224×224输入、16×16 patch 的196×768形状。视觉条件是否真正被使用与CLS 03“4 · 同一张图,分类与逐词预测要不同接口”继续解释为什么切块还不是任务;LAB 03“视觉接口 · 196 个 patch 如何影响下一词分布?”检查投影、位置与输出接口。