要点
- AWS 为 SageMaker 训练与处理任务上线 Seekable OCI（SOCI）索引，容器按需懒加载，作业定义无需改动。
- 基准：标准拉取随镜像增大到数分钟，懒加载稳定在约 3–11 秒（约 8×–46×）；13.2GB 镜像跨 13 种实例约 34×。
- 完整训练显示首个 epoch 仅多 3–16 秒，其后每 epoch 时间与全量拉取基本一致；镜像拉取阶段 GPU 空闲可降约 90%。
深度学习容器动辄超过 10GB。在 SageMaker 上，作业计费时间包含把整张镜像下载、解压写盘的分钟级开销——尤其伤害超参搜索与短作业。AWS 宣布对训练与处理任务支持 SOCI 索引，把“全量下载”移出关键路径。
论点很具体：许多团队以为自己在等 GPU，其实在付镜像拉取的税；懒加载若不影响后续训练吞吐，迭代速度的第一杠杆就在启动路径。
[1]SOCI 是开源的可寻址 OCI 技术：运行时先按索引拉取启动所需文件，其余在后台按访问流式加载。索引作为与原镜像关联的 OCI 工件存在 ECR 中，不改动原层。用户可改用预索引的 AWS Deep Learning Container，或为自己的镜像生成索引。
[1]AWS 报告：八种镜像尺寸上，标准 Docker 拉取随尺寸线性变慢，SOCI 维持约 3–11 秒（约 8×–46×）。13.2GB 镜像在 13 种实例类型/尺寸上，标准 3分16秒–4分20秒，懒加载 6–8 秒（约 34×）。
ResNet-50/Imagenette 与 Qwen2.5-0.5B SFT 等完整训练中，从第二 epoch 起每 epoch 时间与全量拉取一致；首 epoch 因补齐文件多 3–16 秒。拉取阶段 GPU 空闲最高可降约 90%。
[1]钢人反驳：若作业本身数小时，节省的几分钟相对变小；冷启动后若几乎触及全部层，网络仍会在后台付账；多租户缓存策略可能改变收益。
厂商基准未给出独立复现与最坏访问模式；自定义巨型镜像的索引构建成本披露有限。置信度：机制与数量级高；普遍成本节省外推中等。
[1]对平台团队，这意味着把“镜像体积分”重新标成产品指标。对研究迭代，短作业与大规模扫参会最先受益；若启动税消失，人们才会更诚实地比较算法改进与基础设施改进。
[1]接下来看预索引 DLC 覆盖面、客户自定义镜像的索引流水线是否无摩擦，以及在数据通道也很重的作业里 SOCI 是否仍主导墙钟时间。若是，容器启动会从“大家都忍着”变成默认必选项。
[1]