要点
- Apple MLR 亮点，2026-11-05；论文《Amortizing Maximum Inner Product Search with Learned Support Functions》，ICML 2026。
- 问题：RAG 查询（短问）与键（长段落）几何上不同；经典 IVF 质心路由忽略查询分布。
- SupportNet 学每簇支撑函数以改进路由；KeyNet 把查询映射到更靠近最佳键的位置再交给 IVF。
- Natural Questions、128 簇：SupportNet 达 95% 路由召回约比质心快 1.9×（1.74 ms 对 3.36 ms）；KeyNet 达 99% 召回最高约快 8×（0.23 ms 对 1.8 ms）。
- 模型对固定键集离线训练一次；规模 XS-L 约为库大小的 1-20%；报告族深度 16。
2026 年 11 月 5 日，Apple 机器学习研究博客突出一篇将在 ICML 2026 亮相的检索论文。对象是最大内积检索，推荐、搜索与 RAG 的共用引擎。近似索引通常把键集切成簇，再按质心路由。作者认为生产系统其实已经很了解自己的查询分布，而 RAG 查询与它要取回的长段落长得不像。主张随之而来。当查询稳定、键集固定时，把 MIPS 摊销进小型学习路由器，可以胜过又一次纯几何的索引微调。
[1]实际发布了什么
数学抓手是：查询到其与键集最大内积的映射，正是该集合的支撑函数：它是凸的，且梯度能恢复获胜键。团队离线在采样查询与穷尽 MIPS 答案的配对上训练小网络。SupportNet 逼近每簇支撑分数，使路由问的是 "簇内最佳键有多好"，而不只是 "离质心多近"。KeyNet 直接预测最佳键向量，并可在标准 IVF 运行前改写查询。
二者都是针对真正要紧的查询分布做回归。报告的 SupportNet / KeyNet 族（XS 到 L，约库大小 1% 到 20%，深度 16）接入现有 IVF，而不是整栈重写。博客的用法建议很务实：只要尽快逼近最佳键就用 KeyNet；还要校准分数或小模型必须省算力时用 SupportNet；超大规模或可对簇用 SupportNet、簇内再用 KeyNet。
[1]台面上的证据
主要公开数字来自约 260 万段落、128 簇的 Natural Questions。路由上，小型 SupportNet 达 95% 路由召回大约比质心路由快 1.9×（1.74 ms 对 3.36 ms），更大网络在相近延迟下推更高召回。在约扫描库 5% 的固定预算下，学习路由器约 90-93% 找到真正分区，质心为 87.5%。搜索上，经 KeyNet 映射的查询达 99% 召回最高约比原始查询快 8×（0.23 ms 对 1.8 ms）；在只看质量的视图里，达 99% 召回最多少扫约 11× 的键。示例 top-3 画廊显示，同一问题下 KeyNet 会改变浮出的段落。
这些是 Apple 在标准学术数据上的自报数字，不是多租户生产 A/B。帖称在多个数据集上趋势一致，但博客未摊开每张表。训练假定键库固定、查询源可刻画。轻度查询漂移据称可忍受；大幅漂移是明显的破窗点。
[1]钢人与缺口
钢人。 若语料每小时大换血，离线摊销就变成税。若查询敌意或完全开放，"已知分布" 前提变薄。神经路由器引入质心式 FAISS 代码没有的失败模式与运维面。榜上的延迟图可能藏起训练成本、网络显存，以及并发下的尾延迟。更好的量化加质心 IVF 也许能吃掉部分差距，而不必上学习组件。
这些反对意见正好划出部署滤网。它们抹不掉 Apple 卡住的几何点：RAG 的键与 RAG 的问题不是可互换的云，当你已有真实问题日志时，与查询无关的几何会把精度和延迟留在桌上。
[1]谁该在意，下一步看什么
语料稳定、又有查询日志的 RAG 平台团队，应把摊销路由器当作与换嵌入并列的一等实验。搜索基础设施组多了一个理由：保留 IVF，加学习前门，而不是全盘重写。学术 MIPS 工作得到一个对系统论文少见的干净凸分析钩子。
未来六个月看：开源复现能否贴上 NQ 的延迟-召回曲线；键集要多久重建一次网络才过期；以及是否有大型消费级助手在生产检索说明里引用 SupportNet/KeyNet 类摊销。
[1]收束
Apple 有用的句子不是神经网络能取代索引。而是：RAG 检索恰好是 "知道明天查询长什么样" 值得付一笔一次性训练账单的地方。 六个月后，要么生产栈在自有日志上展现同样的召回-延迟移动，要么摊销 MIPS 仍是漂亮的 ICML 结果，通用 IVF 继续出货更猛。
[1]