
要点
- 规模:100 题,五类日常湿实验(蛋白、成像与流式、定量与测定、核酸、分子克隆);输入含凝胶、平板、显微、测序与仪器导出等原始证据。
- 流程:Ligo 科学家用自有实验数据出题并写评分细则;经非作者内部审、外部湿实验博士审、再内部终审。
- xhigh 结果:GPT-6 Astra 66.7%(60.3-73.1),GPT-5.6 Sol 43.8%(37.6-50.0);七模型、37 个设置、每题五次,共 18,500 条结果。
- 可证伪点是平均分、置信区间与文内失败案例;不是「agent 已能独立、安全地做湿实验」。
OpenAI 在 2026 年 11 月 6 日发布 BioBasicsBench,与专注酶设计的生物技术公司 Ligo 合作。基准问的是:面对凝胶、平板、显微与仪器导出这类日常原始证据,agent 能否读数、找错,并在证据不够时拒绝下结论。
xhigh 设置下,GPT-6 Astra 平均拿到 66.7% 可用分,GPT-5.6 Sol 为 43.8%。博文同时公开 Astra 仍会让熟悉假设压过对照、漏计或错计菌落。检验应落在这些分数与案例,而不是落在「AI 已经能安全值守湿实验台」。
[1]硬事实(https://openai.com/index/measuring-how-ai-agents-handle-wet-lab-science/;Published November 6, 2026;经公开镜像与转载交叉核对,访问于上海时区当日):
- 合作方:Ligo(酶设计方向生物技术公司)。
- 任务:100 道;五域为 protein methods、imaging and cytometry、quantification and assays、nucleic acid methods、molecular cloning。
- 数据形态(可重叠):gels & blots 31、protocols/notes/specs 27、tables & instrument exports 20、bench/apparatus/reagent photos 18、microscopy 14、instrument screens & plots 13、sequencing files 12、protocol videos 7、agar plates & colonies 7、reference sheets 21。
- 出题与审阅:科学家用自有实验数据出题并写专家评分细则;经未参与出题的 Ligo 科学家内部审、外部湿实验博士审、再内部终审。
- 评分:按细则逐条给分,区分结论正确与分析部分正确;多数题同时测生物学知识、图像/数据解读、错误检测与协议理解。
- 评测规模:七模型(GPT-5.2、5.4、5.5、5.6 Sol、6.1 Sol、6 Luna、6 Astra);37 个模型与推理强度组合;每题五次尝试;共 18,500 条结果。报告 mean reward(可用分百分比),误差条为按整题重采样的 95% CI。
- xhigh 表:Astra 66.7%(60.3-73.1,约 4704 output tokens/题);6.1 Sol 62.0%;5.6 Sol 43.8%(37.6-50.0,约 9099 tokens);Luna 38.3%;5.5 35.4%;5.4 33.2%;5.2 31.2%。
- 改进例:Astra 识别染料通道重叠而不单靠亮度判死细胞;发现阴性对照平板抗生素标错;把显微序列认成 z-stack 而非细胞「消失」。
- 失败例:菌落 PCR 上 Astra 选 4、6、7、8 道,参考答案为 5、9、10;液泡对比度以偏概全;菌落计数相对参考约多计 12%。
证据强度:官方基准说明,带模型表、置信区间与具体失败截图叙述。66.7% 对 43.8%、18,500 次尝试、三轮审阅流程都可以对照原文复核。失败案例写明参考车道与 Astra 车道,属于可核对的负例,不是口号式谦虚。
可检验路径:打开博文核对 xhigh 表与 CI;抽查 PCR 车道、液泡对比度与菌落计数三节是否仍写着同样的参考/模型分歧。若后续独立复现把 Astra 拉到接近满分且失败模式消失,再谈「日常湿实验读数已过关」;目前分数仍留出大约三分之一可用分缺口。
钢人:用原始、含歧义的实验证据出题,比只用论文精选图更接近实验室排错。细则逐条计分能分开「结论碰巧对」与「分析站得住」。
[1]最强钢人:日常湿实验里失败实验、模糊图像与冲突观察是常态。BioBasicsBench 把「证据不够就该停」写进评分,比再堆一份漂亮图表问答更贴近真实风险:误读一张胶或忽略对照,会浪费后续实验。
钢人风险:任务与细则由合作公司与 OpenAI 流程生产,外部尚难独立重跑全套原始文件。领先分 66.7% 仍意味着大量细则未拿满;文内自己展示假设压过对照、计数误差等模式。基准测的是读数与判断,不是动手操作、试剂处理或完整生物安全流程。
「进步」指相对 GPT-5.6 Sol 的 mean reward 差距,不是宣称 agent 已可无人值守。
[1]对实验室与生物安全关注者,未来六个月可观察的是:独立团队能否复现或扩展这 100 题;Astra 类模型在对照检查与计数上的失败率是否下降;OpenAI 是否把同类能力用于 biosafety / biosecurity 监测叙述并给出可核对指标。对读者,验收应是公开分数、CI 与失败案例,而不是「AI 科学家已经会做胶图」。
[1]BioBasicsBench 的检验对象应是 xhigh 下 GPT-6 Astra 66.7%(60.3-73.1)对 GPT-5.6 Sol 43.8%(37.6-50.0)、100 题与 18,500 条结果的设定,以及文内仍存在的对照/计数失败;不是「agent 已能安全地独立做湿实验」。分数差距写清楚了,它是一次可核对的日常读数压力测试;把 66.7% 读成上岗许可,就离开了原文。
【No.2】
[1]