Rohan Paul
@rohanpaul_ai
OpenAI 构建了 BioBasicsBench,这是一项测试,为 AI 代理提供真实实验室工作的混乱原始数据,例如凝胶照片和显微镜视频,并对他们是否正确读取数据进行评分。
GPT-6 Astra 在新的湿实验室基准上获得了 66.7% 的可用信用,而 GPT-5.6 Sol 为 43.8%。
BioBasicsBench 与酶设计公司 Ligo 共同构建,从科学家的原始凝胶、菌落板、显微镜、测序读数和工作台视频中提取了 100 项任务。
它的评分标准给出了部分评价,包括发现错误或说证据不能支持结论。
在 xhigh 设置下,Astra 每个任务使用 4,704 个输出标记,大约是旧模型的一半,因此较长的推理不会带来增益。