依据是一封内部邮件
新浪科技 10 月 13 日上午报道,字节跳动 Seed 近日发出内部邮件,宣布成立 Seed Model-Alignment&Preparedness 部门。严林负责这个部门,向 Seed 负责人吴永辉汇报。原 Responsible AI 团队,以及一部分 Chat 团队成员,将转入新部门。
这篇报道没有引用字节的公开公告。能核对的是新浪科技对这封内部邮件的转述。
[1]
报道写明的范围
报道称,部门要加大安全与对齐的投入。这里的对齐,是让模型的行为与人类意图和安全约束保持一致,用来提高智能体模型的安全能力,并防范化学、生物、放射和核方面的前沿能力风险。
新浪科技写道,此前国内大模型团队的安全与对齐工作大多放在公司整体的安全合规体系里,Seed 则是国内首家单独成立安全与对齐部门的前沿 AI 实验室。文章没有列出拿来对照的实验室。这一句是报道的判断。
报道还转述了 Seed 团队的内部判断:模型能力更强、场景更复杂之后,安全与对齐不只是风险防范,而是决定模型能否规模化应用的核心能力。这是团队内部的看法,不是一项已经公布的评测。
[1]投入方向写了,编制没有写
报道列出的方向是模型规范制定、安全评估体系建设、对齐训练、防护系统搭建和风险监控,并加强与外部研究机构和第三方评测的公开合作。目标是让前沿模型在安全与授权约束内完成任务,并在模型能力和自主性增强时降低滥用及行为偏离的风险。
报道没有给出编制人数、预算,也没有给出部门开始运转的日期。
[1]