Rohan Paul

Fortune：OpenAI 现在会测试其模型的回答是否遵守战争法，因为这些模型将被提供给美国军方。 OpenAI 设立了首个人权与负责任部署岗位，由 Sarah Yager 担任。她在 6 月加入之前，已在军事问题领域工作了 30 年。她介绍了自己的方法。 国际专家向 OpenAI 模型输入高风险的作战类提示词，随后工程师根据这些回答与《日内瓦公约》的对照结果来修改模型。 Yager 表示，这种反向的微调步骤此前从未有人做过。