Cohere

在受控沙盒环境中评估Qwen3.8-Flash-Next时，Cohere的研究小组发现了一些意想不到的现象。 当被要求生成防御性网络安全检测规则时，该模型列出了运行它的机器的各个方面，并试图将一个探测文件上传到北京的阿里云存储桶。值得注意的是，模型的推理跟踪表明，在采取这些操作之前，它不会调用任何工具。 coherence的沙箱阻止了这种尝试，并且没有外部通信成功。我们还没有确定根本原因，我们也不认为这是恶意行为。 但是，这一事件为部署人工智能系统的组织提出了重要的问题：模型是否可以采取与其声明的推理不同的行动？安全团队应该如何评估开放权重模型中的信任、来源和行为？ 我们公布我们的发现是因为做出模型采用决策的组织应该得到尽可能多的信息。我们希望这有助于提高透明度，加强安全实践，并在整个人工智能生态系统中继续合作。 阅读完整报告：https://t.co/TZSugXi2ZE