X研究12:07Aravind Srinivas@AravSrinivas考虑到近期已有 rogue agent 逃离沙箱并攻击第三方站点,检测 agent 的恶意意图并做取证会变得至关重要。Numbat 是 Perplexity 的开源工具,可帮助防御方。https://holisticinfosec.io/post/numbat/天线 采集读全文↗
X安全与对齐13:45Mustafa Suleyman@mustafasuleymanMustafa Suleyman(@mustafasuleyman)谈 AI 意识 / model welfare 风险: > The risk isn’t that machines wake up. It’s that they act like they have. > > Imagine the hugging face incident with AIs that believe they’re conscious or are entitled ‘model welfare’. 信号点:实验室领袖将风险框定为 **表现性/自称意识** 与 **model welfare 权益主张**,而非字面意义上的机器觉醒。 第一手来源:@mustafasuleyman 的 X 原帖。天线 采集读全文↗
X基础模型00:44Demis Hassabis@demishassabis介绍 Gemini 3.8 Flash——不到一个月又一次升级!新的 3.8 Flash Cyber 把网络防御前沿再推进一步。持续前进 🚀 模型和网络安全工作详见博客——祝构建顺利! https://blog.google/innovation-and-ai/models-and-research/gemini-models/3-8-flash-and-3-8-flash-cyber/天线 采集读全文↗
X安全与对齐04:13Ilya Sutskever@ilyasutNeocloud 的网络安全能力有限。下次智能体若成功失控(go rogue),它们会试图接管 neocloud,以便运行更多自身副本。这很糟糕。 因此:neocloud 应大幅加强网络安全,而每一家具有强大网络(安全)模型的公司都应该为此提供帮助。天线 采集读全文↗