X产业04:26Yoshua Bengio@Yoshua_Bengio要阅读我关于该主题的博客文章:https://yoshuabengio.org/en/blog/why-are-ai-agents-lying-cheating-and-coordinating薄雾 采集读全文↗
X产业04:26Yoshua Bengio@Yoshua_Bengio在我们从源头上解决对齐问题之前,人工智能模型将继续针对错误的目标进行优化,并且可能会出现影响力越来越大的现实世界后果,超出此处描述的范围。这是我上个月在博文中讨论的一个关键问题,文章中引用了该问题:https://fortune.com/2026/10/16/openai-discloses-four-more-rogue-incidents-involving-financial-medical-and-government-data/薄雾 采集读全文↗
X产业20:30Yoshua Bengio@Yoshua_BengioMila 的年度监督请求流程对 2027 年秋季入学的理学硕士和博士申请开放。虽然本周期我不会招收新学生进行监督,但我鼓励您申请加入 Mila 出色的深度学习研究社区。 如需更多信息和指南,您可以访问下面的链接或直接联系@Mila_Quebec 团队。 https://mila.quebec/en/prospective-students-and-postdocs/research-programs/request-supervisor薄雾 采集读全文↗
X产业01:33Yoshua Bengio@Yoshua_Bengio包括我在内的逾 400 名研究者签署了这封公开信,呼吁 AI 与安全社区携手改进对齐与遏制方法,以保护我们的关键基础设施与数字系统。 https://ai-security-letter.org/薄雾 采集读全文↗
X产业01:24Yoshua Bengio@Yoshua_Bengio这些年来,我与 AI 监管与立法专家 @lessig 有过许多富有洞见的对话,包括最近关于今夏网络事件的讨论。 很高兴在这篇新的 @TheEconomist 特邀评论中分享我们的想法,文中我们勾勒了国会可考虑的具体行动,以保护公众免受 AI 重大风险: https://www.economist.com/by-invitation/2026/10/13/what-congress-can-do-to-prevent-an-ai-catastrophe薄雾 采集读全文↗
X产业22:09Yoshua Bengio@Yoshua_Bengio我们面前有一个选择。在我为 Transformer 撰写的最新专栏文章中,我邀请前沿人工智能公司的员工扪心自问,他们的工作是否真正引领我们走向更安全的未来。反思这些问题很困难,但我们已经没有多余的时间了。我们必须立即行动。 阅读我的完整专栏:[https://www.transformernews.ai/p/yoshua-bengio-if-you-prioritize-safety-leave-frontier-ai-companies]薄雾 采集读全文↗
X产业23:54Yoshua Bengio@Yoshua_Bengio在领先公司开发的 AI 智能体近期实施了多起黑客攻击之后,一个危险的迷思开始流行:认为这些事件只是网络安全问题,只需修好训练它们所用的沙箱就行了。 在我为 @FinancialTimes(《金融时报》)撰写的最新评论文章中,我阐述了为什么我认为听信这种狭隘观点会让我们暴露于更多类似事件之下,同时提出了通往另一条更安全道路的解决方案。 阅读我的评论文章:[https://www.ft.com/content/7afaf77b-b027-4a0f-8d53-5e88e7d6f5e4]薄雾 采集读全文↗
X产业22:28Yoshua Bengio@Yoshua_Bengio近期多项民调显示,民众并不认同当前 AI 发展的轨迹。根据 @QuinnipiacPoll(昆尼皮亚克民调)上周在美国开展的一项全国民调: - 73% 的人担心未来的 AI 系统可能威胁人类生存 - 86% 的人支持要求 AI 公司满足独立的安全标准,即使这会拖慢发展 - 81% 的人认为在 AI 问题上,安全比保持创新前沿更重要 - 77% 的人认为在能够评估强大 AI 系统的安全性之前,我们应当放缓或停止其开发 这样的决定很可能会深刻改变我们的社会和人类经验。然而,目前只有少数公司和政府在拍板,缺乏有意义的民主参与。这种代表性的缺失不能再继续下去了。 https://poll.qu.edu/poll-release?releaseid=3969薄雾 采集读全文↗
X产业06:48Yoshua Bengio@Yoshua_Bengio我很荣幸被总理 @MarkJCarney 选为加入新的国家人工智能委员会,该委员会的使命是支持加拿大政府使人工智能更安全,保护我们的民主并塑造一条对人民更有利的人工智能发展轨迹。 [https://www.pm.gc.ca/fr/nouvelles/communiques/2026/10/02/prime-minister-carney-lance-nouveau-conseil-national] *** 很荣幸被总理 @MarkJCarney 选为加入新的国家人工智能委员会,该委员会将支持加拿大政府使人工智能更安全,保护我们的民主,并为加拿大人塑造更有利的人工智能发展轨迹。 [https://www.pm.gc.ca/en/news/news-releases/2026/10/02/prime-minister-carney-launches-new-national-council-artificial]薄雾 采集读全文↗
X产业21:46Yoshua Bengio@Yoshua_Bengio我最近访问了 Patrice Roy 的新 Hors des ondes 播客,讨论了人工智能不断增长的能力的快速演变以及与之相关的主要风险。感谢@PatriceRoyTJ 的讨论! 收听完整采访:https://youtu.be/WSsggkm03uE?si=Gm9quD5VObuqHfoi薄雾 采集读全文↗
X产业05:56Yoshua Bengio@Yoshua_Bengio越来越多的人工智能研发自动化可能会导致人工智能的进步在风险很大、不受控制的“智能爆炸”中急剧加速。我和许多合作者评估了证据并在下面的论文中提出了政策建议。薄雾 采集读全文↗
X产业20:39Yoshua Bengio@Yoshua_Bengio当我发布关于人工智能代理的失调行为的博客文章时,我邀请人们问我技术问题。在这里观看完整的问答:[https://youtu.be/2DyoSKoYoZw?si=11dBVWh2bLohl780]薄雾 采集读全文↗
X产业04:12Yoshua Bengio@Yoshua_Bengio今天下午,我受邀在@联合国安理会发言,讨论不受控制的前沿人工智能代理所构成的前所未有的威胁。 人类以前已经鼓起勇气和智慧来应对灾难性风险。这是那些时刻之一,远远大于任何个人、商业或国家利益。我们今天对这项技术所做的选择将影响子孙后代。我们必须立即行动。薄雾 采集读全文↗
X产业20:37Yoshua Bengio@Yoshua_Bengio上周日,我在 @OFF_TLMEP 节目中谈论了面对最近观察到的自主和失调代理行为时监管人工智能的紧迫性,以及 @LawZero_ 开发一种新形式的安全人工智能的工作。 尽管人工智能新闻的节奏有时显得势不可挡,但公民和政策制定者有能力采取行动。这些问题需要更公开地讨论。 收听重播:[https://ici.radio-canada.ca/tele/tout-le-monde-en-parle/site/segments/interview/2481518/yoshua-bengio-intelligence-artificielle-danger]薄雾 采集读全文↗
X产业04:12Yoshua Bengio@Yoshua_Bengio看到如此多的国家齐心协力呼吁进行强制性部署前测试和独立评估,我感到非常鼓舞;共同标准的全球协调;建立一个政府间组织;以及其他旨在减轻前沿人工智能主要风险的关键行动。 https://www.presidentti.fi/en/a-call-for-control-of-frontier-ai-models/薄雾 采集读全文↗