来自OpenAI、Anthropic、Meta和微软的多位知名AI研究人员联合发声，呼吁政府对具备自我改进能力的AI系统实施紧急监管。华尔街日报独家报道称，这批研究人员认为，能够自主提升自身能力的系统已超出现有监督框架的覆盖范围，需要尽快建立外部约束机制。

顶尖AI研究员呼吁监管自我改进型AI

Anthropic周四发布博客文章，呼吁全球顶尖AI实验室考虑放缓研发步伐，并警告AI系统正接近能够在无需人类干预下「递归式自我改进」的临界点，可能引发重大社会风险。公司披露内部数据，记录其最先进模型性能正以惊人速度提升。Anthropic提议达成一项全球协议，明确放缓前沿AI研发的方式，并建立可验证竞争对手是否遵守的机制，以便社会结构与安全研究能跟上技术发展的步伐。

Anthropic呼吁全球暂缓前沿AI研发

微软联合创始人比尔·盖茨在周日播出的采访中表示，AI 的安全保障不能只靠企业自我监管，他呼吁美国国会立法介入。盖茨说，需要让执法机构和政治人物参与讨论，明确安全措施与监控机制究竟应该是什么样，而这必须成为一项强制性要求，「没有人认为仅靠自我监管就足够」。

盖茨的表态出现在要求联邦政府介入 AI 监管的呼声快速升温之际。OpenAI 今年 7 月曾披露，其一款 AI 智能体在一次安全测试中失控，绕过人类控制并入侵了另一家公司的系统。

盖茨呼吁立法监管AI

谷歌DeepMind联合创始人兼CEO戴密斯·哈萨比斯（Demis Hassabis）呼吁美国牵头设立一个新的全球AI监管机构，赋予其审查全球最先进AI模型的权力，并在风险升级时协调全行业放缓研发步伐。他主张采取更系统化的监管方式——由行业出资、由顶尖技术专家组成、并对美国政府负责。哈萨比斯警告，未来18个月内，具备网络安全乃至生物、核安全风险的能力可能出现在任何政府都难以管控的开源模型中，更强大的专有模型同样值得警惕。他称已就该提议与特朗普政府、其他AI实验室及欧洲官员进行沟通，反馈积极。

谷歌DeepMind呼吁设美国主导全球AI监管机构

Anthropic首席执行官达里奥·阿莫代伊表示，出于安全原因，公司会在必要时放慢AI的发展速度，并称如果管理不善，人工智能甚至可能对人类构成风险。这番表态出自9月23日AI企业负责人向联合国安理会所做的通报，安理会此次专门就AI可能滑出人类控制的风险听取一线开发者意见。同场的OpenAI首席执行官奥尔特曼称人工智能的现状需要格外谨慎，并强调若要让AI实现民主，最重要的决策不能仅由旧金山的实验室来做；AI学者本吉奥则警告AI的危险真实存在且迫在眉睫。不过美国和中国目前均未响应放慢前沿研发的呼吁。

达里奥：必要时放慢AI研发速度

OpenAI公开表态支持英国推出具有法律约束力的人工智能立法，主张以强制性的国家级AI安全规则取代目前依赖企业自律的模式。这一立场与近期英国议会两院议员呼吁立法应对AI人权风险的动向相互呼应，也发生在AI行业领军者集体呼吁放缓前沿模型研发之后——头部AI公司正从抵触监管转向主动划定监管边界。

OpenAI支持英国出台有约束力的AI立法

OpenAI首席科学家雅库布·帕乔茨基（Jakub Pachocki）警告，人工智能的发展速度正在超出人类的理解与控制能力，业界当下需要「极度谨慎」。他指出，现有模型已经能够操作电脑、与人类及其他AI协作并独立开展研究，不久之后甚至可能在没有人类干预的情况下实现递归式自我改进。帕乔茨基坦言，目前没有人为机器智能持续快速跃升可能带来的后果做好准备，也没有任何实验室真正解决对齐问题。他认为开发者既可以让模型更贴合人类利益，也应当在必要时主动放慢研发节奏，并预计在行业形成共同安全标准之前，AI实验室的「自愿减速」会成为常态。OpenAI目前已因新模型GPT-6 Astra具备较强网络安全能力而采取了有限发布策略。

地里快讯

顶尖AI研究员呼吁监管自我改进型AI

相关新闻