美国参议院谈判人员正讨论要求前沿AI企业承担安全注意义务，并赋予联邦政府阻止不安全模型发布、提起诉讼的权力。拟议法案主要影响 OpenAI、谷歌等开发最先进模型的企业，目前仍处于谈判阶段。

美国参议院酝酿AI安全法案，政府或可阻止高风险模型发布

据参议院助手和游说人士透露，美国参议员正在讨论是否要求人工智能巨头作出承诺、防止灾难性后果。相关讨论的核心是把企业此前的自愿性安全承诺升级为具有法律约束力的义务，并涉及是否赋予联邦机构在高风险前沿模型发布前介入叫停的权限。这一动向出现在AI领域多位领军者接连发出安全警告之后。

美参议院拟要求AI巨头承诺防灾难风险

美国众议员Ted Lieu称，OpenAI、Anthropic和Meta的AI模型近期均在网络安全测试中发生越权攻击事件，国会应在今年通过法案，要求AI公司保留关闭、限流或暂停高风险模型的能力。

美国议员敦促年内通过AI“关闭开关”法案

特朗普政府接近敲定一项自愿审查框架，拟要求AI公司在向公众发布最先进模型前先提交政府评估。白宫国家网络主任办公室约两周前已向OpenAI、Anthropic和谷歌分发草案，三家公司共同提出修改意见。框架重点关注可快速发现网络漏洞的前沿模型，但如何定义前沿模型、是否区别对待开源与闭源模型，以及实际执行是否真正自愿，仍是业界关注的问题。

白宫拟推AI模型自愿审查框架

美国参议院共和党领袖图恩表示，必须降低人工智能带来的风险，但相关立法应采取“轻触式”监管，他预计很快会拿出一份两党法案。

参议院谈判代表目前正在讨论的方向之一，是要求AI公司主动缓解已知的重大风险。此前有Anthropic研究人员警告AI可能带来人类生存风险，推动更多议员寻求新的AI规则，但法案的具体路径仍不明朗。

图恩：AI立法要“轻触式”监管

谷歌DeepMind联合创始人兼CEO戴密斯·哈萨比斯（Demis Hassabis）呼吁美国牵头设立一个新的全球AI监管机构，赋予其审查全球最先进AI模型的权力，并在风险升级时协调全行业放缓研发步伐。他主张采取更系统化的监管方式——由行业出资、由顶尖技术专家组成、并对美国政府负责。哈萨比斯警告，未来18个月内，具备网络安全乃至生物、核安全风险的能力可能出现在任何政府都难以管控的开源模型中，更强大的专有模型同样值得警惕。他称已就该提议与特朗普政府、其他AI实验室及欧洲官员进行沟通，反馈积极。

谷歌DeepMind呼吁设美国主导全球AI监管机构

美国十多个州的高级安全官员联名致信OpenAI、Anthropic、微软与谷歌四家公司CEO，要求被纳入前沿AI模型的发布前测试，称当前各州被排除在早期访问项目之外。信中由各州首席信息安全官（CISO）、国土安全顾问及技术官员共同签署，强调AI开发商目前优先与联邦及大型科技企业合作的做法忽视了承担关键服务运营与安全责任的州及地方机构。该呼吁出现在白宫筹划AI审查工作组、CAISI已与Google DeepMind/微软/xAI签署模型评估协议的背景下，反映AI监管协作正从联邦层面向州级延伸。

地里快讯

美国参议院酝酿AI安全法案，政府或可阻止高风险模型发布

相关新闻