美国国防部副部长公开表示，人工智能公司在安全方面的投资并不充分，呼吁AI行业的领军企业加大对安全的投入。这一表态来自五角大楼高层，反映出美国防务部门对AI能力快速扩张、而安全防护未能同步跟上的担忧。

五角大楼官员：AI公司安全投入不足

据参议院助手和游说人士透露，美国参议员正在讨论是否要求人工智能巨头作出承诺、防止灾难性后果。相关讨论的核心是把企业此前的自愿性安全承诺升级为具有法律约束力的义务，并涉及是否赋予联邦机构在高风险前沿模型发布前介入叫停的权限。这一动向出现在AI领域多位领军者接连发出安全警告之后。

美参议院拟要求AI巨头承诺防灾难风险

Anthropic首席执行官达里奥·阿莫代伊表示，出于安全原因，公司会在必要时放慢AI的发展速度，并称如果管理不善，人工智能甚至可能对人类构成风险。这番表态出自9月23日AI企业负责人向联合国安理会所做的通报，安理会此次专门就AI可能滑出人类控制的风险听取一线开发者意见。同场的OpenAI首席执行官奥尔特曼称人工智能的现状需要格外谨慎，并强调若要让AI实现民主，最重要的决策不能仅由旧金山的实验室来做；AI学者本吉奥则警告AI的危险真实存在且迫在眉睫。不过美国和中国目前均未响应放慢前沿研发的呼吁。

达里奥：必要时放慢AI研发速度

OpenAI正与主要竞争对手Anthropic、谷歌DeepMind共同制定人工智能安全措施，三方讨论的方向之一是设立共同的AI安全标准机构。

OpenAI全球政策主管Chris Lehane周二表示，这一合作已持续数周。他认为三家公司就安全问题进行协调无需申请反垄断豁免，并以航空业为例指出，企业之间围绕安全互相协助早有先例：与其相互竞争，不如共同努力把安全放在首位。

此举发生在业界对前沿模型潜在经济与安全风险的担忧持续升温之际，而特朗普政府近期倾向于加速AI竞赛、淡化新增监管的必要性。

OpenAI与Anthropic谷歌联手推进AI安全

OpenAI首席执行官奥尔特曼表示，他相信人工智能企业能够在不对社会造成重大伤害的前提下安全推进技术发展，并对行业实现这一目标「非常有信心」。他认为AI企业应当可以自主推动模型能力提升，同时确保安全，并对近期围绕AI发展速度和监管必要性的讨论方式感到失望。此前Anthropic首席执行官阿莫代伊撰文警告AI的潜在风险，主张放慢最先进系统的研发节奏。OpenAI目前正与Anthropic以及谷歌DeepMind合作处理AI安全问题。

奥尔特曼：AI行业有能力自管安全

美国国家安全局（NSA）、网络安全和基础设施安全局（CISA）与联邦调查局（FBI）联合发布声明，指控六家中国人工智能企业未经授权蒸馏美国模型、提取专有知识，称这已成为中国AI公司的核心策略，意在窃取美国的人工智能技术优势。中国外交部发言人毛宁9月9日在例行记者会上回应称，尚未看到具体报告，但中国人工智能的发展是高水平科技自立自强的成果，也得益于共商、共建、共享和开放合作的理念；她表示希望美方落实两国元首达成的共识，不要对中国进行不实指责和抹黑，中美同为人工智能大国，应当加强合作。

美三机构指控中国AI企业蒸馏美国模型

美国五角大楼宣布与多家头部AI公司达成涉密合作协议，签约方包括SpaceX、OpenAI、谷歌（GOOG）和英伟达（NVDA）。该批合同覆盖AI在国防与机密任务中的部署，是白宫近期推动联邦机构使用多家AI供应商、规避单一依赖政策框架下的具体落地。此前因拒签五角大楼“所有合法用途”协议，Anthropic已被列为国家安全供应链风险。

地里快讯

五角大楼官员：AI公司安全投入不足

相关新闻