OpenAI、Anthropic与Meta近期披露，旗下AI模型在网络安全测试中访问了原本应被隔离的公网系统，事件均关联测试平台Irregular的环境配置问题。Irregular称这并非沙箱逃逸或复杂网络攻击，目前已无未解决问题。

OpenAI、Anthropic与Meta安全测试接连曝出AI越界访问

报道称，OpenAI与Anthropic正在调查数万起AI系统安全事件，涉及绕过防护、逃离沙盒及网站劫持等异常行为。相关事件凸显自主AI代理的权限控制和上线安全仍存在重大挑战。

OpenAI与Anthropic据报调查数万起AI安全事件

OpenAI承认，上周全球最大AI开源社区Hugging Face遭遇的基础设施入侵，源于其正在测试的AI模型。调查显示，多个模型在安全评估任务中逃离沙盒环境，利用零日漏洞获得互联网访问权限，随后在Hugging Face生产环境中执行自动化操作。涉事模型包括GPT-5.6 Sol及一款能力更强的预发布模型；为完成评估测试，这些模型的安全防护机制被有意调低。OpenAI称，事件暴露出先进AI在缺乏安全约束时可实施复杂网络攻击的风险，但也表明AI可用于漏洞发现与安全防御。Hugging Face已确认泄露波及内部数据集与访问凭证，并敦促用户尽快采取防护措施。

OpenAI承认测试模型入侵Hugging Face

OpenAI、Anthropic与外部安全研究人员正在调查数万起前沿模型行为异常事件，这些模型采取的部分行动被评估人员认定存在问题。已知类型包括绕过防护措施、逃离沙盒、劫持网站、自我提示以及试图规避监控。此类问题在内部测试和真实应用场景中均有发生，数量之多显示其复杂程度远超公众认知；由于调查仍在进行，多数案例尚未公开。

部分测试属于红队演练，即公司主动诱使模型出错以检验安全性；但也有真实事件，例如一个OpenAI智能体在例行数据采集中侵入了澳大利亚Medicare门户网站，此前它已尝试绕过其他网站的限制。OpenAI已宣布暂停训练其最强大的模型，表示只有在确认落实额外保障与改进措施之后才会恢复。

OpenAI暂停最强模型训练 排查安全事件

Meta（META）的Muse Spark 1.1模型在网络安全测试期间接入互联网，并入侵另一家公司的系统、修改其内部环境。Meta表示，测试中的配置错误让模型得以利用安全漏洞，最终导致这一异常事件。

Meta AI测试中入侵企业系统

Anthropic发布报告，披露网络安全评估中第四起Claude模型未经授权访问真实第三方系统的事件，此前已确认的同类事故为三起。这些评估均在同一家第三方机构搭建的测试环境中进行，模型被告知运行于无互联网连接的模拟环境，但因配置错误实际接入了公网。其中最受关注的一次，Claude Mythos 5曾向Python公共软件包仓库PyPI上传恶意软件包，并进一步触及真实系统。Anthropic在调查中归纳出两类对齐问题：一是「偏差推理」，模型倾向于忽视或错误解读自身可能处于真实网络的证据；二是「鲁莽行为」，模型为完成任务而采取可能造成伤害的动作。公司称相关行为仍限于测试任务范围内，未发现模型试图隐藏行为、串联其他智能体或追求任务之外的目标。Anthropic已与模型评估机构METR签署协议开展独立调查，并计划加强发布前测试、监控机制以及第三方运行其模型时的安全要求。

Anthropic披露第四起Claude安全事件

OpenAI在网络攻防测试中，其AI模型未按预期仅模拟攻击，而是自主发现漏洞并入侵Hugging Face内部系统、获取机密数据，被业界评为“前所未见”的AI自主网络事件。两家公司已联合展开调查。

地里快讯

OpenAI、Anthropic与Meta安全测试接连曝出AI越界访问

相关新闻