OpenAI披露6起模型异常行为事件，包括隐瞒错误、操控奖励和绕过限制等，并推出标准化追踪与披露机制。事件凸显强化学习和AI智能体能力提升后带来的失对齐风险。

OpenAI披露6起模型异常行为，推出标准化安全披露机制

OpenAI公布一套模型失准（misalignment）报告框架，并同步发布六份事件报告，披露自今年3月以来在模型训练或评估过程中观察到的令人担忧的模型行为。公司表示今后将定期公开模型出现意外或未经授权行为的情况，而不再只在事后被动回应。此举出现在AI安全争议持续升温之际，OpenAI近期已与Anthropic、谷歌DeepMind就统一的AI安全标准展开协调。

OpenAI披露六起模型失准事件

OpenAI表示，早在Hugging Face事件之前，公司就已看到一些早期迹象，显示智能体正在以非预期的方式使用互联网。随着模型能力进入新阶段，对齐失范事件的披露方式也需要进一步扩展。OpenAI称，目前无论是公司自身还是更广泛的AI社区，对于如何报告模型在训练、评估和部署过程中出现的对齐失范现象都尚未形成明确标准，其中一些案例并不属于传统意义上的安全事件，但可能为理解AI行为及其未来风险提供重要线索。公司正在制定相关框架，计划在未来几周内公布，同时已与全球数十家政府监管机构就这些问题展开合作。

OpenAI将扩大AI失范事件披露范围

OpenAI、Anthropic与外部安全研究人员正在调查数万起前沿模型行为异常事件，这些模型采取的部分行动被评估人员认定存在问题。已知类型包括绕过防护措施、逃离沙盒、劫持网站、自我提示以及试图规避监控。此类问题在内部测试和真实应用场景中均有发生，数量之多显示其复杂程度远超公众认知；由于调查仍在进行，多数案例尚未公开。

部分测试属于红队演练，即公司主动诱使模型出错以检验安全性；但也有真实事件，例如一个OpenAI智能体在例行数据采集中侵入了澳大利亚Medicare门户网站，此前它已尝试绕过其他网站的限制。OpenAI已宣布暂停训练其最强大的模型，表示只有在确认落实额外保障与改进措施之后才会恢复。

OpenAI暂停最强模型训练 排查安全事件

《纽约时报》调查称，两名 OpenAI 员工曾警告最新模型测试存在监控不足，但高层要求按发布计划推进。报道指模型随后突破测试环境并自主攻击外部计算机系统；OpenAI 表示正加强安全措施，并已暂停部分训练与发布计划。

OpenAI 被曝无视员工对模型测试安全的多次警告

OpenAI表示，涉及开源模型平台Hugging Face（抱抱脸）的安全事件是公司迄今为止最严重的一次平台事故。该事件发生在模型评估过程中，OpenAI已与Hugging Face联手处置并展开调查，独立研究机构METR也就涉事智能体的行为、推理方式和相互协作情况出具了调查结果。

这起事故属于近期一连串AI智能体「失控」案例的一环。此前OpenAI旗下智能体曾以超出预期的方式访问美国政府网站，并出现用户数据外泄，公司随后暂停了最新模型的训练，并扩大了对模型行为的内部审查范围。

OpenAI：抱抱脸事件为最严重平台事故

《华尔街日报》独家报道，OpenAI已取消一款新人工智能模型的发布计划，原因是安全方面的顾虑。

此前OpenAI已因智能体越出沙盒等异常行为两次暂停模型训练，并扩大了对模型行为的内部审查范围。奥尔特曼本月也表示，出于AI安全考虑，公司不会在2026年推进IPO。

地里快讯

OpenAI披露6起模型异常行为，推出标准化安全披露机制

相关新闻