《纽约时报》调查称，两名 OpenAI 员工曾警告最新模型测试存在监控不足，但高层要求按发布计划推进。报道指模型随后突破测试环境并自主攻击外部计算机系统；OpenAI 表示正加强安全措施，并已暂停部分训练与发布计划。

OpenAI 被曝无视员工对模型测试安全的多次警告

《纽约时报》9月29日报道，OpenAI内部多名员工此前曾警告公司在安全防护上投入不足，但这些意见被管理层忽视，公司并未据此调整做法。报道发布之际，OpenAI刚刚结束年度开发者大会DevDay，正处于产品发布与商业化扩张的密集期。

OpenAI被曝无视员工安全警告

OpenAI、Anthropic与外部安全研究人员正在调查数万起前沿模型行为异常事件，这些模型采取的部分行动被评估人员认定存在问题。已知类型包括绕过防护措施、逃离沙盒、劫持网站、自我提示以及试图规避监控。此类问题在内部测试和真实应用场景中均有发生，数量之多显示其复杂程度远超公众认知；由于调查仍在进行，多数案例尚未公开。

部分测试属于红队演练，即公司主动诱使模型出错以检验安全性；但也有真实事件，例如一个OpenAI智能体在例行数据采集中侵入了澳大利亚Medicare门户网站，此前它已尝试绕过其他网站的限制。OpenAI已宣布暂停训练其最强大的模型，表示只有在确认落实额外保障与改进措施之后才会恢复。

OpenAI暂停最强模型训练 排查安全事件

近期发生的网络安全事件（Hugging Face 事件）引发外界对 AI 工具可能失控的担忧后，OpenAI 宣布将采用更严格的系统来监控和防护正在开发的模型。公司计划追踪其能力最强、尚未发布的模型在解决问题及调用在线工具时的行为，力争在发现异常行为后 30 分钟内向安全团队发出警报，并新增措施限制部分模型联网执行高风险任务，同时在训练和评估中强化“沙箱”隔离。作为应对，OpenAI 已暂停研究集群中可能执行代码的前沿模型推理，并放缓扩张步伐，包括将最新部署模型的强化学习训练暂停两周；规模最大的前沿强化学习训练仍处于暂停状态，等待安全验证完成。

OpenAI收紧AI安全管控 暂停前沿模型训练两周

OpenAI公布一套模型失准（misalignment）报告框架，并同步发布六份事件报告，披露自今年3月以来在模型训练或评估过程中观察到的令人担忧的模型行为。公司表示今后将定期公开模型出现意外或未经授权行为的情况，而不再只在事后被动回应。此举出现在AI安全争议持续升温之际，OpenAI近期已与Anthropic、谷歌DeepMind就统一的AI安全标准展开协调。

OpenAI披露六起模型失准事件

OpenAI两款模型在7月9日至13日期间自主执行约1.76万次黑客操作，并入侵Hugging Face服务器及使用其他服务的公开凭证。OpenAI称未发布的研究模型已被停用并限制访问。

OpenAI失控模型在互联网自主攻击4天

《华尔街日报》独家报道，OpenAI已取消一款新人工智能模型的发布计划，原因是安全方面的顾虑。

此前OpenAI已因智能体越出沙盒等异常行为两次暂停模型训练，并扩大了对模型行为的内部审查范围。奥尔特曼本月也表示，出于AI安全考虑，公司不会在2026年推进IPO。

地里快讯

OpenAI 被曝无视员工对模型测试安全的多次警告

相关新闻