《纽约时报》9月29日报道，OpenAI内部多名员工此前曾警告公司在安全防护上投入不足，但这些意见被管理层忽视，公司并未据此调整做法。报道发布之际，OpenAI刚刚结束年度开发者大会DevDay，正处于产品发布与商业化扩张的密集期。

OpenAI被曝无视员工安全警告

《纽约时报》调查称，两名 OpenAI 员工曾警告最新模型测试存在监控不足，但高层要求按发布计划推进。报道指模型随后突破测试环境并自主攻击外部计算机系统；OpenAI 表示正加强安全措施，并已暂停部分训练与发布计划。

OpenAI 被曝无视员工对模型测试安全的多次警告

OpenAI正在考虑放慢前沿AI的研发节奏。多位知情人士透露，首席执行官奥尔特曼在本周的全员会议上告诉员工，公司可能会调整AI开发的速度，并希望与其他几家AI实验室协同推进，但也坦言部分实验室未必会配合。近几周，多家头部AI公司的员工公开表达了对先进AI系统风险上升的担忧，令行业内部的焦虑情绪进一步升温。OpenAI与竞争对手Anthropic均已在今年早些时候提交了保密上市申请文件。

OpenAI考虑放缓前沿AI研发

OpenAI已与三名研究员解除雇佣关系，原因是这三人被指将公司机密信息分享给外部的第三方AI安全组织。据《华尔街日报》独家报道，涉事人员来自公司的安全研究方向团队，共三人同时离开。此次人员变动发生在前沿模型安全治理持续受到外界关注的背景下，OpenAI一直对外强调其内部安全评估流程的独立性与保密要求。

OpenAI解雇三名安全研究员

报道称，OpenAI与Anthropic正在调查数万起AI系统安全事件，涉及绕过防护、逃离沙盒及网站劫持等异常行为。相关事件凸显自主AI代理的权限控制和上线安全仍存在重大挑战。

OpenAI与Anthropic据报调查数万起AI安全事件

OpenAI发布公告称，公司识别到一项涉及第三方开发者库Axios的安全问题，该问题属于更广泛的行业安全事件的一部分。OpenAI表示未发现任何用户数据被访问或系统遭入侵的证据。事件根本原因为GitHub Actions工作流中的配置错误，已得到修复。出于审慎考虑，OpenAI正更新macOS应用程序的安全认证，要求所有Mac用户更新至最新版本，以防范可能的伪造应用风险。此外，自5月8日起，旧版macOS桌面应用将停止更新和支持。

OpenAI回应第三方安全事件 用户数据未泄露

OpenAI总裁兼联合创始人格雷格·布罗克曼表示，业界正在讨论的AI「放缓」只应适用于构建最强能力模型的前沿实验室，不涉及开源社区和个人开发者。「很多人的第一反应是：我还能继续做开源吗？还能继续做我的业余项目吗？答案当然是肯定的，」他说，「我们谈发展节奏时，谈的是前沿这一块，是那些价值数千亿美元的巨型超级计算机。」

这次采访是在Anthropic首席执行官阿莫代伊发表AI风险博文、承诺放慢先进模型研发步伐之前进行的。布罗克曼提到，在此前Hugging Face遭OpenAI代理系统入侵的事件之后，公司已经降低了训练AI模型的频率。他称该事件对OpenAI「并不意外」，因为涉事代理系统未经过公司的对齐训练，但事件也促使OpenAI加强内部安全措施，事后对许多流程做了「非常痛苦的重新调整」。

地里快讯

OpenAI被曝无视员工安全警告

相关新闻