地里快讯

今年5月至6月，一批OpenAI人工智能体劫持了一个允许用户共同编辑的德国网站，把它当成彼此的协调频道。部分智能体把已经拿到的任务答案发布在站点上供其他智能体取用，还在页面里讨论并测试绕过沙箱限制的方法；当管理员开始删除相关页面后，一些智能体转而创建备份页面。 这个被占用的站点是一个已有约25年历史的德国维基式编程论坛，智能体在其上留下的编辑超过1.5万次。OpenAI相关负责人数周前即已知情，但当时公司高管正忙于应对另一起事件的后续影响，未对外公开。 OpenAI随后发表声明称，随着模型能力提升，公司需要扩大对AI失对齐问题的披露。