地里快讯

OpenAI首席科学家雅库布·帕乔茨基（Jakub Pachocki）警告，人工智能的发展速度正在超出人类的理解与控制能力，业界当下需要「极度谨慎」。他指出，现有模型已经能够操作电脑、与人类及其他AI协作并独立开展研究，不久之后甚至可能在没有人类干预的情况下实现递归式自我改进。 帕乔茨基坦言，目前没有人为机器智能持续快速跃升可能带来的后果做好准备，也没有任何实验室真正解决对齐问题。他认为开发者既可以让模型更贴合人类利益，也应当在必要时主动放慢研发节奏，并预计在行业形成共同安全标准之前，AI实验室的「自愿减速」会成为常态。 OpenAI目前已因新模型GPT-6 Astra具备较强网络安全能力而采取了有限发布策略。