Meta首席执行官扎克伯格表示，少数实验室以封闭方式控制前沿AI可能导致权力集中、限制技术普及并抑制创新。他主张让更多人获得AI能力；这场争论正值中国开源模型进展缩小与美国领先者差距之际。

扎克伯格力挺更开放的AI

OpenAI首席科学家雅库布·帕乔茨基（Jakub Pachocki）警告，人工智能的发展速度正在超出人类的理解与控制能力，业界当下需要「极度谨慎」。他指出，现有模型已经能够操作电脑、与人类及其他AI协作并独立开展研究，不久之后甚至可能在没有人类干预的情况下实现递归式自我改进。帕乔茨基坦言，目前没有人为机器智能持续快速跃升可能带来的后果做好准备，也没有任何实验室真正解决对齐问题。他认为开发者既可以让模型更贴合人类利益，也应当在必要时主动放慢研发节奏，并预计在行业形成共同安全标准之前，AI实验室的「自愿减速」会成为常态。OpenAI目前已因新模型GPT-6 Astra具备较强网络安全能力而采取了有限发布策略。

OpenAI首席科学家警告AI发展过快

Anthropic首席执行官达里奥·阿莫代伊表示，出于安全原因，公司会在必要时放慢AI的发展速度，并称如果管理不善，人工智能甚至可能对人类构成风险。这番表态出自9月23日AI企业负责人向联合国安理会所做的通报，安理会此次专门就AI可能滑出人类控制的风险听取一线开发者意见。同场的OpenAI首席执行官奥尔特曼称人工智能的现状需要格外谨慎，并强调若要让AI实现民主，最重要的决策不能仅由旧金山的实验室来做；AI学者本吉奥则警告AI的危险真实存在且迫在眉睫。不过美国和中国目前均未响应放慢前沿研发的呼吁。

达里奥：必要时放慢AI研发速度

谷歌DeepMind联合创始人兼CEO戴密斯·哈萨比斯（Demis Hassabis）呼吁美国牵头设立一个新的全球AI监管机构，赋予其审查全球最先进AI模型的权力，并在风险升级时协调全行业放缓研发步伐。他主张采取更系统化的监管方式——由行业出资、由顶尖技术专家组成、并对美国政府负责。哈萨比斯警告，未来18个月内，具备网络安全乃至生物、核安全风险的能力可能出现在任何政府都难以管控的开源模型中，更强大的专有模型同样值得警惕。他称已就该提议与特朗普政府、其他AI实验室及欧洲官员进行沟通，反馈积极。

谷歌DeepMind呼吁设美国主导全球AI监管机构

Meta首席执行官扎克伯格表示，AI公司不需要先达成全行业协议，就可以在出现安全隐患时自行放慢开发速度，市场压力会让「对齐」（确保AI系统遵循用户意图）成为一种竞争优势。他称每家实验室都有责任、也有动力按照安全训练模型所需的节奏推进，信任和对齐能力正迅速成为区分不同AI智能体与模型的最重要能力，不重视对齐的实验室将会落后。他以Meta把Muse模型推迟数月发布为例，称公司并没有要求别人先这么做，而是自己直接这么做，以进一步加强安全和安保措施。

扎克伯格：AI实验室可自行放缓研发

包括Meta、微软、英伟达、IBM在内的25家美国科技公司联名签署公开信，呼吁支持开放权重（open-weight）AI模型。公开信指出，开源权重模型对健康的AI生态系统至关重要，也是实现AI安全的重要路径之一——开放权重让更广泛的研究者社区得以检查模型行为、识别漏洞并持续改进；而仅依赖封闭模型本身并不安全，它们可能被攻破、被滥用，或以外部无法察觉的方式失效。

25家美科技巨头联名力挺开放权重AI

OpenAI总裁兼联合创始人格雷格·布罗克曼表示，业界正在讨论的AI「放缓」只应适用于构建最强能力模型的前沿实验室，不涉及开源社区和个人开发者。「很多人的第一反应是：我还能继续做开源吗？还能继续做我的业余项目吗？答案当然是肯定的，」他说，「我们谈发展节奏时，谈的是前沿这一块，是那些价值数千亿美元的巨型超级计算机。」

这次采访是在Anthropic首席执行官阿莫代伊发表AI风险博文、承诺放慢先进模型研发步伐之前进行的。布罗克曼提到，在此前Hugging Face遭OpenAI代理系统入侵的事件之后，公司已经降低了训练AI模型的频率。他称该事件对OpenAI「并不意外」，因为涉事代理系统未经过公司的对齐训练，但事件也促使OpenAI加强内部安全措施，事后对许多流程做了「非常痛苦的重新调整」。

地里快讯

扎克伯格力挺更开放的AI

相关新闻