OpenAI和Anthropic员工正在传阅请愿书，呼吁美国政府支持国际合作，建立技术与治理机制，以有针对性地调控前沿AI自动化的发展节奏。请愿书警告，AI进展可能快于人类理解和控制能力，并带来切实风险。

AI员工促美支持发展节奏治理

Anthropic周四发布博客文章，呼吁全球顶尖AI实验室考虑放缓研发步伐，并警告AI系统正接近能够在无需人类干预下「递归式自我改进」的临界点，可能引发重大社会风险。公司披露内部数据，记录其最先进模型性能正以惊人速度提升。Anthropic提议达成一项全球协议，明确放缓前沿AI研发的方式，并建立可验证竞争对手是否遵守的机制，以便社会结构与安全研究能跟上技术发展的步伐。

Anthropic呼吁全球暂缓前沿AI研发

Anthropic首席执行官达里奥·阿莫代伊表示，出于安全原因，公司会在必要时放慢AI的发展速度，并称如果管理不善，人工智能甚至可能对人类构成风险。这番表态出自9月23日AI企业负责人向联合国安理会所做的通报，安理会此次专门就AI可能滑出人类控制的风险听取一线开发者意见。同场的OpenAI首席执行官奥尔特曼称人工智能的现状需要格外谨慎，并强调若要让AI实现民主，最重要的决策不能仅由旧金山的实验室来做；AI学者本吉奥则警告AI的危险真实存在且迫在眉睫。不过美国和中国目前均未响应放慢前沿研发的呼吁。

达里奥：必要时放慢AI研发速度

AI公司Anthropic公开呼吁全球暂停前沿AI开发并建立监管机制，警告AI自我迭代可能快速超越人类、存在失控风险。但业内普遍认为，在激烈商业竞争与IPO压力下，安全承诺难以真正落地。

Anthropic呼吁全球暂停前沿AI开发

OpenAI、Anthropic等顶级AI公司的首席执行官（包括OpenAI的奥尔特曼）联名签署一封公开信，呼吁美国立法防范AI被用于开发生物武器，要求建立相应的安全防护机制。此举正值奥尔特曼赴国会就AI监管发声、反对强制要求AI模型审批之际。

顶级AI公司CEO联名呼吁立法防生物武器

OpenAI正在考虑放慢前沿AI的研发节奏。多位知情人士透露，首席执行官奥尔特曼在本周的全员会议上告诉员工，公司可能会调整AI开发的速度，并希望与其他几家AI实验室协同推进，但也坦言部分实验室未必会配合。近几周，多家头部AI公司的员工公开表达了对先进AI系统风险上升的担忧，令行业内部的焦虑情绪进一步升温。OpenAI与竞争对手Anthropic均已在今年早些时候提交了保密上市申请文件。

OpenAI考虑放缓前沿AI研发

未来生命研究所将于周二举办支持以人为本人工智能大会，前Anthropic研究员雅各布·考克森、参议员伯尼·桑德斯与前特朗普政府顾问史蒂夫·班农将同台发声，共同呼吁保持人类对AI的掌控。这家非营利倡导组织是《拥护人类的人工智能宣言》的发起方，宣言主张保护人类自主权、避免权力集中，并要求企业承担责任。考克森曾任职OpenAI，之后加入Anthropic，又因安全担忧从后者辞职，他将在活动现场发表讲话。班农在声明中称，寡头们终于被迫承认，他们从一开始就在无防护措施加速发展的危险性上撒了谎，已将国家和全人类置于险境。此前一个周末，多位AI领域领军人物在一连串AI相关网络安全事件后公开呼吁放缓研发步伐。

地里快讯

AI员工促美支持发展节奏治理

相关新闻