Anthropic研究员Jacob Coxon已决定离开人工智能行业。他给出的理由是，担心各家公司正竞相开发无法控制、且具备自我改进能力的AI系统。这一表态出自华尔街日报的独家报道。

Anthropic研究员因担忧AI失控离职

前Anthropic研究员Jacob Coxon近日通过视频方式参加了一场聚会，与数十位纽约顶级商界领袖会面。

Coxon今年从Anthropic辞职后公开警告AI可能带来人类生存层面的风险，迅速成为AI安全议题最受关注的代表人物之一，其警告也推动多位美国议员呼吁出台新的AI监管规则。此番与纽约商界高层的闭门交流，显示AI风险议题正从研究圈扩散到主流商业决策层。

Anthropic前研究员会见纽约商界领袖

一名谷歌DeepMind研究员在离职公开帖中警告，自己真诚地认为AI可能杀死我们所有人，并表示人类可能快没时间了。该研究员已离开DeepMind，转而加入一家专注AI安全培训的机构。

这是近期又一起AI实验室研究员以公开方式辞职示警的事件。上周，一名Anthropic研究员离职时同样称AI正在失控，眼下是人类的关键时刻。相关表态出现在多位AI行业领军者接连呼吁放缓前沿模型研发之际。

DeepMind前员工警告AI或毁灭人类

AI公司Anthropic公开呼吁全球暂停前沿AI开发并建立监管机制，警告AI自我迭代可能快速超越人类、存在失控风险。但业内普遍认为，在激烈商业竞争与IPO压力下，安全承诺难以真正落地。

Anthropic呼吁全球暂停前沿AI开发

Anthropic首席执行官达里奥·阿莫戴罕见发帖回应公众对人工智能的不信任，称AI行业赢回信任的唯一途径是兑现宣传承诺、实现切实的科学突破。他直言，如今声称AI能治愈癌症更像是一句缺乏说服力的陈词滥调，多数人甚至认为带有欺骗性；对包括Anthropic在内的AI公司最中肯的批评，是它们尚未兑现造福世界的宏大承诺，真正有效的做法是切实治愈癌症。TechCrunch将这场对AI的抵触情绪形容为一场信任危机。阿莫戴过去曾多次警告AI快速发展的潜在风险，但他表示不认为自己的警告是公众不信任AI的根源；谷歌DeepMind联合创始人哈萨比斯等业内人士此前则批评他对悲观预测过于笃定。

Anthropic CEO：AI须兑现承诺赢回信任

Anthropic首席执行官达里奥·阿莫代伊表示，出于安全原因，公司会在必要时放慢AI的发展速度，并称如果管理不善，人工智能甚至可能对人类构成风险。这番表态出自9月23日AI企业负责人向联合国安理会所做的通报，安理会此次专门就AI可能滑出人类控制的风险听取一线开发者意见。同场的OpenAI首席执行官奥尔特曼称人工智能的现状需要格外谨慎，并强调若要让AI实现民主，最重要的决策不能仅由旧金山的实验室来做；AI学者本吉奥则警告AI的危险真实存在且迫在眉睫。不过美国和中国目前均未响应放慢前沿研发的呼吁。

达里奥：必要时放慢AI研发速度

Anthropic周四发布博客文章，呼吁全球顶尖AI实验室考虑放缓研发步伐，并警告AI系统正接近能够在无需人类干预下「递归式自我改进」的临界点，可能引发重大社会风险。公司披露内部数据，记录其最先进模型性能正以惊人速度提升。Anthropic提议达成一项全球协议，明确放缓前沿AI研发的方式，并建立可验证竞争对手是否遵守的机制，以便社会结构与安全研究能跟上技术发展的步伐。

地里快讯

Anthropic研究员因担忧AI失控离职

相关新闻