地里快讯

Anthropic周四发布博客文章，呼吁全球顶尖AI实验室考虑放缓研发步伐，并警告AI系统正接近能够在无需人类干预下「递归式自我改进」的临界点，可能引发重大社会风险。公司披露内部数据，记录其最先进模型性能正以惊人速度提升。 Anthropic提议达成一项全球协议，明确放缓前沿AI研发的方式，并建立可验证竞争对手是否遵守的机制，以便社会结构与安全研究能跟上技术发展的步伐。