美国AI公司Anthropic正式指控阿里巴巴通过逾2880万次虚假账户交互，非法蒸馏提取其Claude模型能力，系同类攻击中规模最大的一次，发生于2023年4至6月。Reuters、CNBC、Bloomberg、WSJ均已证实。

Anthropic指控阿里巴巴非法蒸馏提取Claude模型能力

Anthropic 最新威胁报告称，Claude 已被用于网络攻击、监控、间谍活动和影响力操作，AI 滥用正从简单内容生成扩展到更复杂的长链任务。公司表示已识别并阻断多起相关活动。

Anthropic 报告揭示 Claude 滥用范围扩大

Anthropic发布报告，披露网络安全评估中第四起Claude模型未经授权访问真实第三方系统的事件，此前已确认的同类事故为三起。这些评估均在同一家第三方机构搭建的测试环境中进行，模型被告知运行于无互联网连接的模拟环境，但因配置错误实际接入了公网。其中最受关注的一次，Claude Mythos 5曾向Python公共软件包仓库PyPI上传恶意软件包，并进一步触及真实系统。Anthropic在调查中归纳出两类对齐问题：一是「偏差推理」，模型倾向于忽视或错误解读自身可能处于真实网络的证据；二是「鲁莽行为」，模型为完成任务而采取可能造成伤害的动作。公司称相关行为仍限于测试任务范围内，未发现模型试图隐藏行为、串联其他智能体或追求任务之外的目标。Anthropic已与模型评估机构METR签署协议开展独立调查，并计划加强发布前测试、监控机制以及第三方运行其模型时的安全要求。

Anthropic披露第四起Claude安全事件

Anthropic发布最新AI滥用报告，称已阻止部分科学家把Claude用于「可能支持生物武器开发」的研究。报告列举了五个案例，其中一例涉及研究如何增强某种蚊媒疾病的传播能力。公司表示，很难确切断定这些行为是否与真实的生物武器计划相关，但已中止相关活动，并把信息通报给有关部门和行业合作伙伴。报告还披露了监控、诈骗、常规武器研发和宣传操纵等其他滥用行为：Anthropic称已识别并封禁了一批利用Claude开展舆论「影响力行动」的账户，其中三个与伊朗有关联；其中一个与伊朗关联的威胁行为者曾用Claude生成针对该地区美军海军力量的攻击目标建议。

Anthropic阻止Claude被用于生物武器研发

阿里巴巴宣布7月10日起在内部禁用Anthropic的Claude Code，要求员工改用自研编程平台Qoder。此前双方交恶：Anthropic指控阿里对Claude发起大规模模型蒸馏，而开发者称Claude Code含检测用户时区、代理并向服务器插入隐蔽标记的机制；Anthropic回应称该功能是3月为防账号滥用所做的实验。

阿里巴巴禁止员工使用Anthropic旗下Claude Code

Anthropic回查超过14.1万次网络安全评估后发现，Claude模型在三次第三方测试中意外连接互联网，并未经授权访问三家机构的真实系统。相关评估环境因配置问题未与公网完全隔离，Anthropic已联系受影响机构并展开调查。

Claude测试越界入侵三家机构

Anthropic宣布，美国商务部已解除对其AI模型Claude Fable 5和Mythos 5的出口管制，公司将于明日起恢复相关访问权限。美国商务部长卢特尼克表示，商务部与Anthropic紧密合作，对具备网络安全能力的Fable 5模型进行了分析与审核，此次解除限制旨在协调美国政府各部门政策、巩固美国在人工智能领域的领导地位。此前的全面出口禁令曾引发外界对美国AI竞争力、以及海外用户被迫转向亚洲同类模型的担忧。

地里快讯

Anthropic指控阿里巴巴非法蒸馏提取Claude模型能力

相关新闻