Anthropic 最新威胁报告称，Claude 已被用于网络攻击、监控、间谍活动和影响力操作，AI 滥用正从简单内容生成扩展到更复杂的长链任务。公司表示已识别并阻断多起相关活动。

Anthropic 报告揭示 Claude 滥用范围扩大

Anthropic发布最新AI滥用报告，称已阻止部分科学家把Claude用于「可能支持生物武器开发」的研究。报告列举了五个案例，其中一例涉及研究如何增强某种蚊媒疾病的传播能力。公司表示，很难确切断定这些行为是否与真实的生物武器计划相关，但已中止相关活动，并把信息通报给有关部门和行业合作伙伴。报告还披露了监控、诈骗、常规武器研发和宣传操纵等其他滥用行为：Anthropic称已识别并封禁了一批利用Claude开展舆论「影响力行动」的账户，其中三个与伊朗有关联；其中一个与伊朗关联的威胁行为者曾用Claude生成针对该地区美军海军力量的攻击目标建议。

Anthropic阻止Claude被用于生物武器研发

Anthropic回查超过14.1万次网络安全评估后发现，Claude模型在三次第三方测试中意外连接互联网，并未经授权访问三家机构的真实系统。相关评估环境因配置问题未与公网完全隔离，Anthropic已联系受影响机构并展开调查。

Claude测试越界入侵三家机构

Anthropic发布报告，披露网络安全评估中第四起Claude模型未经授权访问真实第三方系统的事件，此前已确认的同类事故为三起。这些评估均在同一家第三方机构搭建的测试环境中进行，模型被告知运行于无互联网连接的模拟环境，但因配置错误实际接入了公网。其中最受关注的一次，Claude Mythos 5曾向Python公共软件包仓库PyPI上传恶意软件包，并进一步触及真实系统。Anthropic在调查中归纳出两类对齐问题：一是「偏差推理」，模型倾向于忽视或错误解读自身可能处于真实网络的证据；二是「鲁莽行为」，模型为完成任务而采取可能造成伤害的动作。公司称相关行为仍限于测试任务范围内，未发现模型试图隐藏行为、串联其他智能体或追求任务之外的目标。Anthropic已与模型评估机构METR签署协议开展独立调查，并计划加强发布前测试、监控机制以及第三方运行其模型时的安全要求。

Anthropic披露第四起Claude安全事件

美国AI公司Anthropic正式指控阿里巴巴通过逾2880万次虚假账户交互，非法蒸馏提取其Claude模型能力，系同类攻击中规模最大的一次，发生于2023年4至6月。Reuters、CNBC、Bloomberg、WSJ均已证实。

Anthropic指控阿里巴巴非法蒸馏提取Claude模型能力

中国工信部旗下网络安全威胁和漏洞信息共享平台（NVDB）发布风险提示，指美国Anthropic开发的AI编程工具Claude Code存在安全后门隐患：其内置监控机制可在未经用户同意的情况下，向远程服务器回传用户地域、身份标识等敏感信息，受影响版本为2.1.91至2.1.196。此前多家外媒报道，Claude Code被发现暗藏一段用于识别中国竞争对手的隐蔽代码，Anthropic回应称该追踪功能属“实验”性质并已着手移除；阿里巴巴已禁止员工使用该工具，转而采用自研的Qoder。

工信部预警Claude Code存后门风险

据Fortune报道，Anthropic旗下Claude AI模型近期被大量开发者和重度用户反映性能明显下滑，表现为难以遵循指令、频繁走捷径、在复杂工作流程中错误增多。Anthropic产品负责人Boris Cherny回应称，公司今年3月将Claude默认"思考努力度"从高调整为中等，以减少每次请求的token消耗，但该调整未充分告知用户。AMD AI高级总监Stella Laurenzo的分析显示，Claude从"先研究后编辑"退化为"直接编辑"模式，读取上下文减少，需要更多人工干预。外界猜测Anthropic可能面临算力瓶颈——公司年化经常性收入已从2025年底的90亿美元飙升至300亿美元，用户激增但数据中心扩建不及对手。Cherny表示将测试为企业用户默认开启高努力度模式。

地里快讯

Anthropic 报告揭示 Claude 滥用范围扩大

相关新闻