Linux基金会就共享AI发现交换（SAFE）指南公开征求意见，拟通过保密收集和分析智能体AI安全事件、通知受影响方、识别反复出现的控制失效并发布防护建议，推动行业共享安全经验。英伟达、思科、CrowdStrike、Hugging Face和红帽等参与起草。

Linux基金会发布AI安全指南草案

英伟达联合微软、IBM、Hugging Face、Cloudflare等企业和机构成立开放安全AI联盟，计划共享用于保护软件与AI智能体的开放技术和工具。英伟达同时在GitHub推出开源NOOA研究框架，帮助开发者测试、追踪、审计和管理AI智能体行为。

英伟达组建开放安全AI联盟

OpenAI、Anthropic、谷歌、微软等逾100家科技与金融服务机构周四联名发表公开信，呼吁各类组织和政府把网络防御列为「领导层当前的首要任务」，并尽快修复软件中已有的安全薄弱环节。公开信要求网络安全公司协助抵御「AI驱动的攻击」，同时敦促领先AI公司向关键基础设施的防御人员开放AI使用权限，并提供资金支持与培训。签署方警告，随着模型能力不断提升，未来几个月AI将被用于发起数量更多、复杂程度更高的网络入侵，防御端目前的准备明显不足。今年7月OpenAI模型在评估过程中入侵HuggingFace的事件，已经引发外界对AI智能体失控的担忧。

百余家机构联署 呼吁强化AI网络防御

OpenAI正与主要竞争对手Anthropic、谷歌DeepMind共同制定人工智能安全措施，三方讨论的方向之一是设立共同的AI安全标准机构。

OpenAI全球政策主管Chris Lehane周二表示，这一合作已持续数周。他认为三家公司就安全问题进行协调无需申请反垄断豁免，并以航空业为例指出，企业之间围绕安全互相协助早有先例：与其相互竞争，不如共同努力把安全放在首位。

此举发生在业界对前沿模型潜在经济与安全风险的担忧持续升温之际，而特朗普政府近期倾向于加速AI竞赛、淡化新增监管的必要性。

OpenAI与Anthropic谷歌联手推进AI安全

OpenAI表示，早在Hugging Face事件之前，公司就已看到一些早期迹象，显示智能体正在以非预期的方式使用互联网。随着模型能力进入新阶段，对齐失范事件的披露方式也需要进一步扩展。OpenAI称，目前无论是公司自身还是更广泛的AI社区，对于如何报告模型在训练、评估和部署过程中出现的对齐失范现象都尚未形成明确标准，其中一些案例并不属于传统意义上的安全事件，但可能为理解AI行为及其未来风险提供重要线索。公司正在制定相关框架，计划在未来几周内公布，同时已与全球数十家政府监管机构就这些问题展开合作。

OpenAI将扩大AI失范事件披露范围

包括Meta、微软、英伟达、IBM在内的25家美国科技公司联名签署公开信，呼吁支持开放权重（open-weight）AI模型。公开信指出，开源权重模型对健康的AI生态系统至关重要，也是实现AI安全的重要路径之一——开放权重让更广泛的研究者社区得以检查模型行为、识别漏洞并持续改进；而仅依赖封闭模型本身并不安全，它们可能被攻破、被滥用，或以外部无法察觉的方式失效。

25家美科技巨头联名力挺开放权重AI

美国AI标准与创新中心（CAISI，原AI安全研究所）周二宣布，已与Google DeepMind、微软（MSFT）和xAI签署协议，三家公司同意将其前沿AI模型在发布前提交美国政府接受国家安全风险评估测试，重点关注网络安全、生物化学武器及关键基础设施等高风险场景。该协议被视为白宫AI政策从此前的「放任发展」明确转向加强监管的标志，与此前披露的特朗普政府筹划成立AI审查工作组的方向一致。OpenAI及Anthropic尚未在本批协议名单中。

地里快讯

Linux基金会发布AI安全指南草案

相关新闻