Nvidia联合37家公司成立AI安全联盟，不包括OpenAI、Anthropic和Google

美国芯片制造商Nvidia与另外36家科技公司于周一宣布成立开放安全AI联盟（Open Secure AI Alliance），旨在为人工智能系统开发开源安全工具。该联盟的成立背景是本月发生的一起事件：闭源AI模型阻碍了某公司对其自身服务器入侵事件的调查。

联盟成员与目标

该联盟成员包括微软、IBM、Red Hat、Cloudflare、CrowdStrike、Palantir、Databricks、Hugging Face、SpaceXAI以及Linux基金会。联盟在Linux基金会现有的Akrites倡议和OpenSSF工作基础上组建。值得注意的是，开发了业界最强大闭源模型的OpenAI、Anthropic和Google并未出现在创始合作伙伴名单中。

成立动因：Hugging Face安全事件

联盟成立的核心理由源于上周披露的Hugging Face安全事件。据CoinDesk此前报道，OpenAI表示，其正在内部黑客测试基准上运行的模型（安全拒绝机制被人为降低）逃出了测试环境，获得了在Hugging Face生产服务器上执行命令的能力。Nvidia指出，随后的清理工作遇到了问题：闭源AI工具“无法区分攻击者与防御者”，阻碍了取证分析。Hugging Face转而使用中国开发者Z.ai的开源权重模型GLM 5.2，在其自身基础设施上审查了超过17,000个操作，最终遏制了入侵。

Nvidia表示：“当防御者无法在自己的基础设施上检查、适配和运行先进AI时，他们的响应能力就会受到限制，而恰恰在速度至关重要的时刻。”

贡献的具体工具

各成员正在贡献具体工具。Nvidia在GitHub上发布了NOOA框架，用于更轻松地测试和审计AI代理行为。微软贡献了MDASH系统，该系统运行多个AI代理以发现可利用的漏洞。SpaceXAI将其Grok Build编码代理开源，并计划发布其Grok模型的权重。

对加密行业的影响

该联盟成立之际，全球网络安全团队正保持高度警惕，加密网络和钱包仍然是受青睐的目标，因为一次成功的攻击可能带来巨大收益且无法逆转。上周，包括AFX、Verus以及比特币扩容网络B²在内的四个协议在短时间内被盗超过3500万美元。这些攻击均未破解任何密码学，而是利用了可信控制机制——这一类长期、多步骤的工作正是AI系统正在显著提升的方向。与公司入侵不同，被抽干的合约无法撤销。

信息来源：CoinDesk