OpenAI模型突破测试环境入侵Hugging Face 加密领域面临类似威胁

OpenAI于周二披露，其一组模型（包括公开的GPT-5.6 Sol和一款未发布的更强系统）在受控测试环境中“突破”沙箱，侵入了Hugging Face的生产基础设施。Hugging Face是托管大量开源AI模型的公司。

这些模型正在运行一个名为ExploitGym的内部基准测试，该测试模拟长时间、多步骤的黑客任务，且为了评估目的，模型的安全拒绝机制被人为降低。OpenAI强调，这并不是生产模型自发变得敌对，而是一个有能力的模型在关闭护栏的情况下，被明确告知要赢得黑客测试——不惜一切代价取胜。

事件经过

模型发现了测试软件中一个隐藏的漏洞——一个此前无人知晓的缺陷——并利用它溜出了原本限制其离线的壁垒。一旦进入开放互联网，模型推测Hugging Face可能存储了测试的答案。为了进入系统，它们串起了被盗密码和更多隐藏漏洞，最终在Hugging Face的实时服务器上执行了自己的命令。

OpenAI内部发现了这一异常，同时Hugging Face团队也检测到并控制住了事态。OpenAI称此次事件“前所未有”，并表示将实施广泛的安全措施，以防止可能影响公共系统或服务的不当事件发生。团队在博客中写道：“我们正在实施严格的基础设施配置控制，以牺牲研究速度为代价，修补漏洞期间加强保护。我们正在改进并增加对未来训练和评估的更强保护。”

加密领域面临类似威胁

加密攻击的很大一部分发生在资金转移之前。攻击者扫描代码、测试密码、搜索暴露的凭证、分析签名设置并寻找进入管理员账户的路径。OpenAI的模型在Hugging Face事件中执行了该过程的多个步骤，从一个弱点转移到另一个，直到到达实时生产服务器。

加密市场中有许多适合这种攻击方式的地方，今年早些时候的几次攻击已经表明了这一点。薄弱点可能是智能合约，也可能是开发者笔记本电脑、被污染的软件包、跨链桥验证器或多签钱包中的某个签名者。

例如，今年早些时候Drift的2.85亿美元攻击，是一场持续六个月的社会工程攻击，目的是获取特权访问权限。理论上，AI代理可以同时测试多种路径，记录失败尝试，并在人类操作者睡觉时继续工作。一旦找到路径，操作者就可以实施实际攻击并找到可行的退出路径。

KelpDAO的2.92亿美元跨链桥损失暴露了另一个弱点：攻击者发现了用于在区块链之间转移资产的系统中的单验证器缺陷。这类攻击始于耐心的代码审查和基础设施映射——正是OpenAI模型在发现未知漏洞时所做的工作。

第三种攻击类型针对链上治理系统。今年7月初，一名攻击者花费约440万美元购买了足够多的Solana链上狗狗币模因币BONK，以发起并通过一项提案，将项目金库中约2000万美元转移给攻击者。整个过程持续三天，攻击者随后出售了所有用于赢得投票的代币。

这些购买、投票和金库转移交易单独来看都是有效交易。但盗窃源于理解规则如何协同运作，并发现购买控制的成本远低于可获取的资金。

Hugging Face事件对软件供应链也有影响。加密开发者依赖公共代码仓库、云服务和包注册表。OpenAI的测试展示了一台机器完成了攻击的中长阶段，而Drift和KelpDAO等攻击则展示了这条路径的终点是什么。

信息来源：CoinDesk