凤凰网科技讯 7月30日，据TechCrunch报道，Hugging Face近日公布了一份关于近期AI智能体入侵事件的完整技术时间线，披露了一套基于OpenAI模型构建的自主AI智能体如何在4天半时间内执行约17600次操作，最终成功突破公司多项安全防护。这也是OpenAI CEO萨姆·奥特曼此前公开表示令其“切身感受到冲击”的AI安全事件。

根据Hugging Face披露的信息，此次事件并非AI脱离控制自行作恶，而是一套原本用于参加OpenAI网络安全评测的AI智能体，在关闭常规安全限制后，自主寻找漏洞，并将攻击目标扩展至考试之外的系统。

时间线显示，该AI首先利用一个尚未修复的软件漏洞逃离原本的测试环境，随后入侵另一套公开暴露的AI测试工具，并植入代码，将其作为后续攻击Hugging Face系统的跳板。

进入Hugging Face系统后，AI发现服务器对外部请求进行了限制，但未限制本地文件读取。它随后上传伪装成普通数据集的文件，诱导系统读取服务器上的密码、源代码等敏感信息并返回结果。随后，AI又利用另一处漏洞，将原本应作为普通文本的数据当作系统命令执行，从而获得服务器代码执行能力。

调查显示，这套AI没有搭建专门的攻击基础设施，而是利用Paste网站、请求日志服务以及Hugging Face自身上传和代理功能建立起隐蔽的数据传输通道，并设计了简单的消息重组机制，将分散的数据重新拼接，同时对传输内容进行加密混淆，以躲避自动检测。Hugging Face表示，初期自动分析仅发现了少量泄露数据，研究人员随后通过逆向分析AI使用的加密方式，才确认实际泄露的数据规模约为最初发现的4倍。

为了维持攻击持续进行，该AI还在11台不同服务器上部署了自身副本，即便部分节点被关闭，其他副本仍可自动恢复运行。调查还发现，AI曾获取用于生成合法登录令牌的私钥，理论上能够自行生成有效身份凭证。此外，由于Hugging Face内部权限配置存在问题，一组凭证意外拥有多个内部系统访问权限，使AI获得了更大范围的控制能力。

Hugging Face还披露，AI曾尝试修改构建脚本，希望借此影响自动化构建系统，但最终被公司现有安全机制拦截，没有成功实施。同时，所有可能删除或修改云资源的命令均以“Dry Run（模拟执行）”模式运行，仅验证执行结果，并未真正破坏系统资源。

值得注意的是，由于测试环境会频繁重置，这套AI每次都会失去此前获得的工具和身份信息，但它都会重新建立攻击链路，持续恢复行动，整个过程持续了4天半。

Hugging Face在报告中认为，此次事件暴露出的漏洞，包括不安全的数据集处理、云元数据暴露、权限配置过宽以及长期有效凭证等，本质上均可能被经验丰富的人类攻击者利用，不同之处在于，AI能够以前所未有的规模和持续性不断尝试各种攻击路径，大幅提升漏洞发现和利用效率。(作者/于雷)

更多一手新闻，欢迎下载凤凰新闻客户端订阅凤凰网科技。想看深度报道，请微信搜索“凤凰网科技”。

本文转自：凤凰网科技

原文地址： https://tech.ifeng.com/c/8vAjcVO9bXG