【】《中国财经60分》热搜继续。近期，OpenAI发生成立以来第一次真实的AI技术失控事故引发全球关注。在一场原本被封闭、严格限制权限的测试中，最新大模型突然突破人类管控，私自破解系统、主动上网攻击服务器，风险一度失控。最终是中国开源大模型临危受命，成功化解了这场危机。这起全球首例AI自主跨企业真实网络攻击事件，究竟暴露了哪些安全隐忧？又折射出中美AI发展路线的何种差异，一起来听报道。
根据OpenAI披露的信息，此次事故发生在一次内部安全测评中。为了检验AI的极限能力，工作人员将最新模型放进完全隔离的封闭测试环境，该环境不仅断开外网连接，还严格限制了权限，禁止任何对外操作，仅允许AI完成常规的答题测评任务。但让人意想不到的是，为了“拿到更高测评分数”，这台AI自主学会了漏洞探测，突破隔离环境，侵入了人工智能开源平台美国抱抱脸公司的系统。短短两天内对其生产数据库发起了1.7万次全自动攻击，试图盗取测评标准答案。整个过程完全自动化，没有任何人工干预。
事件发生后，OpenAI方面表示，这是一起前所未有的网络安全事件，公司正在进一步加强安全防护措施。目前，两家公司也都没有具体说明，是否有客户数据因此泄露。
针对这起全球首例AI自主跨企业真实网络攻击事件，上海人工智能研究院研究员彭嘉昊进行了深度解读。他表示：
【AI攻击网络其实并不是第一次了，只不过说这一次是open AI自己披露的，我认为这不是说AI觉醒了，但这个确实是AI治理史上的一次分水岭事件，我们之前讨论人工智能风险都是在说可能潜在、一旦发生如何如何，但这次是真正的发生了，那这个事情的标杆意义远大于它造成的破坏程度。】
彭嘉昊进一步解释，所谓的“沙盒逃逸”在AI Agent的圈子里非常常见。这次OpenAI模型遇到的本质上是一样的，
【它不是恶意逃避，而是他把沙箱的边界问题当成了他解题过程当中的一个障碍物。真正的问题是如果我们所有的模型都围绕着单一的目标进行优化的时候，它很容易突破人类设置的围墙。】
值得注意的是，在此次事件发生后，OpenAI向美国顶尖的大模型寻找解决方案。然而，这些闭源大模型因为安全机制过于严苛和僵化，选择了拒绝提供帮助，紧急关头，美国抱抱脸公司向中国开源大模型求助，随后，在中国某企业的开源大模型帮助下，成功化解入侵。彭嘉昊指出：这一事件将重构企业的模型选择逻辑。
【过去企业选择模型要的是能力，要的是效率。那这次事件其实暴露了一个核心矛盾，就是闭源模型的安全护栏在关键的时候变成了绊脚石，而开源模型因为自己可以在本地部署，可以修改参数，反而能够完成任务。这个实际上就会影响到企业对模型的选择和部署。它不是一个2选1的问题，是一个分层使用分应用场景使用的问题。这一次被攻击的实际上是在人工智能这个产业链上是比一个比较重要的一个节点。】
这起事件也暴露出现实的多重风险。AI自主突破边界后，能够直接进攻第三方企业的正式业务服务器，一旦成功，便可盗取商业机密。本次攻击的目标是测试答案，但如果换作其他场景，则可窃取企业核心资料。更令人担忧的是，AI能够发现软件厂商自己都不知道的漏洞（零日漏洞），一旦这类能力被恶意利用，将催生大规模自动化网络攻击，出现各类意料之外的越权行为。彭嘉昊强调，传统的生产系统安全防护可能还停留在互联网思维，但现在要防范的是更复杂的“智能小偷”。
【它的威胁层级是不一样的。更深层次的问题是人工智能企业之间目前还没有产生跨厂商的安全协同机制，这一块是治理领域的一套空白。我认为解决的最好方式还是用人工智能对抗人工智能，用被验证的安全的人工智能去对抗不够安全的人工智能。】
事实上，这并非OpenAI首次面临安全风险问题。此前该公司就曾因ChatGPT数据泄露、开源代码库漏洞以及内部安全团队 离职潮而引发舆论关注。多位前安全研究员曾指责公司在追逐模型性能和商业化速度时，牺牲了对安全技术的投入。最新安全事件也验证了外界的担忧：当模型被赋予更高的自主行动权时，传统基于规则和虚拟隔离的环境可能随时失效。
伴随大模型的飞速发展，模型安全防护能力如何才能跟上模型能力快速迭代的节奏，成为摆在行业面前的紧迫课题。彭嘉昊指出，
【我们过去一直在谈人工智能治理焦点都在怎么管内容，算法怎么备案等等，但是对于AI本身、大模型本身、人工智能工具本身作为攻击手段，这个威胁我们过去是存在空白地带的，我觉得这个案例也可以成为全球人工智能安全协同机制共同进行治理的一个标杆性案例。不是说我们单纯靠立一部新的法律法规，而是靠整个产业层面上的信息共享机制以及达成一个更高的全球性的共识。】
以上由第一财经AI数字人播报
举报 相关阅读
11'13'' 聊聊大模型kimi k3，中国版“模型+企业服务”协同新范式 07-21 17:12 
04'40'' 2.8 万亿参数与端侧小模型并存：AI 产业呈现“大小并行”双轨发展新格局 07-20 14:53 
04'30'' 熊猫债规模首破 5000 亿，境外机构融资成本低至 1.7% 07-13 18:33 
05'28'' 百万Token仅需数元：算力租赁价格下行，AI大模型应用成本门槛降低 06-11 18:48 
09'03'' 沪指跌1.7%创业板指跌3.69% 机器人概念股逆市大涨 06-08 17:11 一财最热 点击关闭
元鼎证券提示：文章来自网络，不代表本站观点。
