日前，美国开放人工智能研究中心（OpenAI）确认其部分模型在内部安全测试中失控，突破隔离环境，并入侵了人工智能开源平台——美国抱抱脸公司（Hugging Face）的系统。

　　OpenAI官网文章截图

　　事发后，OpenAI在声明中称，这是“一起前所未有的网络事件”，同时表示，随着具备越来越强网络能力的模型不断普及，预计这类事件会变得更加常见。

　　此外，遭入侵的美国抱抱脸公司事后透露，该公司在应急响应的过程中，使用了中国企业发布的开源模型以进行取证分析，从而避免攻击者数据及相关凭据离开公司内部环境。

　　为什么说这是“一起前所未有的网络事件”？

　　这是否意味着人工智能的技术演进和安全治理必须同步提升？

　　中国开源模型在这次事件的处置中发挥了怎样的作用？

　　总台环球资讯《闪评》栏目邀请复旦大学中国研究院副研究员刘典带来详细解读。

　　观点速览

　　复旦大学中国研究院副研究员刘典：

　　这是一次极具警示意义的技术边界事故。第一次证实高阶大模型具备自主策划、分步实施真实网络入侵的能力，风险不再只停留在理论推演与实验室模拟层面。随着具备联网执行能力的智能体快速迭代，仅依靠传统防火墙、简单沙箱隔离的防护思路，已经很难约束人工智能衍生出来的新型网络风险。

　　人工智能的技术演进与安全治理必须同步推进、一体部署，不能走先发展、后补治理的老路。想要实现二者协同提升，首先要落实安全前置设计，守住研发源头的安全底线。其次要构建全生命周期治理框架，配套分级分类监管制度。同时坚持技管结合，既要研发对应的AI防御工具对抗AI驱动的网络攻击，也要推动跨国、跨企业的安全情报共享。

　　美国闭源商用模型依托云端接口调用，无法区分安全人员取证分析与黑客恶意攻击，导致溯源工作陷入停滞。中国开源模型支持企业内网本地化部署，全部日志、攻击凭证、敏感数据全程保留在企业内部，数小时之内梳理上万条操作记录，完整还原攻击路径与入侵时序，大幅压缩事件处置周期，为漏洞修复、权限重置争取关键窗口。

　　依靠开源模式，能够让全球海量安全工程师、科研人员共同参与漏洞挖掘、防御策略迭代，集合全社会智力共同完善防御体系。人工智能安全不能依靠个别企业的闭门管控，只有秉持开放协作理念，打通技术、情报、工具的共享通道，构建多元参与、全球协同的安全生态，才能够系统性应对由人工智能带来的全新网络安全挑战。

　　来源｜总台环球资讯