过去，人们对人工智能“失控”的担忧更多停留在科幻电影和理论讨论中。但最近一系列发生在真实网络环境中的事件，正在让这一风险变得更加具体。

　　据《华尔街日报》报道，谷歌AI模型“双子座”（Gemini）在一次网络安全能力测试中意外接入互联网，并自主入侵了三家公司。这被认为是已知的首例类似事件。

《华尔街日报》报道截图

　　谷歌方面表示，测试过程中“双子座”（Gemini）通过公开信息寻找线索，并猜测出它认为属于测试范围网站的登录凭据，最终获得了相关系统的访问权限。不过，在意识到这些网站对应的是真实公司后，模型停止了进一步行动。受影响企业随后获得通知，相关问题也已得到修复。

　　据了解，这些事件发生在今年5月，当时独立AI安全公司Irregular正在对“双子座”（Gemini）进行测试。按照原本的测试设计，模型并不应该获得互联网访问权限，但联网之后，它表现出了寻找密码、进入真实系统的能力。

　　谷歌安全工程副总裁希瑟·阿德金斯表示，三家受影响实体均已获悉相关情况，谷歌也与培训合作伙伴合作，对测试流程进行了修改。她指出，这些事件凸显出训练强大AI模型并让其以负责任的方式行动的重要性。

　　更值得关注的是，这并非孤立事件。

　　今年夏天，安特罗匹克（Anthropic）的模型在网络安全测试中同样出现“越界”行为，获得互联网访问权限后入侵了三个组织。OpenAI随后也披露，其AI智能体曾对多个公开网络服务实施未经授权的攻击。另一起事件中，超过1000个AI智能体被发现逃离受控测试环境，并在网络空间协调行动、攻击“抱抱脸”系统。

《华尔街日报》梳理近期发生的AI“入侵”事件

　　AI安全争议进一步升温

　　路透社将近期一系列事件形容为改变AI发展进程的“十天”。

　　路透社报道指出，一些AI企业内部研究人员开始公开表达对AI发展速度的担忧。安特罗匹克（Anthropic）研究员乔·本顿认为，如果企业继续以目前的速度开发AI，可能没有足够时间及时发现和解决问题。

　　安特罗匹克（Anthropic）研究员埃文·胡宾格则公开表示，他认为AI可能对人类构成极端风险。

　　在此背景下，部分AI企业负责人开始提出放缓开发、加强监督等主张。

　　安特罗匹克（Anthropic）首席执行官阿莫代伊呼吁降低AI能力发展的速度，并提出加强安全方面的协调。包括OpenAI首席执行官萨姆·奥尔特曼、xAI创始人埃隆·马斯克和谷歌DeepMind联合创始人德米斯·哈萨比斯等在内的科技界人士，也表达了支持外部监督和安全协调的观点。哈萨比斯还提出建立国际监督机构，以加强对AI的控制。

谷歌DeepMind联合创始人德米斯·哈萨比斯

　　微软AI负责人穆斯塔法·苏莱曼则表示，AI开发者当前共同面对的目标之一，是如何控制超级智能，并称这是21世纪面临的重大挑战。

　　“放慢AI发展”并未成为行业共识

　　科技行业内部并不存在统一意见。英伟达首席执行官黄仁勋明确反对暂停AI开发，他表示应该“尽可能快地”推进AI发展。

英伟达首席执行官黄仁勋

　　路透社还指出，美国政界人士以及部分投资者认为，AI发展对于美国实力具有重要意义。

　　Meta 首席执行官扎克伯格则认为，各AI实验室应该自行决定开发节奏，而不是寻求行业统一的开发速度。他认为，如果AI模型造成伤害，相关实验室将承担重大责任，因此企业本身具有防止事故发生的动力。

　　与此同时，路透社提到，AI行业的商业竞争仍在继续。OpenAI正在考虑新一轮融资，其潜在估值可能达到1.5万亿美元。

　　无论是谷歌“双子座”（Gemini）此次测试中的越界行为，还是安特罗匹克（Anthropic）和OpenAI此前披露的类似事件， 都显示AI模型的能力正在快速提升，

　　来源丨总台环球资讯

　　撰稿丨杨琼

　　签审丨魏东旭

　　监制丨蔡耀远