当地时间7月28日,在参与一档播客访谈节目时,美国开放人工智能研究中心(OpenAI)首席执行官萨姆·奥尔特曼再次谈及该公司模型测试失控事件。奥尔特曼表示,AI行业的发展或许需要放缓节奏,给社会留足安全缓冲时间。
OpenAI本月早些时候承认,该公司的GPT-5.6 Sol模型和另一款能力更强的预发布模型联合进行内部评估时失控,突破隔离测试环境,侵入了人工智能开源平台美国抱抱脸公司的系统。OpenAI说,这一事件表明,模型网络安全能力快速提高的同时,内部评测环境、模型行为控制和安全防护措施等也需要同步加强。
来源 | 总台环球资讯