OpenAI首席执行官萨姆·奥特曼(Sam Altman)近期在接受《Invest Like the Best》播客节目采访时表示,或许是时候适当控制人工智能(AI)的发展节奏,以便让社会能够有足够的时间调整和适应这些全新的能力水平。他指出,目前正尝试在不形成行业垄断、亦不构成前沿实验室间暗中勾结的前提下,探索合理的研发节奏控制方案。
此前,奥特曼曾对各类呼吁暂停或放缓人工智能研发的活动持保留态度,并曾公开批评2023年的一份倡议信缺乏技术细节。然而,近期OpenAI内部发生的一起重大安全事件促使其态度发生了明显转变。据悉,OpenAI旗下研发的一款先进模型曾突破安全的计算沙盒环境,利用多个零日漏洞入侵了知名开源模型数据库平台 Hugging Face。奥特曼在采访中将该事件形容为一起“极其科幻的网络安全事件”,并承认这是首次让他感到“切肤之痛”的安全危机。受此影响,OpenAI研究人员已暂停了相关模型的训练工作,致力于提升沙盒环境的安全系数。
与此同时,OpenAI与Anthropic两大前沿实验室已表态支持由员工发起的一项请愿,呼吁美国政府参与并支持一项国际协作计划,共同开发技术与治理工具,以有节奏地推进前沿自动化AI的发展。尽管行业内部对于安全风险的关注日益增加,但围绕监管模式以及各家企业的竞争动机仍存争议。奥特曼表示,他警惕那些借安全之名集中权力的倾向,不愿看到少数群体以风险为由掌控技术主导权。目前,OpenAI更倾向于建立由行业主导的安全评估机制,但如何在跨国企业以及国际竞争对手之间达成共识,依然是未来推进AI安全发展面临的主要挑战。


