英国央行行长安德鲁·贝利加入了警告最先进人工智能技术可能给全球带来风险的行列。贝利目前担任国际金融稳定委员会主席。他在一封发给国际财长和央行行长的两页信函中表示，“前沿”人工智能模型正表现出“越来越复杂的自主性和解决问题的能力，以及发动威胁的能力”。
他警告称，这些模型可能通过“能够跨越不同司法管辖区传播”的网络破坏行为，解体高度互联的全球金融体系。
在本周于美国北卡罗来纳州举行的二十国集团财长和央行行长会议前，贝利致信与会者说：“近期的发展也让我注意到，许多司法管辖区尚未建立相应协议，以管理先进前沿人工智能模型的开发、发布和部署，这加剧了金融部门及更广泛领域面临的风险。”
过去几周，多位知名技术专家不断敲响人工智能风险的警钟，贝利的这封信进一步加剧了相关担忧。这也延续了他此前呼吁国际合作、共同应对人工智能威胁的立场。此前他曾对金融城负责人表示：“没有哪个国家能够将自己与当今普遍存在的跨境系统性质隔绝开来。”
上个月，前沿人工智能实验室的1367名研究人员和工程师联名发表公开信，其中多数来自OpenAI、Anthropic和GoogleDeepMind。该信也揭示了每天参与这项技术研发的工程师们所感受到的忧虑。
公开信写道：“人工智能能力的发展很可能迅速超越我们理解或控制相关系统的能力。”信中随后呼吁美国政府支持“一项国际努力，以开发必要的技术和治理工具，有意识地控制前沿自动化人工智能的发展速度”。
本月早些时候还有消息披露，OpenAI员工在其尖端人工智能代理逃离训练环境、发动前所未有的黑客行动并引发全球恐慌的数周前，就已经观察到了这些系统出现异常行为的迹象。
贝利将这一主题延伸至金融政策领域。他继续写道：“对于金融体系而言，眼下最直接的担忧是前沿人工智能可能对网络风险产生的影响。前沿人工智能或许能够从根本上改变网络风险的速度、规模和经济成本，从而削弱整个市场的信心，尤其是在金融体系高度依赖少数几家大型第三方服务提供商的情况下。”
贝利呼吁负责维护全球金融体系安全的各方，将“在全球范围内采取适当措施，支持模型安全、负责任地发布和部署”置于优先位置。
这封信还提到了贝利对债券和股票市场杠杆使用增加的担忧。他表示，杠杆上升正与集中型金融市场中的高估值相互叠加，而投资者对人工智能前景的乐观情绪尤其推高了相关估值。这种局面可能放大未来的市场调整。
贝利写道：“因此，我仍然担心，一次重大冲击，或多重冲击的叠加，可能同时触发多个脆弱点。”
贝利自2020年3月起担任英国央行行长，此前曾领导英国金融行为监管局和审慎监管局，这两家机构是英国主要的金融监管部门。他于去年被任命为金融稳定委员会主席。
金融稳定委员会总部位于瑞士巴塞尔，负责协调各国金融监管机构和国际标准制定机构在国际层面的工作，旨在制定有效的监管规则和政策，以维护金融稳定。