初创公司PrismML近日正式确认，该公司正在与苹果公司就其人工智能模型压缩技术进行沟通。此前关于该技术适用于iPhone的报道在五天前首次浮出水面，如今这一合作传闻得到了来自官方层面的证实。
人工智能处理领域目前面临的主要挑战之一，是管理绝大多数普通电脑和智能手机难以独立承载的庞大模型。PrismML于7月9日正式公开了一种能够将这些大模型压缩至更易于管理尺寸的解决方案。7月14日，PrismML首席执行官巴巴克·哈西比（Babak Hassibi）在接受CNBC采访时明确表示，苹果及其他公司目前正在评估其模型。虽然哈西比并未透露具体的谈判细节，但他表示双方的交流尚处于非常早期的阶段，且“进展顺利”。外界推测，此次洽谈的范围可能涵盖从技术授权到苹果直接收购该初创公司等多种可能性。
对于苹果而言，PrismML所研发的技术极具吸引力。苹果一直致力于将尽可能多的AI处理工作留在设备端完成，但受限于目前的硬件内存大小，其功能拓展受到了一定约束。PrismML的技术能够大幅度缩减模型体积，使其理论上可以运行在iPhone的内存中，从而摆脱对云端处理的依赖。
以PrismML周二发布的Qwen模型为例，该模型原本是一个拥有270亿参数、体积达54GB的庞大系统，通常仅适用于拥有64GB或更多内存的Mac设备。然而，在应用PrismML的压缩技术后，该模型体积被缩减至4GB以下，这使得其能够被iPhone 15 Pro及其Pro Max版本中配备的8GB内存轻松处理。
在设备端完成模型处理符合苹果对隐私和安全性的考量，同时也消除了设备对互联网连接的持续依赖。不过，这种模型压缩并非没有代价。哈西比确认，与完整版模型相比，压缩后的模型在性能上会损失几个百分点，且在处理逻辑推理、数学运算及代码编写任务时表现稍弱。
这项技术的发展及其带来的设备端处理潜力，将对持续进行的AI基础设施建设产生深远影响。当前，由于AI公司大规模建设数据中心，导致全球内存和芯片供应链面临紧缺压力。若能通过技术手段让智能手机等内存受限的设备承担更多AI处理任务，将有效降低对云端服务器的依赖，从而在宏观层面上缓解对庞大AI基础设施的需求。这不仅意味着iPhone或Mac上能实现更强大的Siri功能，也为更多类型的边缘设备部署本地化人工智能应用打开了空间。