Arm中国正在考虑将其"周易"NPU驱动程序上传到Linux内核中

2024年03月28日 23:42 次阅读 稿源:cnBeta.COM 条评论

Arm 中国正在考虑通过最近创建的加速器"accel"子系统将其"周易"NPU 驱动程序上传到 Linux 内核中。中国Arm公司的神经处理单元(NPU)驱动程序目前拥有开源内核和用户空间堆栈。

image.webp

三年前,百度的一位工程师曾关注过用于 Linux 内核的周易 AI 加速器驱动程序,但这只是一个开源的内核驱动程序,当时还缺乏一个开源的用户空间软件栈。从那时起,Arm China 就开始着手开发这个完全开放的用户/内核驱动程序栈。全志 R329 等一些 SoC 中就采用了 Arm China 的 NPU。

今天,Arm China 的一位工程师宣布,希望将他们的 NPU 驱动程序上游化到加速器子系统中。目前,至少开放的用户模式驱动程序和内核驱动程序是通过Arm China在 GitHub 上的Compass NPU 驱动程序开发的。

这个开源 AI 加速器驱动程序栈依赖于通过 Arm China 的 NN 图编译器将 TensorFlow Lite 和 ONNX 模型转化为可执行程序库。然后,应用程序将该可执行文件加载到用户模式驱动程序中,二进制文件提交给内核驱动程序,内核驱动程序再调度到支持的 SoC 上的 NPU 硬件。

通过阿里速卖通和类似渠道可以买到一些支持 Arm China NPU 的开发板。

到目前为止,邮件列表只是阐述了大家的兴趣,并找出了将 Arm China NPU 驱动程序上传到主线 Linux 内核的要求。这仍然需要上游 DRM/accel 维护者审查代码,确保其符合适当的接口等,因此前方的路还很长,但至少很高兴看到 Arm China 现在有了一个完全开源的 Linux NPU 驱动程序栈。

对文章打分

Arm中国正在考虑将其"周易"NPU驱动程序上传到Linux内核中

1 (50%)
已有 条意见

    最新资讯

    加载中...

    编辑精选

    加载中...

    热门评论

      Top 10

      招聘

      created by ceallan