Hailo推出用于边缘设备的GenAI芯片 功耗仅为2.5瓦

2025年07月23日 07:23 次阅读 稿源:cnBeta.COM 条评论

NVIDIA 的竞争对手 Hailo 周二宣布其第二代 AI 加速器芯片全面上市,称该产品是同类产品中第一款“将真正的生成式 AI 性能带到边缘”且能耗极低的产品。以色列人工智能芯片初创公司 Hailo 表示,Hailo-10H 芯片能够实现每秒 40 万亿次 (TOPS) 的 4 位整数 (INT4) 运算性能,以及每秒 20 万亿次 (TOPS) 的 8 位整数 (INT8) 运算性能,功耗仅为 2.5 瓦。

相比之下,英伟达的 Jetson Orin Nano 芯片的 INT8 运算性能最高可达 67 万亿次,是 INT4 的两倍,但功耗范围为 7-25 瓦。

Hailo-10H 专为消费、企业和汽车市场的边缘设备而设计,结合了“高效率、高成本效益和强大的软件生态系统”,并由其“成熟且广泛采用的软件堆栈”提供支持,据该初创公司称,每月有超过 10000 名用户使用该软件堆栈。

采用 Hailo-10H 的公司包括惠普公司,该公司使用该芯片作为HP AI Accelerator M.2 卡的基础,该卡可以与 HP 点对点销售服务以及 HP 工作站和商用 PC“无缝”集成。

该初创公司表示,Hailo-10H 可以实现自然语言人机交互、视觉感知和多模式人工智能等高级用例在边缘环境典型的功率和成本限制内无缝运行。”

该初创公司表示,在 Hailo 进行的性能基准测试中,该芯片在各种 20 亿参数语言和视觉语言模型中实现了“第一个词元延迟低于 1 秒,每秒超过 10 个词元”。

Hailo 是挑战 NVIDIA 的几家 AI 芯片初创公司之一,其合作伙伴范围广泛,包括惠普、戴尔和研华等 OEM 厂商,以及 J-Squared Technologies 和 Kaga Fei America 等分销商。

对文章打分

Hailo推出用于边缘设备的GenAI芯片 功耗仅为2.5瓦

1 (50%)
已有 条意见

    最新资讯

    加载中...

    编辑精选

    加载中...

    热门评论

      Top 10

      招聘

      created by ceallan