英伟达竞争对手 Hailo 发布面向边缘设备的 GenAI 芯片
采用 Hailo-10H 芯片的企业包括惠普公司,该芯片将作为惠普 AI 加速器 M.2 卡的核心组件,可”无缝”集成惠普销售终端系统、工作站及商用 PC 设备。
英伟达竞争对手 Hailo 于周二宣布其第二代 AI 加速芯片正式上市,称该产品是首款能在极低功耗下”为边缘设备带来真正生成式 AI 性能”的芯片。
这家以色列 AI 芯片初创企业表示,Hailo-10H 芯片在 2.5 瓦功耗下可实现 40TOPS 的 4 位整数(INT4)运算性能,以及 20TOPS 的 8 位整数(INT8)性能。相比之下,英伟达 Jetson Orin Nano 芯片 INT8 性能最高可达 67TOPS(是 INT4 性能的两倍),但功耗范围在 7-25 瓦之间。
专为消费电子、企业及汽车市场边缘设备设计的 Hailo-10H 芯片,结合了”高效能、成本优势与强大的软件生态”,其背后支撑是”成熟且被广泛采用的软件架构”,月活跃用户已突破 10,000 名——这家初创公司如此宣称。
采用 Hailo-10H 芯片的企业包括惠普公司,该芯片被用作惠普 AI 加速器 M.2 卡的核心组件,能够”无缝”集成到惠普零售终端系统、工作站及商用 PC 中。
这家初创企业表示,Hailo-10H 芯片能在边缘设备典型的功耗与成本限制下,流畅运行自然语言人机交互、视觉感知和多模态 AI 等先进应用场景。
根据该公司的性能测试数据,这款芯片在运行20亿参数规模的语言模型和视觉语言模型时,能实现”首词延迟低于1秒,每秒生成超过10个词元”的表现。
作为挑战英伟达的多家 AI 芯片初创企业之一,海洛科技与众多合作伙伴开展合作,从惠普、戴尔和研华等原始设备制造商,到 J-Squared Technologies、美国华格等分销商均在其列。
这家成立于 2017 年的初创企业已从投资者处筹集超过 3.4 亿美元资金,其中包括去年宣布的 1.2 亿美元 C 轮扩展融资。