RecodeX 重构消息,中科曙光相关人士透露,公司将发布面向大模型推理的新一代词元加速方案,重点处理推理过程中的重复计算和数据调度问题。目前,中科曙光ParaStor分布式存储已应用于国内首个全国产十万卡AI超集群曙光8000(登峰),为大规模计算任务提供数据吞吐和弹性扩展支持。赛迪顾问最新报告显示,中科曙光在AI、教育、具身智能和自动驾驶四个细分行业排名第一。
中科曙光将发布面向大模型推理的新一代词元加速方案
后续报道
中科曙光将发布大模型推理词元加速方案
RecodeX 重构消息,8月26日,中科曙光相关人士透露,公司将发布面向大模型推理的新一代词元加速方案,重点解决推理过程中的重复计算和数据调度问题。目前,其ParaStor分布式存储已应用于国内首个全国产十万卡AI超集群曙光8000(登峰),为大规模计算任务提供数据吞吐和弹性扩展支持。赛迪顾问最新报告显示,中科曙光在AI、教育、具身智能和自动驾驶四个细分行业排名第一。
中科曙光将发布新一代词元加速方案
RecodeX 重构消息,中科曙光相关人士透露,公司将发布面向大模型推理的新一代词元加速方案,重点解决推理过程中的重复计算和数据调度问题。其ParaStor分布式存储已应用于国内首个全国产十万卡AI超集群曙光8000(登峰),为大规模计算任务提供数据吞吐和弹性扩展支持。
中科曙光发布新一代词元加速方案ParaCache
RecodeX 重构消息,8月28日,中科曙光在数博会上正式推出新一代词元加速方案ParaCache。该方案采用全国产化技术路线,并已在首个全国产十万卡AI超集群曙光8000的推理应用场景完成验证。企业基于现有技术栈即可完成接入,无需对原有业务系统进行大规模改造,更好的生态适配能力可大幅降低系统迁移成本。