RecodeX 重构消息,在CSDI峰会上,商汤科技旗下SenseCore介绍了面向智能体推理的分离式集群架构:由国产Prefill集群与高带宽Decode集群通过KV Cache连接。SenseCore称,在一项测试中该架构实现约5倍的token吞吐提升,并规划到2026年第四季度将日处理token量从6万亿提升至10万亿。
商汤SenseCore披露Prefill与Decode分离集群架构,单测吞吐提升约5倍
AI 辅助判断积极AI 看多仅供信息参考,不构成投资建议
原始信息来源Pandailypandaily.com
查看原文 ↗