RecodeX 重构消息,由Adi Shik创立的Tensward在一次H100测试中追踪数据传输,发现每次请求约有643MB数据被拷贝,来源指向llama.cpp的状态保存机制。
Tensward发现H100每次请求拷贝643MB数据,指向llama.cpp状态保存
AI 辅助判断中性仅供信息参考,不构成投资建议
原始信息来源Runtimewireruntimewire.com
查看原文 ↗RecodeX 重构消息,由Adi Shik创立的Tensward在一次H100测试中追踪数据传输,发现每次请求约有643MB数据被拷贝,来源指向llama.cpp的状态保存机制。