RecodeX 重构消息,Meta表示,其30B参数的本地AI代理可在24GB或32GB内存中运行,同时支持131K上下文、视觉编码器和推测解码器。Byteline联合创始人Tomas Koutsky解释了内存计算原理。
Meta 30B本地AI代理适配24GB内存
AI 辅助判断中性仅供信息参考,不构成投资建议
原始信息来源Runtimewireruntimewire.com
查看原文 ↗RecodeX 重构消息,Meta表示,其30B参数的本地AI代理可在24GB或32GB内存中运行,同时支持131K上下文、视觉编码器和推测解码器。Byteline联合创始人Tomas Koutsky解释了内存计算原理。