RecodeX 重构消息,开发者Mike Ayles发布博客,演示在售价250美元的AMD FPGA(KV260)上实现Taalas风格的片上LLM权重部署,推理速度达到每秒6万token。该方案将LLM权重直接放在芯片上,无需外部内存带宽,展示了低成本FPGA运行大语言模型的潜力。