RecodeX 重构消息,开发者cyfrit在GitHub开源p-for-llm项目,实现在乐鑫ESP32-P4芯片上进行1.809亿参数的离线大模型推理,并支持Agent(智能体)推理。该项目无需联网即可运行,展示了端侧AI的能力。目前项目已发布,尚无社区评论。