RecodeX 重构消息,开发者cyfrit在GitHub开源p-for-llm项目,实现在乐鑫ESP32-P4芯片上进行1.809亿参数的离线大模型推理,并支持Agent(智能体)推理。该项目无需联网即可运行,展示了端侧AI的能力。目前项目已发布,尚无社区评论。
ESP32-P4实现1.8亿参数离线大模型与智能体推理
AI 辅助判断中性仅供信息参考,不构成投资建议
原始信息来源Hnrssgithub.com
查看原文 ↗RecodeX 重构消息,开发者cyfrit在GitHub开源p-for-llm项目,实现在乐鑫ESP32-P4芯片上进行1.809亿参数的离线大模型推理,并支持Agent(智能体)推理。该项目无需联网即可运行,展示了端侧AI的能力。目前项目已发布,尚无社区评论。