RecodeX 重构消息,开源LLM推理引擎PicoLM发布v1.0-rc2版本,该引擎以C99编写,目前支持llama-2、GPT-2、Qwen 3.6/3.8(含MoE)及Gemma-3n等模型。项目在CPU SIMD加速、测试与正确性验证上投入较多,并持续保持跨平台可移植性,测试覆盖从DOS、OS/X 10.4到现代系统,本版本新增Tru64与初代iPhone等平台。引擎支持CUDA/HIP,并提供加速IMMA内核,同时已开展Vulkan后端的部分工作。开发者表示提示处理速度仍需改进,但文本生成速度已相当快。