RecodeX 重构消息,面向 Java 虚拟机(JVM)的 AI 推理引擎 Jinfer 发布早期版本,目前仅支持 CPU。该项目由 Quixotic AI 推出,支持聊天、视觉、音频、嵌入、重排序和语音合成,无需 Python 运行时、ONNX、Docker 容器、边车进程或进程间通信。底层组件包括纯 Java 分词器 toknroll、读写 llama.cpp 与 HuggingFace 模型格式的 gguf/safetensors、量化矩阵乘法内核 jam,以及面向 Java、C、CUDA、HIP、Metal、OpenCL 和 Mojo 的张量 API jota。该引擎提供 Spring AI 与 LangChain4j 集成,并兼容 GraalVM Native Image,可实现毫秒级启动。开发者表示希望获得关于 API 设计的反馈。