RecodeX 重构消息,开源项目Janus发布了一款Go语言编写的单一二进制文件,可通过Vulkan图形接口在AMD、Intel和Nvidia平台上运行GGUF格式的大语言模型。该工具以跨厂商GPU兼容为目标,用户无需依赖CUDA即可在多种显卡上本地加载并推理GGUF模型。