RecodeX 重构消息,开源项目Janus发布了一款Go语言编写的单一二进制文件,可通过Vulkan图形接口在AMD、Intel和Nvidia平台上运行GGUF格式的大语言模型。该工具以跨厂商GPU兼容为目标,用户无需依赖CUDA即可在多种显卡上本地加载并推理GGUF模型。
Janus发布Go二进制文件 借Vulkan跨AMD/Intel/Nvidia运行GGUF模型
AI 辅助判断积极仅供信息参考,不构成投资建议
原始信息来源Buzzinggithub.com
查看原文 ↗RecodeX 重构消息,开源项目Janus发布了一款Go语言编写的单一二进制文件,可通过Vulkan图形接口在AMD、Intel和Nvidia平台上运行GGUF格式的大语言模型。该工具以跨厂商GPU兼容为目标,用户无需依赖CUDA即可在多种显卡上本地加载并推理GGUF模型。