RecodeX 重构消息,一款名为VindexLLM的开源项目发布,这是一个用Delphi 12编写的Windows平台大语言模型推理引擎,通过Vulkan调用GPU加速,支持加载GGUF格式模型文件。该项目面向Windows桌面环境,为本地运行大模型提供了一种非主流的编程语言实现路径。
开发者用Delphi 12编写Windows Vulkan GPU GGUF大模型推理引擎
AI 辅助判断中性仅供信息参考,不构成投资建议
原始信息来源Hnrssgithub.com
查看原文 ↗RecodeX 重构消息,一款名为VindexLLM的开源项目发布,这是一个用Delphi 12编写的Windows平台大语言模型推理引擎,通过Vulkan调用GPU加速,支持加载GGUF格式模型文件。该项目面向Windows桌面环境,为本地运行大模型提供了一种非主流的编程语言实现路径。