Redis 创始人发布 ds4 工具 支持本地运行大语言模型

Redis创始人发布ds4引擎 可在本地运行前沿大模型

RecodeX 重构消息，Redis创始人Salvatore Sanfilippo发布名为ds4的C语言推理引擎，采用MIT许可证开源，可在高内存Mac、CUDA及ROCm系统上本地运行部分前沿大模型。该引擎针对特定模型进行压缩优化，使前沿模型无需依赖云端即可在本地设备上运行。