Apple Silicon 的机器学习代码或将更便捷地移植至 Nvidia 硬件平台
Nvidia’s hardware is often used to process machine learning applications
某项目正致力于通过在 Apple Silicon Mac 上开发并导出至 CUDA 的方式,降低为 Nvidia 硬件开发机器学习应用的成本
进入机器学习领域成本高昂,部分原因在于其需要昂贵硬件来实现高速查询处理。虽然 Nvidia 芯片及组件因性能优势备受青睐,但苹果正努力降低开发者使用该硬件的门槛
据 Ycombinator 报道 ,苹果正对其开源机器学习框架 MLX 开展 CUDA 后端支持开发工作。CUDA 是 Nvidia 用于显卡图形处理器(GPU)的软件层,该技术同样被用于处理机器学习等计算任务
通过为 MLX 添加 CUDA 支持,该项目将使得开发者能够使用 MLX 进行代码开发。最关键的是,这些代码随后可以导出为兼容 CUDA 的格式运行。
需要明确的是,此次新增的支持功能专门用于从苹果友好的 MLX 环境中导出代码,使其能够在英伟达显卡和服务器硬件上运行。
这并不意味着你可以将英伟达显卡连接到 Mac Pro 或通过外置显卡坞在 Mac 本地运行机器学习应用。同样也不会突然让为 CUDA 编写的机器学习项目直接在 Apple Silicon 上运行。
对于开发者而言,这项功能将使他们有机会先在 Apple SiliconMac 上本地编写和测试代码,然后再部署到基于英伟达 CUDA 的硬件上。
该项目具有潜在的成本优势。Nvidia 的硬件配置可能极其昂贵 ,至少是高配 Mac 的数倍之多。
企业无需购置专门的 Nvidia 开发硬件,可先利用 Apple Silicon 进行小规模开发验证,待投入生产时再扩展规模,从而节省成本。
另一个优势在于 MLX 项目可在基于 CUDA 的系统上运行,其性能远超 Mac。鉴于 Nvidia 硬件在机器学习领域的广泛应用,这为开发者提供了使用更强大硬件的重要机遇。
仍在开发中
该项目被列为进行中的工作,并注明是”由苹果公司赞助”,表明获得了该公司的某种支持。我们无法独立核实这一说法。
虽然后端开发工作始于3月21日,但目前仍处于开发阶段。
置顶帖称当前多数功能尚未实现,但教程示例显然可以运行。测试还在一台运行 Ubuntu 22.04 系统并搭载 CUDA 11.6 的设备上进行过。
鉴于涉及的复杂性,该项目短期内不太可能完全可用。但由于可能获得苹果公司的支持,加上对其他开发者潜在的巨大价值,该项目有持续开发直至完成的动力。
机器学习研究
让苹果的机器学习平台兼容英伟达硬件的项目看似是个奇怪的组合, 考虑到两家公司的历史渊源 。众所周知苹果在 macOS Mojave 的驱动支持上终止了与英伟达的合作,导致 Mac 无法再使用外接显卡。
然而,在机器学习研究的大旗下,两家公司一直保持着较为友好的关系。
去年 12 月 ,苹果公司发布了关于其研发的循环草稿器(ReDrafter)的研究成果,这是一种能加速 LLM 令牌生成的推测式解码方法。研究特别阐述了如何将该技术移植到英伟达 GPU 上运行。
随着机器学习日益成为现代计算的重要特性,提升性能的需求变得空前强烈。