事件追踪 · 持续发展中

Inkling 2 Mini本地模型

持续追踪Inkling 2 Mini本地模型相关报道与进展。

我的关注 →RSS 订阅
关注仅保存在当前浏览器和域名中,无需登录,不会自动跨设备同步。

事件时间线

按最新发布排序

持续追踪Inkling 2 Mini本地模型相关报道与进展。

Coinness积极AI 看多

Rapid-MLX开源引擎让MacBook本地运行26B模型Inkling 2 Mini

RecodeX 重构消息,在Thinky Machines以开放权重形式发布Inkling 2 Mini后,开源引擎Rapid-MLX已能在Mac上本地运行该模型,完成推理、调用工具并作答,全程无需云端、无需API密钥,数据不离开笔记本。

该引擎免费开源,可将Apple Silicon芯片变为本地AI算力。测试环境为一台基础配置36GB内存的MacBook,26B模型运行速度达每秒43个token,占用约23GB内存。

持续追踪Inkling 2 Mini本地模型相关报道与进展。

Tokenpost积极

Thinking Machines Lab发布20GB本地AI模型Inkling 2 Mini

RecodeX 重构消息,Thinking Machines Lab公开了约20GB容量的人工智能模型Inkling 2 Mini,该模型面向在苹果芯片设备上直接运行的本地AI场景。其公开模型卡显示,支持对象为内存32GB及以上的苹果芯片设备,模型文件大小约20GB。

本地运行时,模型文件存放于存储设备,运行过程则占用内存,因此内存不足32GB的苹果芯片设备不在公开资料列出的支持条件内。

更多报道(5)