RecodeX 重构消息,开发者发布名为Gall的工具,可在配备24GB内存的M2芯片Mac上运行Inkling 2 Mini模型,并在消息发送间隙释放内存,以降低持续占用。该方案针对内存受限的本地推理场景,通过按需加载与间隙回收内存来维持模型运行。