RecodeX 重构消息,Thinking Machines Lab发布开源多模态模型Inkling 2 Mini,总参数26B,采用循环Transformer架构搭配MoE设计,仅需存储24层权重即可实现每个token 48次层计算,激活参数约3.4B,计入循环重复计算的有效激活量约5.4B。

该模型支持文本与图像输入,上下文窗口达100万token,以Apache 2.0许可开放。模型采用低精度格式存储,检查点约20GB,可在32GB内存以上的普通设备上本地离线运行,在编程与智能体相关任务上表现突出。

官方同步开放了支持调整循环次数的研究版本,但模型在多轮对话、复杂推理等方面仍存在短板。