RecodeX 重构消息,谷歌DeepMind技术团队成员奥马尔・圣塞维耶罗介绍了一项实验:将AI推理搬进办公激光打印机。该实验无需改动固件、不增加外部计算板,借助Gemini 4 Carbon模型,把小型Transformer推理引擎和量化模型编译成Post打印任务,由打印机原有的Post解释器执行计算,全部运算在打印机CPU上完成。
实验运行约2.7亿参数的Gemma 3 270M模型,通过动态层加载适配有限内存,运行时峰值内存占用约14.1MB。模型共18个Transformer网络层,生成一个词元约需60秒,预填充阶段处理输入提示耗时约184秒,解码单个词元耗时0.1秒。