RecodeX 重构消息,Smartness公司工程师Alice在Hacker News上展示了团队自研的开源消息代理QueenMQ,采用Apache 2.0协议。该产品源于2025年上线的新产品中LLM调用耗时数秒至数分钟,阻塞了同一Kafka分区内的其他对话。团队最初将消息存入Postgres再回传Kafka,随后用一年时间重写为单一Rust二进制,数据经Raft在磁盘上复制。
QueenMQ的分区为动态分配,测试规模达1000万个;每个租户设一个Raft领导者,所有写入经单一节点完成,无需两阶段提交即可实现事务。它同时提供ACK、NACK、重试与死信队列,并支持包含ACK、跨队列推送、KV写入和定时器的事务。在三台24 vCPU、NVMe、88GB内存的机器上,其256字节消息吞吐达每秒300万条,p99延迟约20毫秒。