RecodeX 重构消息,AI Agent创业公司Pokee AI发布新模型Pokee-Isaac 28B,参数总量280亿,上下文窗口达1000万Token,约为主流模型上限的10倍。Pokee自测显示,Isaac在RULER长文本测试中从25.6万到400万Token保持约95分,拉满1000万Token后仍有93.3分,而五款对照模型从200万Token起均无可用结果。该公司将超长上下文归因于自研的非纯Decoder-only架构,但技术报告未公开具体架构、注意力机制和显存方案。Pokee AI成立于2024年,由前Meta应用强化学习负责人朱哲清创办,曾获Point72 Ventures领投1200万美元种子轮。
Pokee发布28B模型,上下文窗口达1000万Token
更多报道Marktechpost ↗
AI 辅助判断积极AI 看多仅供信息参考,不构成投资建议
原始信息来源区块律动theblockbeats.info
查看原文 ↗