RecodeX 重构消息，近期OpenAI新模型GPT-6 Astra引发关注，其在3D渲染、图形及计算机操作任务上表现突出。为强化模型的计算机操作能力，OpenAI采购了数万台Mac用于强化学习训练。
有报道称Astra采用循环Transformer设计，通过让中间表示多次通过同一批Transformer块来提升有效深度，变体包括固定循环次数的Nanbeige、支持自适应停止的Universal Transformer与Ouro、以路由决定循环次数的Mixture-of-Recursions等，可在固定算力预算下提升性能。
针对循环Transformer会遮蔽推理轨迹的质疑，相关观点认为更短的推理轨迹源于模型能力更强、犯错更少，与循环架构无关，OpenAI首席科学家也澄清架构变化并非推理轨迹监控性下降的原因。