RecodeX 重构消息,一项名为Modded-NanoGPT的项目发起挑战,尝试在8块H100 GPU上于30秒内完成大语言模型预训练,本次尝试记录的成绩为29.90秒。该项目以缩短LLM预训练耗时为目标,此次结果接近30秒门槛。