RecodeX 重构消息,开发者使用RTX 3090显卡,在约48小时内成功训练了一个163M参数的GPT-2小型基础模型,性能接近原始版本,验证了个人硬件训练基础模型的可行性。
开发者使用RTX 3090显卡,在约48小时内成功训练了一个163M参数的GPT...
原始信息来源Tailscaletailscale.com
查看原文 ↗RecodeX 重构消息,开发者使用RTX 3090显卡,在约48小时内成功训练了一个163M参数的GPT-2小型基础模型,性能接近原始版本,验证了个人硬件训练基础模型的可行性。