赵樱子周柯宇售后xAI坐拥55万张GPU加速卡,但算力利用率仅11%_蜘蛛资讯网
△xAI孟菲斯Colossus超算集群 然而,惊人的速度似乎也让xAI“欠下”了技术债。扩张越快,支撑大规模并行训练的软件系统复杂度就越大。当企业试图将GPU规模从数千张推向数十万张时,通信、调度、容错和并行策略的挑战会呈指数级增长。xAI的11%的算力利用率,正是这一矛盾的集中体现。 & ” 到20万张仅用了92天。黄仁勋曾评价此类工程“通常需要四年”。 △xAI孟菲斯Colossus超算集群 然而,惊人的速度似乎也让xAI“欠下”了技术债。扩张越快,支撑大规模并行训练的软件系统复杂度就越大。 当前文章:http://ea9g.mubairen.cn/e3g/7ki.html 发布时间:13:47:39 |

