- 上云资讯 -
2024-12-24 04:36:14 44人关注
全球最强AI训练集群Colossus正式上线，xAI与英伟达联手打造
今天，NVIDIA（英伟达） 宣布，与 xAI 合作打造的 Colossus 超级计算机集群正式上线，这可是全球最强AI训练集群Colossus，整整由10万颗 NVIDIA Hopper GPU 组成。
2024-12-13 13:36:12 43人关注
无须超级集群！Nous Research 启动全球分布式 AI 训练，颠覆大模型开发方式
在快速发展的生成式 AI 领域，Nous Research 团队正在进行一项独特的实验:他们正在利用分布在全球的机器，预训练一款15亿参数的大型语言模型（LLM），这一过程避免了传统上需要在昂贵且耗电的数据中心或超级集群中进行的集中式开发。