- 上云资讯 -

2024-12-13 13:36:12 43人关注

无须超级集群！Nous Research 启动全球分布式 AI 训练，颠覆大模型开发方式

在快速发展的生成式 AI 领域，Nous Research 团队正在进行一项独特的实验:他们正在利用分布在全球的机器，预训练一款15亿参数的大型语言模型（LLM），这一过程避免了传统上需要在昂贵且耗电的数据中心或超级集群中进行的集中式开发。