- 上云资讯 -
阿里云云原生
阿里云开发者
腾讯云开发者
火山引擎开发者社区
魔搭ModelScope社区
微软科技
Azure云科技
Zilliz
OpenAI
Anthropic
Gemini
LangChain
Hugging Face
Mistral
2025-06-18 13:23:13 44人关注
大模型推理大变革！CMU 与英伟达携手推出 Multiverse，实现超高速并行生成
随着人工智能的发展，大型语言模型（LLM）的应用越来越广泛，但目前的推理方式仍然存在不少局限性。传统的自回归生成方式需要逐个生成 token，效率较低且无法充分利用现代硬件的并行计算能力。为了解决这一问题，卡耐基梅隆大学(CMU)与英伟达的研究团队推出了一种名为 Multiverse 的新型生成模型，旨在实现原生并行生成，从根本上改变我们对 LLM 推理的理解。