上云资讯 - 来上云吧，企业上云一站式服务

AI对话上云服务上云资讯解决方案关于我们

阿里云云原生阿里云开发者腾讯云开发者火山引擎开发者社区魔搭ModelScope社区微软科技 Azure云科技 Zilliz OpenAI Anthropic Gemini LangChain Hugging Face Mistral

2025-01-13 03:19:32 154人关注

大模型瘦身专家！单卡处理Llama 3.1 405B 超强压缩工具LLMC来了

人工智能（AI）正变得越来越聪明，尤其是那些大型语言模型(LLMs)，它们在处理自然语言方面的能力让人惊叹。但你知道吗?这些聪明的AI大脑背后，是需要巨大的计算力和存储空间来支撑的。

Llama 3 大模型压缩工具 405B模型压缩大模型优化技术模型压缩实践

2024-12-25 03:24:43 93人关注

Meta AI新量化版本Llama 3.2：速度提高2倍、体量减少56%，手机就能运行

最近，Meta AI 推出了全新的量化 Llama3.2模型，包含1B 和3B 两个版本，这款模型可以在多种设备上进行微调、蒸馏和部署。

Meta AI Llama 3 AI大模型大模型优化技术移动端AI加速模型性能提升