2024-12-22 07:30:12
92人关注
腾讯开源大语言模型Hunyuan-large，支持高达256K文本序列
腾讯今日发布开源MOE大语言模型Hunyuan-large，总参数量达398B，激活参数量52B。公开测评结果显示，腾讯混元Large在CMMLU、MMLU、CEva1、MATH等多学科综合评测集以及中英文NLP任务、代码和数学等9大维度全面领先，超过Llama3.1、Mixtral等一流的开源大模型。
腾讯混元大模型
256k长序列
大模型技术
长序列处理技术
腾讯AI大模型
