- 上云资讯 -
2025-01-23 13:23:33 100人关注
苹果与NVIDIA联手提升AI模型生产效率,速度提升近三倍
近日,苹果公司在机器学习领域的最新研究显示,他们通过与 NVIDIA 的合作,成功将大型语言模型(LLM)的生成速度提高了近三倍。这一进展的关键在于苹果开源的技术 “Recurrent Drafter”(ReDrafter),它采用了一种推测解码方法,能够显著提升模型训练的效率。
2025-01-21 15:18:31 219人关注
谷歌“王牌” TPU Trillium 开放使用!性能暴涨,AI 模型训练效率再创新高
今年早些时候,谷歌发布了第六代也是迄今为止性能最强大的 TPU——Trillium。今天,Trillium 正式面向 Google Cloud 客户开放使用。
2025-01-02 08:13:21 139人关注
英特尔AI加速器Gaudi 3下周发布,挑战NVIDIA统治地位!
英特尔的2024年计划正在稳步推进。公司宣布,其最新的 AI 加速器 ——Gaudi3,预计将于下周正式发布。Gaudi3被誉为英特尔的 AI 英雄,旨在处理大规模训练和推理任务,具备无限扩展的能力。
2024-12-27 14:38:23 74人关注
AI训练瓶颈突破!Xscape硅光技术带来超高带宽,能耗更低!
在AI训练领域,GPU和其他芯片之间的通信互联(interconnects)是数据传输的关键,但这些互联的带宽限制了AI训练的性能。2022年的一项调查显示,AI开发者通常只能利用GPU容量的25%。
2024-12-11 10:41:27 60人关注
苹果委托三星研发独立封装 LPDDR DRAM 提升 iPhone AI 性能
据韩媒 The Elec 报道,苹果公司近日要求三星开始研究一种新的低功耗双倍数据速率(LPDDR)DRAM 封装方式,以进一步提升 iPhone 的端侧 AI 性能。这一需求标志着苹果在增强设备 AI 功能方面的进一步努力。