- 上云资讯 -
2025-06-23 10:27:34 55人关注
利用OpenVINO™高效推理MiniCPM4系列模型
本文介绍了使用OpenVINO™工具包高效推理MiniCPM4系列模型的步骤。首先需要创建Python虚拟环境并激活，然后安装必要的软件包，包括OpenVINO GenAI（需指定额外索引源）、NNCF以及Optimum-Intel（从GitHub源码安装）。核心实现部分展示了如何通过openvino_genai模块构建推理流程：创建参数解析器后，初始化LLMPipeline对象并配置生成参数，通过start_chat()开启对话，使用generate()方法处理提示词并支持流式输出，最后调用finish_chat()结束会话。整个过程体现了OpenVINO™在模型推理部署中的简洁性和高效性。
OpenVINO推理MiniCPM4 OpenVINO GenAI安装教程 Optimum-Intel源码安装 MiniCPM4模型部署 OpenVINO工具包高效推理 LLMPipeline流式输出
2025-01-27 09:40:40 209人关注
面壁智能推MiniCPM-o 2.6：一款适用于手机的多模态智能大模型
OpenBMB 团队近日推出了 MiniCPM-o2.6，这是该系列中最新、功能最强大的多模态大型语言模型（MLLM）。MiniCPM-o2.6的最大亮点在于它的8亿参数，使其在视觉、语音以及多模态直播领域的性能接近于 GPT-4o-202405，成为开源社区中多功能且高效的选择。
2025-01-12 11:29:11 268人关注
面壁智能开源 MiniCPM-V 2.6 端侧AI多模态能力对标GPT-4V
"MiniCPM-V2.6"的端侧多模态人工智能模型，它仅有8B参数却取得了20B以下单图、多图、视频理解三项SOTA（State of the Art，即当前最佳水平）成绩，显著提升了端侧AI的多模态能力，与GPT-4V水平全面对标。
2025-01-11 01:23:39 97人关注
星标破万！面壁智能小钢炮模型MiniCPM-V2.6登顶GitHub
面壁小钢炮MiniCPM-V系列的最新版本2.6自发布以来，在全球著名开源社区GitHub和HuggingFace趋势榜上迅速上升至Top3，其GitHub星标数量已破万。自2月1日首次亮相至今，MiniCPM系列的累计下载量已超过百万次，成为端侧模型能力极限的一个重要衡量标准。
Minicpm-v2 Minicpm-v2 GitHub Minicpm-v2 10k stars Minicpm-v2技术优势 Minicpm-v2开源项目
2025-01-05 12:42:20 153人关注
面壁智能发布小钢炮MiniCPM 3.0端侧模型：2GB内存即可运行 性能超GPT-3.5
面壁智能公司最近发布了MiniCPM3.0，这是一款性能卓越的AI模型，能够在仅2GB内存的设备上运行，预示着端侧AI体验的新时代。