MiniCPM多模态端侧面壁 开源模型

MiniCPM-o 2.6 o 2.6

MiniCPM-o系列 · 面壁智能 · 2025-01发布

开源支持本地部署多模态国内可直连有免费额度长上下文代码专用

模型介绍

面壁智能全能端侧多模态模型,8B 支持文本/视觉/音频/语音全模态,端侧跑通,Apache-2.0,是国产端侧多模态的代表。

模型基础信息

模型系列MiniCPM-o系列
开发机构面壁智能
发布时间2025-01
参数规模8B
上下文窗口128K
模型类型多模态(文本+图像+音频)
中文能力优秀
使用方式网页体验 / API调用 / 本地部署

免费额度与收费政策

开源免费

免费规则详情

Apache-2.0 自由商用。

收费标准简介

本地零成本。

模型能力介绍

✅ 核心优势

  • 全模态
  • 端侧
  • 中文
  • 开源

⚠️ 短板与局限

  • 8B 能力有限

🎯 适用场景

  • 端侧
  • 语音助手
  • 多模态
  • 离线

模型使用教程

本章节整理 MiniCPM-o 2.6 的在线体验、API调用、本地部署全套入门教程,快速上手使用该模型。

  • 本地体验:ollama run minicpm-o-2-6 或 Transformers / vLLM 加载。
  • 云端:HF 托管模型可在线体验。
ollama run minicpm-o-2-6 "用中文介绍一下MiniCPM-o 2.6"
HF_ENDPOINT=https://hf-mirror.com huggingface-cli download 面壁智能/MiniCPM-o 2.6 --local-dir ./minicpm-o-2-6

或 ModelScope 国内直连下载。

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('面壁智能/MiniCPM-o 2.6')
tok = AutoTokenizer.from_pretrained('面壁智能/MiniCPM-o 2.6')
code = tok.apply_chat_template([{'role':'user','content':'你好'}], tokenize=False)
print(model.generate(**tok(code, return_tensors='pt')))

MiniCPM-o 2.6 是面壁全能端侧多模态(8B),文本/视觉/音频/语音四模态,Apache-2.0 可商用。

  1. transformers 加载:

pip install -U transformers soundfile

python -c "from transformers import AutoModelForCausalLM, AutoProcessor; m=AutoModelForCausalLM.from_pretrained('openbmb/MiniCPM-o-2_6', trust_remote_code=True, torch_dtype='float16').cuda(); p=AutoProcessor.from_pretrained('openbmb/MiniCPM-o-2_6', trust_remote_code=True)"

  1. 官方 Asuna/Omni 示例提供语音对话 WebUI。
  2. 端侧用 GGUF 量化版(llama.cpp)跑 CPU/手机。

Tips:8B 约 16GB 显存;语音交互是特色,适合端侧 Agent 原型。

💡 使用小技巧

手机端多模态首选。

❓ 常见问题 FAQ

Q1:MiniCPM-o 特点?\nA1:文本+视觉+音频全端侧。

访问备注与注意事项