GemmaGoogle多模态端侧开源模型

Gemma 3N 3N

Gemma 3N系列 · Google · 2025-06发布

开源支持本地部署多模态国内可直连有免费额度长上下文

🔗 官方体验地址 → 📄 API文档地址 → 📥 模型下载地址 →

模型介绍

Google 面向端侧优化的 Gemma 3N 系列，1B/4B 极小体积骁龙级端侧可跑，专为手机与边缘设备设计的原生多模态。

模型基础信息

模型系列Gemma 3N系列

开发机构Google

发布时间2025-06

参数规模1B / 4B / 12B

上下文窗口128K

模型类型多模态（图像）

中文能力良好

使用方式网页体验 / API调用 / 本地部署

免费额度与收费政策

开源免费

免费规则详情

Gemma 许可免费商用。

收费标准简介

本地零成本。

模型能力介绍

✅ 核心优势

端侧极致
小巧
多模态
离线

⚠️ 短板与局限

能力有限
中文一般

🎯 适用场景

手机端
边缘
嵌入式
离线助理

模型使用教程

本章节整理 Gemma 3N 的在线体验、API调用、本地部署全套入门教程，快速上手使用该模型。

本地体验：ollama run gemma-3n 或 Transformers / vLLM 加载。
云端：HF 托管模型可在线体验。

ollama run gemma-3n "用中文介绍一下Gemma 3N"

HF_ENDPOINT=https://hf-mirror.com huggingface-cli download Google/Gemma 3N --local-dir ./gemma-3n

或 ModelScope 国内直连下载。

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('Google/Gemma 3N')
tok = AutoTokenizer.from_pretrained('Google/Gemma 3N')
code = tok.apply_chat_template([{'role':'user','content':'你好'}], tokenize=False)
print(model.generate(**tok(code, return_tensors='pt')))

Gemma 3N 是 Google 面向端侧优化的多模态系列（1B/4B/12B），专为手机与边缘设备设计。

端侧用 llama.cpp 跑 GGUF 量化版（CPU 即可）：

git clone https://github.com/ggml-org/llama.cpp && cd llama.cpp && cmake -B build -DGGML_CUDA=ON && cmake --build build --config Release

Ollama 也可（如已上架）：

ollama pull gemma3n

transformers 加载 4B：

python -c "from transformers import AutoModelForCausalLM; AutoModelForCausalLM.from_pretrained('google/gemma-3n-4b-it', device_map='auto')"

Tips：1B/4B 面向手机端侧；4B 量化后 4~6GB 可跑，适合边缘设备。

💡 使用小技巧

端侧应用首选 4B。

❓ 常见问题 FAQ

Q1：3N 与 3 区别？\nA1：3N 更端侧友好。

访问备注与注意事项

权重可下