澜舟孟子 2.0
孟子系列 · 澜舟科技 · 2023-07发布
模型介绍
澜舟科技的孟子大模型,开源权重可商用,中文能力好,主打可控生成与垂直行业(金融等)支持。
模型基础信息
免费额度与收费政策
免费规则详情
开源权重可商用;行业定制走合作。
收费标准简介
本地免费;行业方案另报。
模型能力介绍
✅ 核心优势
- 中文强
- 开源可商用
- 可控生成
- 行业支持
⚠️ 短板与局限
- 规模有限
- 生态较小
- 推理一般
🎯 适用场景
- 金融文本
- 可控对话
- 行业定制
- 本地部署
模型使用教程
本章节整理 澜舟孟子 的在线体验、API调用、本地部署全套入门教程,快速上手使用该模型。
- 本地体验:
ollama run langboat-mencius或 Transformers / vLLM 加载。 - 云端:HF 托管模型可在线体验。
ollama run langboat-mencius "用中文介绍一下澜舟孟子"
HF_ENDPOINT=https://hf-mirror.com huggingface-cli download 澜舟科技/孟子 --local-dir ./langboat-mencius
或 ModelScope 国内直连下载。
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('澜舟科技/孟子')
tok = AutoTokenizer.from_pretrained('澜舟科技/孟子')
code = tok.apply_chat_template([{'role':'user','content':'你好'}], tokenize=False)
print(model.generate(**tok(code, return_tensors='pt')))
孟子是澜舟科技开源的中文大模型(6B/13B),中文对话与理解不错,MIT 友好,适合本地中文应用。
- transformers 加载(权重 ModelScope/hf-mirror 可下):
pip install transformers accelerate
python -c "from transformers import AutoModelForCausalLM, AutoTokenizer; m=AutoModelForCausalLM.from_pretrained('Langboat/mengzi3-8b-base', trust_remote_code=True, torch_dtype='float16').cuda(); t=AutoTokenizer.from_pretrained('Langboat/mengzi3-8b-base', trust_remote_code=True)"
- vLLM 服务化:
vllm serve Langboat/mengzi3-8b-base --trust-remote-code --port 8000
Tips:13B 约 26GB 显存,4bit 可降一半;中文小尺寸选手,适合私有化。
💡 使用小技巧
中文可控生成场景友好。
❓ 常见问题 FAQ
Q1:孟子能商用吗?\nA1:开源版本可商用。
访问备注与注意事项
- 权重 GitHub 可下
Aitishiku.com