中文开源澜舟金融 开源模型

澜舟孟子 2.0

孟子系列 · 澜舟科技 · 2023-07发布

开源支持本地部署国内可直连有免费额度代码专用

模型介绍

澜舟科技的孟子大模型,开源权重可商用,中文能力好,主打可控生成与垂直行业(金融等)支持。

模型基础信息

模型系列孟子系列
开发机构澜舟科技
发布时间2023-07
参数规模6B~13B
上下文窗口8K~32K
模型类型文本
中文能力优秀
使用方式网页体验 / API调用 / 本地部署

免费额度与收费政策

开源 行业合作

免费规则详情

开源权重可商用;行业定制走合作。

收费标准简介

本地免费;行业方案另报。

模型能力介绍

✅ 核心优势

  • 中文强
  • 开源可商用
  • 可控生成
  • 行业支持

⚠️ 短板与局限

  • 规模有限
  • 生态较小
  • 推理一般

🎯 适用场景

  • 金融文本
  • 可控对话
  • 行业定制
  • 本地部署

模型使用教程

本章节整理 澜舟孟子 的在线体验、API调用、本地部署全套入门教程,快速上手使用该模型。

  • 本地体验:ollama run langboat-mencius 或 Transformers / vLLM 加载。
  • 云端:HF 托管模型可在线体验。
ollama run langboat-mencius "用中文介绍一下澜舟孟子"
HF_ENDPOINT=https://hf-mirror.com huggingface-cli download 澜舟科技/孟子 --local-dir ./langboat-mencius

或 ModelScope 国内直连下载。

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('澜舟科技/孟子')
tok = AutoTokenizer.from_pretrained('澜舟科技/孟子')
code = tok.apply_chat_template([{'role':'user','content':'你好'}], tokenize=False)
print(model.generate(**tok(code, return_tensors='pt')))

孟子是澜舟科技开源的中文大模型(6B/13B),中文对话与理解不错,MIT 友好,适合本地中文应用。

  1. transformers 加载(权重 ModelScope/hf-mirror 可下):

pip install transformers accelerate

python -c "from transformers import AutoModelForCausalLM, AutoTokenizer; m=AutoModelForCausalLM.from_pretrained('Langboat/mengzi3-8b-base', trust_remote_code=True, torch_dtype='float16').cuda(); t=AutoTokenizer.from_pretrained('Langboat/mengzi3-8b-base', trust_remote_code=True)"

  1. vLLM 服务化:

vllm serve Langboat/mengzi3-8b-base --trust-remote-code --port 8000

Tips:13B 约 26GB 显存,4bit 可降一半;中文小尺寸选手,适合私有化。

💡 使用小技巧

中文可控生成场景友好。

❓ 常见问题 FAQ

Q1:孟子能商用吗?\nA1:开源版本可商用。

访问备注与注意事项