Aitishiku.com
中文医疗开源百川 开源模型
Baichuan 3 3
Baichuan系列 · 百川智能 · 2024-03发布
模型介绍
百川智能的新一代基座大模型，医疗场景专项优化（Baichuan-3 药学），部分权重开放，商业化走闭源 API。
模型基础信息
模型系列Baichuan系列
开发机构百川智能
发布时间2024-03
参数规模超过 1000 亿参数量级（未开源全量）
上下文窗口32K
模型类型文本
中文能力优秀
使用方式网页体验 / API调用 / 本地部署
免费额度与收费政策
合作 API
免费规则详情
部分开源，全量走商用。
收费标准简介
以商用为准。
模型能力介绍
✅ 核心优势
- 医疗专项强
- 中文好
- 行业深耕
- 新一代架构
⚠️ 短板与局限
- 全量未开放
- 生态依赖百川
- 研究资料少
🎯 适用场景
- 医疗问答
- 药学知识
- 中文应用
- 行业定制
模型使用教程
本章节整理 Baichuan 3 的在线体验、API调用、本地部署全套入门教程，快速上手使用该模型。
- 本地体验：
ollama run baichuan-3或 Transformers / vLLM 加载。 - 云端：HF 托管模型可在线体验。
ollama run baichuan-3 "用中文介绍一下Baichuan 3"HF_ENDPOINT=https://hf-mirror.com huggingface-cli download 百川智能/Baichuan 3 --local-dir ./baichuan-3或 ModelScope 国内直连下载。
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('百川智能/Baichuan 3')
tok = AutoTokenizer.from_pretrained('百川智能/Baichuan 3')
code = tok.apply_chat_template([{'role':'user','content':'你好'}], tokenize=False)
print(model.generate(**tok(code, return_tensors='pt')))Baichuan 3 参数规模超过千亿，官方仅开放部分蒸馏/偏小权重，普通单卡无法部署全量。
- 若持有官方开放权重，先用 transformers 校验：
pip install transformers accelerate
- 全量模型需要多卡 A100/H100：
vllm serve baichuan-inc/Baichuan3-XXXXX --tensor-parallel-size 8 --port 8000
- 小显存用户建议改用官方 API（百度云 / baichuan-ai.com）或 Baichuan 2 的 7B/13B 开源版。
Tips：个人电脑请优先选用 Baichuan 2 开源版或国产小尺寸模型，Baichuan 3 适合企业多卡集群。
💡 使用小技巧
医疗场景是其特色。
❓ 常见问题 FAQ
Q1：Baichuan 3 全开源吗？\nA1：部分开源，全量商用。
访问备注与注意事项
- 关注官方发布权限