DatabricksMoE企业开源开源模型

DBRX（MoE 开源） Instruct

DBRX系列 · Databricks · 2024-03发布

开源支持本地部署国内可直连有免费额度代码专用

🔗 官方体验地址 → 📄 API文档地址 → 📥 模型下载地址 →

模型介绍

Databricks 开源的大规模 MoE 模型，132B 总参数激活仅 36B，推理效率高，通用能力与代码表现优秀，面向企业数据场景。

模型基础信息

模型系列DBRX系列

开发机构Databricks

发布时间2024-03

参数规模132B（MoE，激活 36B）

上下文窗口32K

模型类型文本

中文能力一般

使用方式网页体验 / API调用 / 本地部署

免费额度与收费政策

开源免费

免费规则详情

Databricks 开放许可，允许商用。

收费标准简介

本地零成本。

模型能力介绍

✅ 核心优势

MoE 推理效率高
通用与代码能力均衡
企业级背景
开源免费

⚠️ 短板与局限

32K 上下文较短
中文能力一般
生态相对小

🎯 适用场景

企业知识处理
代码辅助
开源研究
MoE 架构学习

模型使用教程

本章节整理 DBRX（MoE 开源）的在线体验、API调用、本地部署全套入门教程，快速上手使用该模型。

Databricks 开源的 MoE 大模型，激活参数少、推理高效。

本地：vLLM 部署。
特点：通用与代码能力均衡。

HF_ENDPOINT=https://hf-mirror.com huggingface-cli download databricks/dbrx-instruct --local-dir ./dbrx

curl http://localhost:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"databricks/dbrx-instruct","messages":[{"role":"user","content":"你好"}]}'

pip install vllm
vllm serve databricks/dbrx-instruct --port 8000 --tensor-parallel-size 4

💡 使用小技巧

本地需较大内存（量化后可用）。

企业数据场景契合 Databricks 生态。

❓ 常见问题 FAQ

Q1：DBRX 多大？

A1：132B 总参，激活 36B。

Q2：能商用吗？

A2：可，遵守开放许可。

访问备注与注意事项

权重 hf-mirror 可下
显存 / 内存需求高