DeepSeek开源推理数学 开源模型

DeepSeek-Math 7B RL

DeepSeek系列 · 深度求索 · 2024-02发布

开源支持本地部署国内可直连有免费额度代码专用

模型介绍

DeepSeek 开源数学推理模型,基于 7B,在竞赛数学与 K12 题目上表现突出,专攻推理与符号计算。

模型基础信息

模型系列DeepSeek系列
开发机构深度求索
发布时间2024-02
参数规模7B
上下文窗口8K
模型类型文本(数学专用)
中文能力优秀
使用方式网页体验 / API调用 / 本地部署

免费额度与收费政策

开源免费

免费规则详情

开源,可商用(遵守许可)。

收费标准简介

本地零成本。

模型能力介绍

✅ 核心优势

  • 数学推理强
  • K12 与竞赛
  • 7B 轻量
  • 开源

⚠️ 短板与局限

  • 仅数学场景
  • 上下文短
  • 通用能力弱

🎯 适用场景

  • 数学题解答
  • 解题辅导
  • 推理研究
  • 教育

模型使用教程

本章节整理 DeepSeek-Math 的在线体验、API调用、本地部署全套入门教程,快速上手使用该模型。

  • 本地体验:ollama run deepseek-math 或 Transformers / vLLM 加载。
  • 云端:HF 托管模型可在线体验。
ollama run deepseek-math "用中文介绍一下DeepSeek-Math"
HF_ENDPOINT=https://hf-mirror.com huggingface-cli download 深度求索/DeepSeek-Math --local-dir ./deepseek-math

或 ModelScope 国内直连下载。

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('深度求索/DeepSeek-Math')
tok = AutoTokenizer.from_pretrained('深度求索/DeepSeek-Math')
code = tok.apply_chat_template([{'role':'user','content':'你好'}], tokenize=False)
print(model.generate(**tok(code, return_tensors='pt')))

DeepSeek-Math 是专攻数学推理的 7B 模型,用数学数据训练,本地跑数学题 / 竞赛题效果突出。

  1. 安装依赖:

pip install transformers==4.36.2 accelerate

  1. 加载并做题(权重 hf-mirror 可下):

python -c "from transformers import AutoModelForCausalLM, AutoTokenizer; m=AutoModelForCausalLM.from_pretrained('deepseek-ai/deepseek-math-7b-rl', torch_dtype='float16').cuda(); t=AutoTokenizer.from_pretrained('deepseek-ai/deepseek-math-7b-rl'); p='请计算: 1+2×3=?\n'; print(t.decode(m.generate(t(p, return_tensors='pt').to('cuda'), max_new_tokens=256)[0], skip_special_tokens=True))"

  1. 生产可用 vLLM 起服务:

vllm serve deepseek-ai/deepseek-math-7b-rl --port 8000

Tips:数学推理强但通用问答可用性弱于通用模型,建议业务垂直场景使用。

💡 使用小技巧

数学专才,可微调到自己的题库。

❓ 常见问题 FAQ

Q1:DeepSeek-Math 强在哪?\nA1:数学推理专业。

访问备注与注意事项