Apache中文开源阿里 开源模型

Qwen2(通义千问2) 2

Qwen系列 · 阿里巴巴 · 2024-06发布

开源支持本地部署国内可直连有免费额度长上下文代码专用

模型介绍

阿里开源 Qwen2 系列,多尺寸覆盖 MoE/密集,中文与代码能力强,Apache-2.0 免费商用,2.5 的前代主力。

模型基础信息

模型系列Qwen系列
开发机构阿里巴巴
发布时间2024-06
参数规模0.5B ~ 72B
上下文窗口128K
模型类型文本
中文能力优秀
使用方式网页体验 / API调用 / 本地部署

免费额度与收费政策

开源免费

免费规则详情

Apache-2.0 完全商用。

收费标准简介

本地零成本。

模型能力介绍

✅ 核心优势

  • 中文优�
  • 尺寸全
  • 128K
  • pache 商用

⚠️ 短板与局限

  • 性能不如 2.5
  • 生态需自行搭
  • 新项目建议 2.5

🎯 适用场景

  • 中文本地部署
  • 微调基座
  • 企业
  • 教学

模型使用教程

本章节整理 Qwen2(通义千问2) 的在线体验、API调用、本地部署全套入门教程,快速上手使用该模型。

  • 本地体验:ollama run qwen2 或 Transformers / vLLM 加载。
  • 云端:HF 托管模型可在线体验。
ollama run qwen2 "用中文介绍一下Qwen2(通义千问2)"
HF_ENDPOINT=https://hf-mirror.com huggingface-cli download 阿里巴巴/Qwen2 --local-dir ./qwen2

或 ModelScope 国内直连下载。

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('阿里巴巴/Qwen2')
tok = AutoTokenizer.from_pretrained('阿里巴巴/Qwen2')
code = tok.apply_chat_template([{'role':'user','content':'你好'}], tokenize=False)
print(model.generate(**tok(code, return_tensors='pt')))

Qwen2(0.5B~72B)是阿里 2024 开源主打,中文极强、指令遵循好,单卡即可跑小尺寸。

  1. Ollama:

ollama pull qwen2:7b

  1. 使用:

ollama run qwen2:7b

  1. vLLM / transformers:

pip install vllm && vllm serve Qwen/Qwen2-7B-Instruct --port 8000

Tips:128K 上下文;0.5B/1.5B 版在树莓派/低配也能跑,国产首选。

💡 使用小技巧

国产开源部署友好。

❓ 常见问题 FAQ

Q1:Qwen2 与 2.5 区别?\nA1:2.5 更强,2 是前代。

访问备注与注意事项