Vicuna对话开源经典开源模型

Vicuna 1.5

Vicuna系列 · LMSYS（UC Berkeley） · 2023-03发布

开源支持本地部署国内可直连有免费额度

🔗 官方体验地址 → 📄 API文档地址 → 📥 模型下载地址 →

模型介绍

Vicuna 是早期微调对话模型代表，基于 LLaMA 用用户对话微调，Chatbot Arena 前身，历史地位高。

模型基础信息

模型系列Vicuna系列

开发机构LMSYS（UC Berkeley）

发布时间2023-03

参数规模7B / 13B / 33B

上下文窗口2K

模型类型文本

中文能力一般

使用方式网页体验 / API调用 / 本地部署

免费额度与收费政策

开源免费

免费规则详情

受基座许可约束。

收费标准简介

本地零成本。

模型能力介绍

✅ 核心优势

历史经典
对话流畅
生态资料多
易于部署

⚠️ 短板与局限

能力落后
短上下文
中文弱

🎯 适用场景

历史研究
教学
轻量对话
微调参考

模型使用教程

本章节整理 Vicuna 的在线体验、API调用、本地部署全套入门教程，快速上手使用该模型。

本地体验：ollama run vicuna 或 Transformers / vLLM 加载。
云端：HF 托管模型可在线体验。

ollama run vicuna "用中文介绍一下Vicuna"

HF_ENDPOINT=https://hf-mirror.com huggingface-cli download LMSYS（UC Berkeley）/Vicuna --local-dir ./vicuna

或 ModelScope 国内直连下载。

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('LMSYS（UC Berkeley）/Vicuna')
tok = AutoTokenizer.from_pretrained('LMSYS（UC Berkeley）/Vicuna')
code = tok.apply_chat_template([{'role':'user','content':'你好'}], tokenize=False)
print(model.generate(**tok(code, return_tensors='pt')))

Vicuna 是基于 Llama/Mistral 微调的早期对话模型（7B/13B/33B），本地部署用 FastChat 最方便。

安装 FastChat：

pip install fschat

启动模型：

python -m fastchat.serve.model_worker --model-path lmsys/vicuna-7b-v1.5 & python -m fastchat.serve.openai_api_server --host 0.0.0.0 --port 8000

测试：

curl http://localhost:8000/v1/chat/completions -H "Content-Type: application/json" -d '{"model":"vicuna-7b-v1.5","messages":[{"role":"user","content":"你好"}]}'

Tips：模型较老，能力有限；适合学习 FastChat 生态或老版本场景。

💡 使用小技巧

了解开源对话史必看。

❓ 常见问题 FAQ

Q1：Vicuna 现在的意义？\nA1：历史参考与教学。

访问备注与注意事项

权重需原基座许可