Meta中文一般开源经典开源模型

Llama 2 2

Llama系列 · Meta AI · 2023-07发布

开源支持本地部署国内可直连有免费额度

🔗 官方体验地址 → 📄 API文档地址 → 📥 模型下载地址 →

模型介绍

Meta 第二代入门开源模型，开创商业免费许可，是全球开源热潮的起点，如今仍是学习与轻量部署参考。

模型基础信息

模型系列Llama系列

开发机构Meta AI

发布时间2023-07

参数规模7B / 13B / 70B

上下文窗口4K

模型类型文本

中文能力一般

使用方式网页体验 / API调用 / 本地部署

免费额度与收费政策

开源免费

免费规则详情

社区许可免费商用。

收费标准简介

本地零成本。

模型能力介绍

✅ 核心优势

商业免费许可
生态成熟
资料丰富
易于部署

⚠️ 短板与局限

能力落后
4K 上下文短
中文弱

🎯 适用场景

教学
轻量部署
微调基座
历史对比

模型使用教程

本章节整理 Llama 2 的在线体验、API调用、本地部署全套入门教程，快速上手使用该模型。

本地体验：ollama run llama-2 或 Transformers / vLLM 加载。
云端：HF 托管模型可在线体验。

ollama run llama-2 "用中文介绍一下Llama 2"

HF_ENDPOINT=https://hf-mirror.com huggingface-cli download Meta AI/Llama 2 --local-dir ./llama-2

或 ModelScope 国内直连下载。

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('Meta AI/Llama 2')
tok = AutoTokenizer.from_pretrained('Meta AI/Llama 2')
code = tok.apply_chat_template([{'role':'user','content':'你好'}], tokenize=False)
print(model.generate(**tok(code, return_tensors='pt')))

Llama 2 是 Meta 初代开源旗舰（7B/13B/70B），当前仍适合作为轻量私有化模型，7B 量化后 8GB 显存可跑。

Ollama 一键：

ollama pull llama2:7b

交互使用：

ollama run llama2:7b

vLLM 生产（13B/70B）：

pip install vllm && vllm serve meta-llama/Llama-2-7b-chat-hf --port 8000

Tips：中文联通 lmsys/vicuna 或中文微调版效果更好；70B 建议 2×48GB 或云 API。

💡 使用小技巧

学习开源 LLM 历史必看。

❓ 常见问题 FAQ

Q1：现在还用 Llama 2 吗？\nA1：学习与轻量场景可，新项目用新模型。

访问备注与注意事项

权重 hf-mirror 可下