Meta代码开源补全 开源模型
CodeLlama Code Llama
Code Llama系列 · Meta AI · 2023-08发布
模型介绍
Meta 开源的代码专用模型,支持补全、填充与指令,多语言编程,早期最流行的本地代码模型之一。
模型基础信息
模型系列Code Llama系列
开发机构Meta AI
发布时间2023-08
参数规模7B / 13B / 34B / 70B
上下文窗口16K
模型类型文本(代码专用)
中文能力一般
使用方式网页体验 / API调用 / 本地部署
免费额度与收费政策
开源免费
免费规则详情
许可免费商用(遵守条款)。
收费标准简介
本地零成本。
模型能力介绍
✅ 核心优势
- 多语言代码
- 填充模式
- 尺寸多
- 生态成熟
⚠️ 短板与局限
- 工具调用弱
- 新竞争多
- 中文注释一般
🎯 适用场景
- 代码补全
- IDE 插件
- 代码问答
- 微调
模型使用教程
本章节整理 CodeLlama 的在线体验、API调用、本地部署全套入门教程,快速上手使用该模型。
- 本地体验:
ollama run codellama或 Transformers / vLLM 加载。 - 云端:HF 托管模型可在线体验。
ollama run codellama "用中文介绍一下CodeLlama"
HF_ENDPOINT=https://hf-mirror.com huggingface-cli download Meta AI/Code Llama --local-dir ./codellama
或 ModelScope 国内直连下载。
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('Meta AI/Code Llama')
tok = AutoTokenizer.from_pretrained('Meta AI/Code Llama')
code = tok.apply_chat_template([{'role':'user','content':'你好'}], tokenize=False)
print(model.generate(**tok(code, return_tensors='pt')))
CodeLlama 是 Meta 开源的代码大模型,7B 量化后 6GB 显存即可本地写代码与补全。
- 一行命令(Ollama):
ollama pull codellama:7b
- 交互使用:
ollama run codellama:7b "用 Python 写一个快速排序"
- 服务化用 vLLM:
pip install vllm && vllm serve codellama/CodeLlama-7b-Instruct-hf --port 8000
Tips:34B 代码能力更强,约需 36GB 显存;70B 建议多卡。
💡 使用小技巧
老经典,代码任务稳定。
❓ 常见问题 FAQ
Q1:CodeLlama 用途?\nA1:本地代码助手。
访问备注与注意事项
- 权重 hf-mirror 可下
Aitishiku.com