Meta代码开源补全 开源模型

CodeLlama Code Llama

Code Llama系列 · Meta AI · 2023-08发布

开源支持本地部署国内可直连有免费额度长上下文代码专用

模型介绍

Meta 开源的代码专用模型,支持补全、填充与指令,多语言编程,早期最流行的本地代码模型之一。

模型基础信息

模型系列Code Llama系列
开发机构Meta AI
发布时间2023-08
参数规模7B / 13B / 34B / 70B
上下文窗口16K
模型类型文本(代码专用)
中文能力一般
使用方式网页体验 / API调用 / 本地部署

免费额度与收费政策

开源免费

免费规则详情

许可免费商用(遵守条款)。

收费标准简介

本地零成本。

模型能力介绍

✅ 核心优势

  • 多语言代码
  • 填充模式
  • 尺寸多
  • 生态成熟

⚠️ 短板与局限

  • 工具调用弱
  • 新竞争多
  • 中文注释一般

🎯 适用场景

  • 代码补全
  • IDE 插件
  • 代码问答
  • 微调

模型使用教程

本章节整理 CodeLlama 的在线体验、API调用、本地部署全套入门教程,快速上手使用该模型。

  • 本地体验:ollama run codellama 或 Transformers / vLLM 加载。
  • 云端:HF 托管模型可在线体验。
ollama run codellama "用中文介绍一下CodeLlama"
HF_ENDPOINT=https://hf-mirror.com huggingface-cli download Meta AI/Code Llama --local-dir ./codellama

或 ModelScope 国内直连下载。

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('Meta AI/Code Llama')
tok = AutoTokenizer.from_pretrained('Meta AI/Code Llama')
code = tok.apply_chat_template([{'role':'user','content':'你好'}], tokenize=False)
print(model.generate(**tok(code, return_tensors='pt')))

CodeLlama 是 Meta 开源的代码大模型,7B 量化后 6GB 显存即可本地写代码与补全。

  1. 一行命令(Ollama):

ollama pull codellama:7b

  1. 交互使用:

ollama run codellama:7b "用 Python 写一个快速排序"

  1. 服务化用 vLLM:

pip install vllm && vllm serve codellama/CodeLlama-7b-Instruct-hf --port 8000

Tips:34B 代码能力更强,约需 36GB 显存;70B 建议多卡。

💡 使用小技巧

老经典,代码任务稳定。

❓ 常见问题 FAQ

Q1:CodeLlama 用途?\nA1:本地代码助手。

访问备注与注意事项