Cohere Command A Command A
Cohere Command A系列 · Cohere · 2025-03发布
模型介绍
Cohere 开放权重旗舰模型,MoE 架构 111B,原生多语言(含中文)能力优秀,面向企业检索增强(RAG)与 Agent 场景。
模型基础信息
免费额度与收费政策
免费规则详情
权重可下载用于非商业;API 按量计费。
收费标准简介
按 token 计费(以 cohere.com 为准)。
模型能力介绍
✅ 核心优势
- 多语言优�
- RAG 与企业场景强
- MoE 推理高效
- 开放权重
⚠️ 短板与局限
- 非商业许可
- 国内直连受限
- 生态小于主流
🎯 适用场景
- 企业 RAG
- 多语言 Agent
- 文档理解
- 数据检索
模型使用教程
本章节整理 Cohere Command A 的在线体验、API调用、本地部署全套入门教程,快速上手使用该模型。
- 体验:Cohere Command A 官方产品(Web / 订阅)。
- 开发:通过官方 API 接入,模型标识
command-a-03-2025。
API 提供流式与非流式对话,支持系统提示词、工具调用等能力。
curl https://api.cohere.com/v2/chat \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"command-a-03-2025","messages":[{"role":"user","content":"用中文介绍一下Cohere Command A"}]}'
- 注册 Cohere 账号并完成实名认证。
- 进入开发者控制台创建 API Key,并按需充值。
export API_KEY=sk-xxxx
import requests
resp = requests.post('https://api.cohere.com/v2/chat', headers={'Authorization': f'Bearer {API_KEY}'}, json={'model': 'command-a-03-2025', 'messages': [{'role': 'user', 'content': '你好'}]})
print(resp.json()['choices'][0]['message']['content'])
Command A 开放权重(111B MoE),可用 vLLM/SGLang 在本地部署,但显存门槛高。
- 安装 vLLM:
pip install vllm(v0.8+ 支持 Command A)。 - 下载权重(CohereForAI/aya-expanse-32b 级别,或 command-r 系列;hf-mirror 可下)后启动 OpenAI 兼容服务:
vllm serve CohereForAI/aya-command-111b --tensor-parallel-size 8 --max-model-len 8192
- 接入测试(OpenAI SDK 兼容端口 8000):
curl http://localhost:8000/v1/chat/completions -H "Content-Type: application/json" -d '{"model":"aya-command-111b","messages":[{"role":"user","content":"用中文介绍自己"}]}'
Tips:量化后(4bit)显存可降到 24-32GB;演示可用更小的 memeos/aperture 或本地量化版。
💡 使用小技巧
企业知识库场景突出。
❓ 常见问题 FAQ
Q1:Command A 特色?\nA1:多语言+RAG 能力强。
访问备注与注意事项
- 权重 hf-mirror 可下\n商业用需 API 或授权
Aitishiku.com