Aitishiku.comMistral 7B / 8x22B
Mistral系列 · Mistral AI · 2024-04发布
模型介绍
法国 Mistral AI 开源模型，Mixtral 8x22B 采用 MoE 架构，性能对标闭源旗舰，Apache-2.0 协议适合商用与二次开发。
模型基础信息
免费额度与收费政策
免费规则详情
开源权重 Apache-2.0 免费商用；Mistral 托管 API 按量计费，无固定免费层。
收费标准简介
官方 API 按 token 计费（以 console.mistral.ai 价格页为准）；自部署零成本。
模型能力介绍
✅ 核心优势
- Mixtral 8x22B MoE 架构，单 token 激活低
- 推理成本可控
- pache-2.0 协议商用无忧
- 支持 128K 长上下文
- 官方同时提供开源权重与托管 API 两种方式
⚠️ 短板与局限
- 中文表现一般，中文资料较少
- 8x22B 满血版显存需求高
- 生态与文档以英文为主
🎯 适用场景
- 欧洲语系与企业级应用
- 长文档分析
- 代码与结构化输出
- 私有化部署基座
模型使用教程
本章节整理 Mistral 的在线体验、API调用、本地部署全套入门教程，快速上手使用该模型。
- Mixtral 8x22B：MoE 架构，总参数量大但单 token 激活低，显存占用约 90GB（fp16），可用量化版在 48GB 显存运行。
- Mistral 7B：轻量通用，指令版
mistral-7b-instruct适合对话与内容生成。 - Mistral Nemo：12B，128K 上下文，单卡即可运行（推荐）。
- 官方提供托管 API（付费）与开源权重两种使用方式。
体验地址：chat.mistral.ai
HF_ENDPOINT=https://hf-mirror.com huggingface-cli download mistralai/Mistral-7B-Instruct-v0.3 --local-dir ./mistral-7bOllama：ollama pull mistral
API：注册 Mistral Console 平台获取 API Key。
curl https://api.mistral.ai/v1/chat/completions \
-H "Authorization: Bearer $MISTRAL_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"mistral-small-latest","messages":[{"role":"user","content":"用中文解释什么是MoE架构"}]}'Mistral 系列覆盖 7B 到 Mixtral 8x22B（MoE），中文一般但推理强，Apache-2.0 自由部署。
- Mistral 7B（消费级，量化后 8GB 显存）：
ollama pull mistral:7b && ollama run mistral:7b
- Mistral Nemo（12B，128K 上下文，单卡推荐）：
ollama pull mistral-nemo && ollama run mistral-nemo
- Mixtral 8x22B（需约 90GB 显存）：
pip install vllm && vllm serve mistralai/Mixtral-8x22B-Instruct-v0.1 --port 8000 --tensor-parallel-size 2
Tips：权重国内可用 hf-mirror 镜像下载；MoE 版总参数量大但单 token 激活低，可用量化版在 48GB 显存运行。
💡 使用小技巧
用 Ollama 体验：ollama pull mistral。
追求效果可选用 Mixtral 8x22B 的 AWQ 量化版，降低显存占用。
❓ 常见问题 FAQ
Q1：Mixtral 是什么架构？
A1：MoE（混合专家），总参数量大但每个 token 只激活部分专家，推理更高效。
Q2：可以商用吗？
A2：可以，Apache-2.0 协议自由商用。
访问备注与注意事项
- 权重国内可用 hf-mirror 镜像下载
- 官方 API 为海外服务，国内直连可能不稳定