AI2开源研究透明开源模型

OLMo（AI2） 2

OLMo系列 · 艾伦人工智能研究所 · 2024-02发布

开源支持本地部署国内可直连有免费额度

🔗 官方体验地址 → 📄 API文档地址 → 📥 模型下载地址 →

模型介绍

AI2 的开放语言模型 OLMo，权重、训练数据、代码全开放，是研究社区透明度标杆。

模型基础信息

模型系列OLMo系列

开发机构艾伦人工智能研究所

发布时间2024-02

参数规模1B / 7B

上下文窗口2K~4K

模型类型文本

中文能力一般

使用方式网页体验 / API调用 / 本地部署

免费额度与收费政策

开源免费

免费规则详情

Apache-2.0 完全开放。

收费标准简介

本地零成本。

模型能力介绍

✅ 核心优势

完全开放
研究友好
pache
教学资源

⚠️ 短板与局限

能力一般
上下文短
中文弱

🎯 适用场景

学术研究
可解释性
教学
自训研发

模型使用教程

本章节整理 OLMo（AI2）的在线体验、API调用、本地部署全套入门教程，快速上手使用该模型。

本地体验：ollama run olmo 或 Transformers / vLLM 加载。
云端：HF 托管模型可在线体验。

ollama run olmo "用中文介绍一下OLMo（AI2）"

HF_ENDPOINT=https://hf-mirror.com huggingface-cli download 艾伦人工智能研究所/OLMo --local-dir ./olmo

或 ModelScope 国内直连下载。

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('艾伦人工智能研究所/OLMo')
tok = AutoTokenizer.from_pretrained('艾伦人工智能研究所/OLMo')
code = tok.apply_chat_template([{'role':'user','content':'你好'}], tokenize=False)
print(model.generate(**tok(code, return_tensors='pt')))

OLMo 是 AI2 开源的完全开放模型（数据+权重全公开），7B 单卡可跑，适合学术研究与微调。

transformers 加载：

pip install transformers accelerate

python -c "from transformers import AutoModelForCausalLM, AutoTokenizer; m=AutoModelForCausalLM.from_pretrained('allenai/OLMo-7B', trust_remote_code=True, torch_dtype='float16').cuda(); t=AutoTokenizer.from_pretrained('allenai/OLMo-7B', trust_remote_code=True)"

vLLM：

vllm serve allenai/OLMo-7B --trust-remote-code --port 8000

Tips：研究透明是第一卖点；中文能力一般，偏向英文研究场景。

💡 使用小技巧

研究透明性首选。

❓ 常见问题 FAQ

Q1：OLMo 特别在哪？\nA1：全链路开放。

访问备注与注意事项

权重 hf-mirror 可下