AI 模型大全

Ollama 让本地大模型像 App 一样安装运行，扩展支持视觉与多模态，一条命令跑起各类模型，生态最流行。

RAGFlow 是深度文档理解的 RAG 引擎，布局识别、表格抽取质量高，中文文档处理优秀，可本地部署。

LMDeploy 是国产高性能推理框架，服务 Qwen、InternLM、Llama 等，INT4/8 量化与多模态支持，OpenAI 兼容。

LangChain 是最流行的 LLM 应用开发框架，链式调用、Agent、RAG 组件丰富，社区生态巨大。

LlamaIndex 是构建 RAG 应用的核心 Python 框架，连接数据与 LLM，文档索引、查询与 Agent 工具一应俱全。

TensorRT-LLM 是 NVIDIA 的高性能推理引擎，基于 TensorRT，FP8/权重量化极限加速，DataCenter GPU 顶级吞吐。

GPT-Next-Web 是最流行的开源网页版 ChatGPT UI，可对接任意 OpenAI 兼容 API，国内自部署热门。

PrivateGPT 主打隐私的私有知识库问答，完全本地推理，文档不出设备，RAG 与 LLM 全离线。

LocalAI 是 OpenAI API 本地替代方案，纯 CPU/GPU 皆可跑，支持文本、语音、图像生成，无需 GPU 也能体验。

AnythingLLM 是一体化知识库 RAG 桌面应用，接入本地与云端模型，上传文档即可问答，适合个人知识管理。

SD Forge 是 A1111 WebUI 的高性能分支，内存优化显著，低显存也能跑大模型，兼容原生态插件。

Fooocus 让 Midjourney 式出图体验走进本地，内置 SDXL/FLUX 模型，一键生成无需复杂调参。

Chatbox 是跨平台开源 AI 桌面客户端，支持多模型、提示词管理、图文对话与自定义 API，简单干净。

Cherry Studio 是国产开源桌面 AI 客户端，聚合多模型与知识库，Windows/macOS/Linux 全覆盖，中文体验好。

LobeChat 是现代开源 AI 聊天助手，支持多模型接入、插件、知识库与多模态，界面美观，可本地部署。

SillyTavern 是功能强大的角色扮演/小说对话前端，支持接入本地与云端模型，世界书自定义程度极高。

Aider 是终端 AI 结对编程工具，支持多模型与 Git 集成，让 AI 直接在仓库中改代码、写测试、提交 commit。

Cline 是 VS Code 中的自主编码 Agent，可规划、编辑文件、执行命令并调用终端，配合模型实现全流程开发。

Continue 是 VS Code / JetBrains 的开源 AI 编程插件，可接入 OpenAI、Claude、本地 Ollama 等任意模型。

SGLang 是高性能大模型推理框架，RadixAttention 缓存与结构化控制流，吞吐与延迟表现顶尖，OpenAI 兼容。