AnythingLLM 一体化 AI 应用

能做什么

AnythingLLM 是一个一体化 AI 应用，允许用户连接本地或云端大语言模型（LLM），导入自己的文档后进行对话，并借此构建私有的 ChatGPT 式体验。

其 README 明确列出的能力包括：

• 内置本地 LLM 引擎（基于 Lemonade 与 llama.cpp），可在 CPU 或 GPU 上运行本地模型。
• 动态模型路由：按自定义规则将对话自动路由到合适的提供商与模型。
• 自动与用户管理的记忆功能，让模型记住用户或工作区的重要信息。
• 计划任务：按 cron 计划运行重复任务或提示词，并具备完整智能体能力。
• 智能技能选择，允许为模型启用较多工具，同时减少每次查询的 token 消耗。
• 无代码 AI 智能体构建器。
• MCP 兼容性。
• 多模态支持，覆盖闭源与开源 LLM。
• 自定义 AI 智能体。
• 多用户实例支持与权限控制（仅 Docker 版本）。
• 工作区内置智能体（例如浏览网页等）。
• 可嵌入网站的自定义聊天挂件（仅 Docker 版本）。
• 支持多种文档类型（PDF、TXT、DOCX 等）。
• 直观的聊天 UI，支持拖拽上传与来源引用。
• 面向云部署的生产就绪形态。
• 支持多种闭源与开源 LLM 提供商。
• 针对大规模文档集的内置优化。
• 完整开发者 API，用于自定义集成。

适用场景

• 希望把文档导入后与文档对话的个人或团队。
• 需要在本机或自有环境中运行私有 AI 应用、并连接本地或云端 LLM 的用户。
• 需要多用户、权限控制与可嵌入聊天挂件的部署场景（Docker 版本）。
• 需要构建 AI 智能体、配置计划任务或接入 MCP 工具的开发者与团队。
• 希望用统一界面接入不同 LLM、嵌入模型、语音模型与向量数据库的用户。

使用条件与限制

• 项目为开源仓库，README 提供 Docker、AWS、GCP、Digital Ocean、Render.com、Railway、RepoCloud、Elestio、Northflank、Sealos、Easypanel 等自托管部署方式，也提供桌面版下载（Mac、Windows、Linux）。
• 多用户实例支持、可嵌入聊天挂件等功能仅 Docker 版本提供。
• 使用外部工具、LLM、嵌入模型或向量数据库时，会产生对相应服务提供商的外部连接。
• 项目包含遥测功能，会收集匿名使用信息；可通过设置 DISABLE_TELEMETRY=true 或在应用内隐私设置中关闭。README 说明遥测不收集 IP 或其他身份识别信息。
• 即使关闭遥测，仍可能连接到 cdn.anythingllm.com（模型镜像 CDN）以及 github/githubusercontent.com（用于上下文窗口缓存的部分文件）。
• 实际可用的模型、嵌入器、向量数据库等取决于用户自行配置的提供商与运行环境，README 未对具体性能、价格或免费额度作出说明。