Mintplex-Labs/anything-llm

AnythingLLM： 你正在寻找的一体化 AI 应用。
与你的文档对话，使用 AI Agents，高度可配置，支持多用户，且无需繁琐的设置。

| | Docs | Hosted Instance

English · 简体中文 · 日本語

👉 桌面版 AnythingLLM (Mac, Windows, 和 Linux)！ 立即下载

与你的文档对话。使用 AI Agents 自动化复杂的工作流。高度可配置，支持多用户，久经沙场——默认在本地运行，毫无设置阻碍。 

观看演示！

[](https://youtu.be/f95rGD9trL0)

### 产品概述 AnythingLLM 支持多用户使用，你可以控制每个用户的访问权限和体验，同时不会损害实例或知识产权的安全性与隐私。 ## AnythingLLM 的酷炫功能 - [动态模型路由](https://docs.anythingllm.com/model-router/overview) - 根据你定义的规则，自动将聊天路由到最适合的提供商和模型。 - [自动和用户管理的记忆](https://docs.anythingllm.com/features/memories) - 让你的 LLM 记住关于你或你的工作区的重要信息。 - [定时任务](https://docs.anythingllm.com/scheduled-jobs/overview) - 在 cron 计划上运行周期性任务或提示词，并具备完整的 agent 能力。 - [智能技能选择](https://docs.anythingllm.com/agent/intelligent-tool-selection) 为你的模型启用**无限**的工具，同时将每次查询的 token 使用量减少多达 80% - [无代码 AI Agent 构建器](https://docs.anythingllm.com/agent-flows/overview) - [兼容 MCP](https://docs.anythingllm.com/mcp-compatibility/overview) - [多模态支持（包括闭源和开源 LLMs！）](https://docs.anythingllm.com/features/multimodal) - [自定义 AI Agents](https://docs.anythingllm.com/agent/custom/introduction) - 👤 多用户实例支持和权限管理 _仅限 Docker 版本_ - 🦾 工作区内的 Agents（浏览网页等） - 💬 [为你的网站自定义可嵌入的聊天小部件](https://github.com/Mintplex-Labs/anythingllm-embed/blob/main/README.md) _仅限 Docker 版本_ - 📖 支持多种文档类型（PDF, TXT, DOCX 等） - 直观的聊天 UI，支持拖放上传和来源引用。 - 可用于任何云部署的生产环境就绪。 - 适用于所有流行的[闭源和开源 LLM 提供商](#supported-llms-embedder-models-speech-models-and-vector-databases)。 - 针对大型文档集内置了优化——比其他聊天 UI 成本更低、响应更快。 - 完整的开发者 API，可用于自定义集成！ - ...以及更多功能——几分钟即可完成安装，亲自体验吧。 ### 支持的 LLMs, Embedder 模型, 语音模型, 和 Vector 数据库 **大语言模型：** - [任何兼容 llama.cpp 的开源模型](/server/storage/models/README.md#text-generation-llm-selection) - [OpenAI](https://openai.com) - [OpenAI (通用)](https://openai.com) - [Azure OpenAI](https://azure.microsoft.com/en-us/products/ai-services/openai-service) - [AWS Bedrock](https://aws.amazon.com/bedrock/) - [Anthropic](https://www.anthropic.com/) - [NVIDIA NIM (聊天模型)](https://build.nvidia.com/explore/discover) - [Google Gemini Pro](https://ai.google.dev/) - [Ollama (聊天模型)](https://ollama.ai/) - [LM Studio (所有模型)](https://lmstudio.ai) - [LocalAI (所有模型)](https://localai.io/) - [Together AI (聊天模型)](https://www.together.ai/) - [Fireworks AI (聊天模型)](https://fireworks.ai/) - [Perplexity (聊天模型)](https://www.perplexity.ai/) - [OpenRouter (聊天模型)](https://openrouter.ai/) - [DeepSeek (聊天模型)](https://deepseek.com/) - [Mistral](https://mistral.ai/) - [Groq](https://groq.com/) - [Cohere](https://cohere.com/) - [KoboldCPP](https://github.com/LostRuins/koboldcpp) - [LiteLLM](https://github.com/BerriAI/litellm) - [Text Generation Web UI](https://github.com/oobabooga/text-generation-webui) - [Apipie](https://apipie.ai/) - [xAI](https://x.ai/) - [Z.AI (聊天模型)](https://z.ai/model-api) - [Novita AI (聊天模型)](https://novita.ai/model-api/product/llm-api?utm_source=github_anything-llm&utm_medium=github_readme&utm_campaign=link) - [PPIO](https://ppinfra.com?utm_source=github_anything-llm) - [Gitee AI](https://ai.gitee.com/) - [Moonshot AI](https://www.moonshot.ai/) - [Microsoft Foundry Local](https://github.com/microsoft/Foundry-Local) - [CometAPI (聊天模型)](https://api.cometapi.com/) - [Docker Model Runner](https://docs.docker.com/ai/model-runner/) - [PrivateModeAI (聊天模型)](https://privatemode.ai/) - [SambaNova Cloud (聊天模型)](https://cloud.sambanova.ai/) - [Lemonade by AMD](https://lemonade-server.ai) - [Minimax](https://platform.minimax.io) - [Cerebras (聊天模型)](https://www.cerebras.ai/) - [oMLX](https://github.com/jundot/omlx) **Embedder 模型：** - [AnythingLLM 原生 Embedder](/server/storage/models/README.md) (默认) - [OpenAI](https://openai.com) - [Azure OpenAI](https://azure.microsoft.com/en-us/products/ai-services/openai-service) - [Gemini](https://ai.google.dev/) - [LocalAI (所有)](https://localai.io/) - [Ollama (所有)](https://ollama.ai/) - [LM Studio (所有)](https://lmstudio.ai) - [Lemonade](https://lemonade-server.ai) - [OpenRouter](https://openrouter.ai/) - [LiteLLM](https://github.com/BerriAI/litellm) - [Cohere](https://cohere.com/) - [Voyage AI](https://www.voyageai.com/) - [Mistral](https://mistral.ai/) - 通用 OpenAI 兼容的 embedding API **音频转录模型：** - [AnythingLLM 内置](https://github.com/Mintplex-Labs/anything-llm/tree/master/server/storage/models#audiovideo-transcription) (默认) - [OpenAI](https://openai.com/) - 原生浏览器内置 (默认) - [PiperTTSLocal - 在浏览器中运行](https://github.com/rhasspy/piper) - [OpenAI TTS](https://platform.openai.com/docs/guides/text-to-speech/voice-options) - [ElevenLabs](https://elevenlabs.io/) - 任何兼容 OpenAI 的 TTS 服务。 - 原生浏览器内置 (默认) **Vector 数据库：** - [LanceDB](https://github.com/lancedb/lancedb) (默认) - [PGVector](https://github.com/pgvector/pgvector) - [Astra DB](https://www.datastax.com/products/datastax-astra) - [Pinecone](https://pinecone.io) - [Chroma & ChromaCloud](https://trychroma.com) - [Weaviate](https://weaviate.io) - [Qdrant](https://qdrant.tech) - [Milvus](https://milvus.io) - [Zilliz](https://zilliz.com) ### 技术概述 这个 monorepo 包含六个主要部分： - `frontend`：一个 viteJS + React 前端，你可以运行它来轻松创建和管理 LLM 可以使用的所有内容。 - `server`：一个 NodeJS express 服务器，用于处理所有的交互，并执行所有的 vectorDB 管理和 LLM 交互。 - `collector`：NodeJS express 服务器，用于处理和解析来自 UI 的文档。 - `docker`：Docker 说明和构建过程，以及从源码构建的信息。 - `embed`：用于生成和创建 [网页嵌入小部件](https://github.com/Mintplex-Labs/anythingllm-embed) 的子模块。 - `browser-extension`：[Chrome 浏览器扩展](https://github.com/Mintplex-Labs/anythingllm-extension)的子模块。 ## 🛳 自托管 | Railway | RepoCloud | Elestio | Northflank | | --------------------------------------------------- | --------------------------------------------------------- | --------------------------------------------------- | ------------------------------------------------------------ | | [][railway-deploy] | [][repocloud-deploy] | [][elestio-deploy] | [][northflank-deploy] | [或者在不使用 Docker 的情况下设置生产级 AnythingLLM 实例 →](./BARE_METAL.md) ## 如何设置开发环境 - `yarn setup` 填写你在应用程序各个部分（从 repo 根目录开始）所需的 `.env` 文件。 - 在继续之前先去填写它们。确保 `server/.env.development` 已填写，否则系统将无法正常运行。 - `yarn dev:server` 在本地启动服务器（从 repo 根目录开始）。 - `yarn dev:frontend` 在本地启动前端（从 repo 根目录开始）。 - `yarn dev:collector` 然后运行文档收集器（从 repo 根目录开始）。 [了解文档](./server/storage/documents/DOCUMENTS.md) ## 遥测与隐私 由 Mintplex Labs Inc 开发的 AnythingLLM 包含一项遥测功能，用于收集匿名的使用信息。

更多关于 AnythingLLM 的遥测与隐私

### 为什么收集？ 我们使用这些信息来帮助我们了解 AnythingLLM 的使用情况，帮助我们优先处理新功能和错误修复的工作，并帮助我们提升 AnythingLLM 的性能和稳定性。 ### 如何退出 在你的 server 或 docker 的 .env 设置中将 `DISABLE_TELEMETRY` 设为 "true" 即可退出遥测。你也可以在应用内操作，前往侧边栏 > `Privacy` 并禁用遥测。 ### 我们具体追踪什么？ 我们只会追踪有助于我们做出产品和路线图决策的使用细节，具体包括： - 你的安装类型（Docker 或桌面版） - 文档被添加或移除的时间。不包含_关于_文档的任何信息，只记录事件发生。这能让我们了解使用情况。 - 正在使用的 vector 数据库类型。当该提供商有更新时，这能帮助我们优先处理相关变动。 - 正在使用的 LLM 提供商和模型标签类型。当该提供商或模型，或它们的组合有更新时，这能帮助我们优先处理相关变动。例如：推理模型 vs 常规模型、多模态模型等。 - 发送聊天的时间。这是最常见的“事件”，能让我们了解所有安装中该项目的日常活跃度。再次强调，只发送**事件**——我们绝不包含关于聊天本身性质或内容的任何信息。 你可以通过查找所有调用 `Telemetry.sendTelemetry` 的位置来验证这些声明。此外，这些事件会被写入输出日志中，因此如果启用的话，你也可以看到发送的具体数据。**绝不收集任何 IP 或其他可识别信息**。遥测提供商是 [PostHog](https://posthog.com/)——一个开源的遥测收集服务。 我们非常重视隐私，我们希望你能理解，我们想要了解我们的工具是如何被使用的，而不是通过烦人的弹窗调查，以便我们能打造出真正值得使用的东西。匿名数据_绝对不会_与第三方共享。 [在源代码中查看所有遥测事件](https://github.com/search?q=repo%3AMintplex-Labs%2Fanything-llm%20.sendTelemetry(&type=code) ### 其他外部连接 如果你禁用了遥测，你仍然会看到以下服务的外部连接： - 如果使用了外部工具、LLM、Embedding 模型或 Vector 数据库，你仍然会看到与相应服务提供商的外部连接。 - `cdn.anythingllm.com` 用于从我们的镜像 CDN 拉取模型。这不会被遥测追踪，而且实际上对于处于 VPN 限制区域的用户非常有用。 - `github/githubusercontent.com` 有一些从这些域名下载的各种静态文件，用于上下文窗口缓存。 基本上，如果禁用了遥测，我们就不收集任何内容。但是，根据你的设置，你可能仍会看到外部连接，并且将受限于相应服务提供商的服务条款。

## 🔗 更多产品 - **[AnythingLLM 移动版 (MIT 许可证)][anythingllm-mobile]：** 一款允许你在移动设备上使用 AnythingLLM 的移动应用。 - **[AnythingLLM 浏览器扩展][anythingllm-extension]：** 一款允许你在浏览器中使用 AnythingLLM 的浏览器扩展。 - **[AnythingLLM Embed][anythingllm-embed]：** 一个允许你将 AnythingLLM 嵌入到你网站中的小部件。 版权所有 © 2026 [Mintplex Labs][profile-link]。
本项目采用 [MIT](./LICENSE) 许可协议。

标签：AI智能体, DLL 劫持, LLM, MITM代理, RAG, Unmanaged PE, 人工智能, 大语言模型, 本地部署, 用户模式Hook绕过, 自定义脚本, 请求拦截