lehaichrom/deep-learning-threat-intelligence
GitHub: lehaichrom/deep-learning-threat-intelligence
一款本地优先的一体化 AI 应用,支持与文档对话、AI Agent 自动化及多用户管理,帮助用户快速搭建私有且可控的 ChatGPT。
Stars: 0 | Forks: 0
AnythingLLM: 你一直在寻找的一体化 AI 应用。
与你的文档聊天,使用 AI Agents,支持超高配置、多用户,且无需繁琐的设置。
|
|
Docs
|
Hosted Instance
English · 简体中文 · 日本語
👉 桌面版 AnythingLLM (Mac, Windows, & Linux)! 立即下载
与你的文档聊天。使用 AI Agents 自动化复杂的工作流。支持超高配置、多用户、久经沙场——并且在本地默认运行,毫无设置阻碍。

观看演示!
[](https://youtu.be/f95rGD9trL0)
### 产品概述
AnythingLLM 是一款一体化 AI 应用,让你无需妥协即可构建一个私有的、功能完备的 ChatGPT。连接你最喜欢的本地或云端 LLM,导入你的文档,并在几分钟内开始聊天。开箱即用,你将获得内置的 agents、多用户支持、向量数据库和文档 pipeline——无需任何额外配置。
AnythingLLM 支持多用户使用,你可以控制每个用户的访问权限和体验,而不会危及实例的安全性、隐私或你的知识产权。
## AnythingLLM 的炫酷功能
- [动态模型路由](https://docs.anythingllm.com/model-router/overview) - 根据你定义的规则,自动将聊天路由到最适合该对话的提供商和模型。
- [自动与用户管理的记忆](https://docs.anythingllm.com/features/memories) - 让你的 LLM 记住关于你或你工作区的重要信息。
- [定时任务](https://docs.anythingllm.com/scheduled-jobs/overview) - 在 cron 计划上运行周期性任务或 prompts,并具备完整的 agent 能力。
- [智能技能选择](https://docs.anythingllm.com/agent/intelligent-tool-selection) 为你的模型启用**无限**工具,同时将每次查询的 token 使用量减少多达 80%
- [无代码 AI Agent 构建器](https://docs.anythingllm.com/agent-flows/overview)
- [兼容 MCP](https://docs.anythingllm.com/mcp-compatibility/overview)
- [多模态支持(同时支持闭源和开源 LLMs!)](https://docs.anythingllm.com/features/multimodal)
- [自定义 AI Agents](https://docs.anythingllm.com/agent/custom/introduction)
- 👤 多用户实例支持与权限管理 _仅限 Docker 版本_
- 🦾 工作区内的 Agents(浏览网页等)
- 💬 [适用于你网站的自定义可嵌入聊天小部件](https://github.com/Mintplex-Labs/anythingllm-embed/blob/main/README.md) _仅限 Docker 版本_
- 📖 支持多种文档类型(PDF, TXT, DOCX 等)
- 直观的聊天 UI,支持拖放上传和来源引用。
- 为任何云部署做好生产准备。
- 兼容所有流行的[闭源和开源 LLM 提供商](#supported-llms-embedder-models-speech-models-and-vector-databases)。
- 为大型文档集内置了优化——与其他聊天 UI 相比,成本更低,响应更快。
- 完整的 Developer API,支持自定义集成!
- ...以及更多功能——几分钟即可安装,亲自体验吧。
### 支持的 LLMs、Embedder 模型、语音模型和向量数据库
**大型语言模型:**
- [任何开源的 llama.cpp 兼容模型](/server/storage/models/README.md#text-generation-llm-selection)
- [OpenAI](https://openai.com)
- [OpenAI (通用)](https://openai.com)
- [Azure OpenAI](https://azure.microsoft.com/en-us/products/ai-services/openai-service)
- [AWS Bedrock](https://aws.amazon.com/bedrock/)
- [Anthropic](https://www.anthropic.com/)
- [NVIDIA NIM (聊天模型)](https://build.nvidia.com/explore/discover)
- [Google Gemini Pro](https://ai.google.dev/)
- [Ollama (聊天模型)](https://ollama.ai/)
- [LM Studio (所有模型)](https://lmstudio.ai)
- [LocalAI (所有模型)](https://localai.io/)
- [Together AI (聊天模型)](https://www.together.ai/)
- [Fireworks AI (聊天模型)](https://fireworks.ai/)
- [Perplexity (聊天模型)](https://www.perplexity.ai/)
- [OpenRouter (聊天模型)](https://openrouter.ai/)
- [DeepSeek (聊天模型)](https://deepseek.com/)
- [Mistral](https://mistral.ai/)
- [Groq](https://groq.com/)
- [Cohere](https://cohere.com/)
- [KoboldCPP](https://github.com/LostRuins/koboldcpp)
- [LiteLLM](https://github.com/BerriAI/litellm)
- [Text Generation Web UI](https://github.com/oobabooga/text-generation-webui)
- [Apipie](https://apipie.ai/)
- [xAI](https://x.ai/)
- [Z.AI (聊天模型)](https://z.ai/model-api)
- [Novita AI (聊天模型)](https://novita.ai/model-api/product/llm-api?utm_source=github_anything-llm&utm_medium=github_readme&utm_campaign=link)
- [PPIO](https://ppinfra.com?utm_source=github_anything-llm)
- [Gitee AI](https://ai.gitee.com/)
- [Moonshot AI](https://www.moonshot.ai/)
- [Microsoft Foundry Local](https://github.com/microsoft/Foundry-Local)
- [CometAPI (聊天模型)](https://api.cometapi.com/)
- [Docker Model Runner](https://docs.docker.com/ai/model-runner/)
- [PrivateModeAI (聊天模型)](https://privatemode.ai/)
- [SambaNova Cloud (聊天模型)](https://cloud.sambanova.ai/)
- [Lemonade by AMD](https://lemonade-server.ai)
- [Minimax](https://platform.minimax.io)
- [Cerebras (聊天模型)](https://www.cerebras.ai/)
**Embedder 模型:**
- [AnythingLLM 原生 Embedder](/server/storage/models/README.md) (默认)
- [OpenAI](https://openai.com)
- [Azure OpenAI](https://azure.microsoft.com/en-us/products/ai-services/openai-service)
- [Gemini](https://ai.google.dev/)
- [LocalAI (所有)](https://localai.io/)
- [Ollama (所有)](https://ollama.ai/)
- [LM Studio (所有)](https://lmstudio.ai)
- [Lemonade](https://lemonade-server.ai)
- [OpenRouter](https://openrouter.ai/)
- [LiteLLM](https://github.com/BerriAI/litellm)
- [Cohere](https://cohere.com/)
- [Voyage AI](https://www.voyageai.com/)
- [Mistral](https://mistral.ai/)
- 通用 OpenAI 兼容的 embedding API
**音频转录模型:**
- [AnythingLLM 内置](https://github.com/Mintplex-Labs/anything-llm/tree/master/server/storage/models#audiovideo-transcription) (默认)
- [OpenAI](https://openai.com/)
**TTS (文本转语音) 支持:**
- 原生浏览器内置 (默认)
- [PiperTTSLocal - 在浏览器中运行](https://github.com/rhasspy/piper)
- [OpenAI TTS](https://platform.openai.com/docs/guides/text-to-speech/voice-options)
- [ElevenLabs](https://elevenlabs.io/)
- 任何兼容 OpenAI 的 TTS 服务。
**STT (语音转文本) 支持:**
- 原生浏览器内置 (默认)
**向量数据库:**
- [LanceDB](https://github.com/lancedb/lancedb) (默认)
- [PGVector](https://github.com/pgvector/pgvector)
- [Astra DB](https://www.datastax.com/products/datastax-astra)
- [Pinecone](https://pinecone.io)
- [Chroma & ChromaCloud](https://trychroma.com)
- [Weaviate](https://weaviate.io)
- [Qdrant](https://qdrant.tech)
- [Milvus](https://milvus.io)
- [Zilliz](https://zilliz.com)
### 技术概述
这个 monorepo 包含六个主要部分:
- `frontend`: 一个 viteJS + React 前端,你可以运行它来轻松创建和管理 LLM 可以使用的所有内容。
- `server`: 一个 NodeJS express 服务器,用于处理所有交互,并执行所有的 vectorDB 管理和 LLM 交互。
- `collector`: NodeJS express 服务器,用于处理和解析来自 UI 的文档。
- `docker`: Docker 指令和构建过程,以及从源代码构建的信息。
- `embed`: 用于生成和创建[网页嵌入小部件](https://github.com/Mintplex-Labs/anythingllm-embed)的子模块。
- `browser-extension`: 用于 [chrome 浏览器扩展](https://github.com/Mintplex-Labs/anythingllm-extension)的子模块。
## 🛳 自托管
Mintplex Labs 和社区维护着大量的部署方法、脚本和模板,你可以使用它们在本地运行 AnythingLLM。请参阅下表,了解如何在你的首选环境中部署或进行自动部署。
| Docker | AWS | GCP | Digital Ocean | Render.com |
|----------------------------------------|----|-----|---------------|------------|
| [][docker-deploy] | [][aws-deploy] | [][gcp-deploy] | [][do-deploy] | [][render-deploy] |
| Railway | RepoCloud | Elestio | Northflank |
| --------------------------------------------------- | --------------------------------------------------------- | --------------------------------------------------- | ------------------------------------------------------------ |
| [][railway-deploy] | [][repocloud-deploy] | [][elestio-deploy] | [][northflank-deploy] |
[或者在不使用 Docker 的情况下设置生产级 AnythingLLM 实例 →](./BARE_METAL.md)
## 如何设置开发环境
- `yarn setup` 填充你在各个应用程序部分中所需的 `.env` 文件(从 repo 根目录开始)。
- 在继续之前去填写好它们。确保 `server/.env.development` 已填写完整,否则一切将无法正常工作。
- `yarn dev:server` 在本地启动服务器(从 repo 根目录开始)。
- `yarn dev:frontend` 在本地启动前端(从 repo 根目录开始)。
- `yarn dev:collector` 随后运行文档收集器(从 repo 根目录开始)。
[了解文档](./server/storage/documents/DOCUMENTS.md)
## 遥测与隐私
Mintplex Labs Inc 的 AnythingLLM 包含一项遥测功能,可收集匿名使用情况信息。
更多关于 AnythingLLM 的遥测与隐私
### 为什么?
我们使用这些信息来帮助我们了解 AnythingLLM 的使用情况,帮助我们优先处理新功能和 bug 修复,并帮助我们提高 AnythingLLM 的性能和稳定性。
### 选择退出
在你的服务器或 docker .env 设置中将 `DISABLE_TELEMETRY` 设置为 "true" 即可退出遥测。你也可以在应用内通过进入侧边栏 > `Privacy` 并禁用遥测来实现。
### 你具体追踪了什么?
我们只追踪那些能帮助我们做出产品和路线图决策的使用细节,具体包括:
- 你的安装类型(Docker 或桌面版)
- 当文档被添加或移除时。没有关于文档本身的任何信息。仅仅是该事件发生了。这让我们对使用情况有所了解。
- 正在使用的向量数据库类型。当该提供商有更新时,这帮助我们优先处理相关更改。
- 正在使用的 LLM 提供商和模型标签类型。当该提供商或模型,或其组合有更新时,这帮助我们优先处理相关更改。例如:推理与常规、多模态模型等。
- 当发送聊天时。这是最常规的“事件”,让我们了解该项目在所有安装中的日常活动。同样,只发送**事件**——我们没有任何关于聊天本身性质或内容的信息。
你可以通过查找所有调用 `Telemetry.sendTelemetry` 的位置来验证这些声明。此外,这些事件会被写入输出日志,因此如果启用的话,你也可以看到发送的具体数据。**不收集任何 IP 或其他识别信息**。遥测提供商是 [PostHog](https://posthog.com/)——一个开源的遥测收集服务。
我们非常重视隐私,我们希望你能理解,我们想了解我们的工具是如何被使用的,而不是通过烦人的弹窗调查,这样我们才能打造出值得使用的东西。匿名数据绝不与第三方共享。
[在源代码中查看所有遥测事件](https://github.com/search?q=repo%3AMintplex-Labs%2Fanything-llm%20.sendTelemetry(&type=code)
### 其他外部连接
如果你禁用了遥测,你仍然会看到与以下服务的外部连接:
- 如果使用外部工具、LLM、Embedding 模型或向量数据库,你仍然会看到与相应服务提供商的外部连接。
- `cdn.anythingllm.com` 用于从我们的镜像 CDN 拉取模型。这不受遥测的追踪,实际上对于处于 VPN 限制区域的用户非常有用。
- `github/githubusercontent.com` 有一些从这些域名下载的各类扁平文件,用于上下文窗口缓存。
基本上,如果禁用遥测,不会收集任何内容。但是,根据你的设置,你可能仍然会看到外部连接,并且将受相应服务提供商的服务条款约束。
## 🔗 更多产品
- **[AnythingLLM 移动版 (MIT Licensed)][anythingllm-mobile]:** 一款允许你在移动设备上使用 AnythingLLM 的移动应用。
- **[AnythingLLM 浏览器扩展][anythingllm-extension]:** 一款允许你在浏览器中使用 AnythingLLM 的浏览器扩展。
- **[AnythingLLM Embed][anythingllm-embed]:** 一个允许你将 AnythingLLM 嵌入到你网站中的小部件。
[](#readme-top)
版权所有 © 2026 [Mintplex Labs][profile-link]。
本项目采用 [MIT](./LICENSE) 许可。
标签:AI智能体, DLL 劫持, MITM代理, RAG, Ruby, 人工智能, 大语言模型, 本地部署, 用户模式Hook绕过, 知识库, 自定义脚本, 请求拦截