anisogametic-foodfish212/capsule-litellm

# 🔐 capsule-litellm - 追踪每一次 LLM 调用 [](https://github.com/anisogametic-foodfish212/capsule-litellm) ## 🧭 应用功能 capsule-litellm 为通过 LiteLLM 发起的每一次 LLM 调用增加了加密审计追踪。它将每个请求的路径记录在哈希链中，方便您后续审查发生的情况并发现变更。 如果您需要一种简单的方法来保持 LLM 调用的可追溯性、防篡改性并易于审查，请使用它。 ## 💻 适用人群 如果您符合以下情况，此应用非常适合您： - 通过 LiteLLM 使用 OpenAI、Anthropic 或其他模型提供商 - 希望记录每次提示（prompt）和响应路径 - 需要用于内部审查的审计追踪 - 关注数据完整性和追踪检查 - 希望能在 Windows 上运行的配置 ## 📦 下载并运行 使用此链接访问下载页面： [访问 Capsule LiteLLM 页面](https://github.com/anisogametic-foodfish212/capsule-litellm) 1. 在浏览器中打开链接。 2. 查找最新版本或主要项目文件。 3. 如果有提供 Windows 包，请下载它。 4. 如果项目提供了安装文件，请运行它。 5. 如果是 Python 包，请按照包含的安装步骤操作。 6. 设置完成后，打开应用或将其连接到您的 LiteLLM 工作流。 如果您不确定使用哪个文件，请选择专为 Windows 制作或标记为面向最终用户的文件。 ## 🪟 Windows 设置 在 Windows 上遵循以下步骤： 1. 从上述链接下载应用。 2. 将文件保存到您的 Downloads 文件夹。 3. 如果文件是 ZIP 压缩包，请右键单击并选择“Extract All”（全部解压缩）。 4. 打开包含应用文件的文件夹。 5. 如果看到 .exe 文件，双击它以启动应用。 6. 如果文件夹中有安装说明，请按顺序遵循。 7. 当 Windows 请求权限时，如果您信任来源，请选择“Yes”（是）。 8. 将应用保留在固定的文件夹中，以便稍后再次打开。 如果您的浏览器阻止了该文件，请检查下载列表并从同一页面重试。 ## 🧩 您将获得什么 capsule-litellm 基于几个简单的理念构建： - 每个 LLM 调用都有一个追踪记录 - 每条追踪记录都链接到上一条 - 该链有助于显示数据是否发生更改 - 日志支持在调用结束后进行审查 - 输出旨在用于审计和安全工作 这为您提供了一份比普通日志更易于检查的记录。 ## 🔍 主要功能 - 针对 LLM 调用的加密审计追踪 - 支持哈希链以实现防篡改记录 - 适配 LiteLLM middleware 流程 - 兼容 OpenAI 和 Anthropic 请求模式 - 对 AI 安全检查很有用 - 有助于内部审计和追踪审查 - 专为最终用户设置构建，步骤清晰 ## 🛠️ 工作原理 当请求通过 LiteLLM 时，capsule-litellm 会在该调用周围添加跟踪数据。然后，它使用哈希将记录链接到上一条记录。每个新条目都依赖于上一个条目，这使得链条难以在不留痕迹的情况下被更改。 简而言之： - 您发送一个 prompt - LiteLLM 处理模型调用 - capsule-litellm 记录该事件 - 记录加入链条 - 您可以稍后审查该链条 这使得维护模型活动的清晰历史记录变得更容易。 ## ⚙️ 基本用途 如果您需要具有完整性检查的调用历史记录，请在您的 LiteLLM 流程中使用 capsule-litellm。 典型用例： - 存储用户 prompt 的轨迹 - 跟踪来自模型的响应 - 审查完整的请求路径 - 在审计期间比较条目 - 检查日志是否被更改 如果您已经使用 LiteLLM，此项目可以融入同一路径，而无需更改您使用模型的方式。 ## 🔐 为什么加密日志很重要 普通日志可以被编辑。哈希链使编辑更容易被发现。当您需要证明 LLM 调用以特定顺序发生且记录未被更改时，这一点至关重要。 这对于以下情况很有用： - 安全审查 - 模型监督 - 内部策略检查 - 事件审查 - 合规性工作 - 数据完整性检查 ## 🧪 示例工作流 一个简单的工作流如下所示： 1. 用户发送一个 prompt。 2. LiteLLM 将请求发送给模型。 3. capsule-litellm 记录该事件。 4. 该记录链接到上一条记录。 5. 审查者稍后检查轨迹。 结果是从输入到输出的清晰路径，中间夹有审计记录。 ## 📁 下载后的预期内容 打开项目或包后，您可能会看到： - 一个 Windows 应用文件 - 设置说明 - 一个 config 文件 - 示例代码 - 带有使用说明的 README 从项目文件中显示的主应用文件或第一个设置步骤开始。 ## 🧰 系统需求 为了在 Windows 上顺利设置，请使用： - Windows 10 或 Windows 11 - 当前的 Web 浏览器 - 足够的可用空间用于应用及其日志 - 如果应用需要访问模型 API，则需要互联网访问 - 如果您计划将其连接到实时调用，则需要一个可正常工作的 LiteLLM 设置 如果项目在您的机器上使用 Python，请在开始前安装 Python。 ## 🧭 常见初步步骤 如果您是第一次设置： - 下载文件 - 如有需要，解压文件夹 - 阅读文件夹中的任何设置文件 - 打开应用或运行安装步骤 - 将其连接到您的 LiteLLM 路径 - 发送一次测试调用 - 检查审计输出 在用于真实流量之前，先进行一次测试调用。 ## 📌 涵盖的主题 该项目适用于以下领域： - ai - ai-safety - anthropic - audit-trail - capsule - cryptography - hash-chain - litellm - llm - middleware - openai - python - tamper-evident ## 🧾 文件和记录行为 该应用旨在保留难以在未被察觉的情况下更改的记录。每个条目都基于前一个条目构建。这意味着顺序很重要。 您可以使用此功能来： - 检查调用历史 - 审查请求顺序 - 比较不同会话间的条目 - 保留更强的审计日志 - 支持审查期间的信任检查 ## 🖥️ Windows 用户提示 - 将下载内容保留在一个文件夹中 - 除非应用提示安全，否则设置后不要移动文件 - 使用路径较短的文件夹，例如 `C:\Apps\capsule-litellm` - 如果应用无法打开，请检查下载是否已完成 - 如果 Windows 阻止了该文件，请使用文件详细信息确认来源 - 如果您使用 Python，请在尝试运行项目文件之前安装它 ## 🧭 项目从哪里开始 如果下载包含多个文件，请查找： - `README.md` - `requirements.txt` - 一个 `.exe` 文件 - 一个设置脚本 - 一个 config 文件 首先要阅读的文件是项目文件夹内的 README（如果有的话）。它通常会显示下一步操作。 ## 🔗 下载链接 [打开 capsule-litellm 下载页面](https://github.com/anisogametic-foodfish212/capsule-litellm) ## 🧷 快速路径 1. 打开上面的链接 2. 下载 Windows 文件或项目文件 3. 如有需要，解压文件夹 4. 启动应用或按照设置步骤操作 5. 将其连接到 LiteLLM 6. 运行一次测试调用 7. 审查审计追踪

标签：Anthropic, API调用监控, CIS基准, DLL 劫持, LiteLLM, LLM, OpenAI, Python, Unmanaged PE, Zenmap, 不可篡改, 内存规避, 合规, 哈希链, 大语言模型, 审计日志, 密码学, 封印日志, 手动系统调用, 提示词记录, 数据完整性, 无后门, 机器学习运维, 溯源, 追踪, 逆向工具