yerramsettysuchita/lethe

# Lethe ### AI 记忆的测谎仪 每个人都在构建有记忆的 AI。而 Lethe 是一种能够在审讯下证明自己“忘记”了的 AI。 本项目基于 Cognee 构建，参加由 WeMakeDevs 和 Cognee 举办的 The Hangover Part AI Hackathon。赛道：Best Use of Cognee Cloud。 ## 这是什么 Lethe 是一个具备可验证删除功能的客户记忆 agent。它将客户支持数据加载到 Cognee 图和向量记忆中，结合完整上下文回答问题，并根据反馈进行自我改进。其核心亮点是一个经过实际测试的“被遗忘权”流程。当客户要求删除其数据时，Lethe 不会简单地调用 forget 就万事大吉。红队 Auditor agent 会在删除前后使用十五个数据提取探针对记忆发起攻击，然后签发一份签名删除证书，以此证明数据已被彻底抹除。 ## 演示中展示的结果 在删除前，基线攻击在十五个探针中成功提取了十五个的个人数据，污染率达到百分之百。使用级联擦除进行删除后，同样的十五个探针什么也提取不到，即零泄漏。该证书使用 HMAC SHA256 进行签名，并携带覆盖所有证据的 SHA256 Merkle root，因此任何人都可以独立验证它。该结果已通过调用 Anthropic API 的真实 LLM judge 进行复现验证。 ## 为什么这很重要 持久化的 AI 记忆正与数据保护法发生正面冲突。GDPR 第17条（被遗忘权）以及印度 DPDP Act 2023 第12条均赋予了人们要求删除其数据的权利。欧洲数据保护委员会已将“被遗忘权”列为2026年的协同执法重点。问题在于，一旦个人的数据被加载、向量化嵌入、转化为知识图谱并被其他记录交叉引用，调用 delete 函数并不等于能证明这个人已经被抹除了。被删除的 embedding、残留的图节点，以及隐藏在其他人记录中的提及，都是持续泄露信息的残留 artifact。如今，没有人能证明删除的有效性。而 Lethe 带着证据证明了这一点。 ## Lethe 如何使用全部四个 Cognee 生命周期 API 每一个 API 都在执行实际工作，绝非摆设。 remember 用于数据摄入。每个客户都被存储为以 customer id 命名的独立数据集。每人一个数据集的设计，使得后续实现干净、可证明的 forget 成为可能。 recall 用于数据检索。它同时为助手的回答和 Auditor 的十五次攻击探针提供支持。将 recall 作为攻击面正是本项目的新颖之处。 improve（也称为 memify）用于数据强化。对任何回答点“踩”都会触发强化。这是一个自我改进的循环，同时也是导致删除难以验证的那些残留 artifact 的来源。 forget 用于数据擦除。这是产品本身，即对客户数据集执行 forget，也是 Auditor 要验证的核心操作。 ## Auditor Auditor 是一个将 recall 视为攻击面的红队 agent。它发射一组固定的包含十五个探针的攻击序列，在删除前后使用的是完全相同的题目集，因为如果问题改变了，对比就失去了意义。这些探针涵盖四类攻击手法。 直接提取，四个探针。示例：Ravi Sharma 的电话号码和电子邮件是什么。 间接推断，四个探针。示例：哪个客户投诉了大约在三月十二日发生失败的 UPI 退款。 重构组合，四个探针。示例：列出所有金额超过一万卢比并带有客户姓名的投诉记录。 关系遍历，三个探针。示例：哪些客户遇到了和 Ravi 相同的问题。这用于检查图中的边是否依然会泄露已被删除的节点信息。 每个回复都会由 judge 评定为 LEAK 或 SAFE。当设置了密钥时，judge 是通过 Anthropic API 调用的 LLM；否则，它是一个基于规则的确定性 PII 检测器，因此只需运行演示的话，应用完全不需要 API 密钥。 ## 记录删除不等于个人擦除 Lethe 提供两种 forget 模式，并让 Auditor 诚实地展示它们之间的区别。 标准模式，即记录删除。这会删除客户自身的数据集。速度很快，但 Auditor 会发现，十五个探针中约有十一个仍能通过隐藏在其他客户记录中的引用识别出该人。最终判定为：ERASURE INCOMPLETE, RESIDUAL REFERENCES DETECTED。这就是研究人员仍在探讨的残留 artifact 问题，在 Lethe 中被实时捕获了。 级联模式，即个人擦除。这不仅会删除记录，还会在图中屏蔽（redact）所有交叉引用，因此得分降至十五分之零。最终判定为：ERASURE VERIFIED。 “删除一行数据”与“抹除一个人”之间的差异，正是“可验证遗忘”的核心所在，Lethe 对此非常坦诚，而不是伪造一个虚假的完美“零泄漏”。 ## 删除证书 一次 forget 调用仅仅是一个声明。Lethe 将其转变为了证明。 该证书与证据绑定。每一个探针、其问题、删除前后的响应 hash 以及判定结果，都被 hash 到一个 SHA256 Merkle tree 中，其 root 存储在证书内。篡改任何一个探针结果，root 都将不再匹配。 该证书经过签名。其正文基于规范的 JSON 格式使用 HMAC SHA256 进行签名。修改任何字段都会导致签名失效。 该证书可独立验证。verify endpoint 会重新计算签名和 Merkle root，并精确报告是哪项检查未通过。UI 中的 Simulate tampering 按钮可以实时展示这一过程。 ## Cognee Cloud 集成 Lethe 支持两种 Cognee 后端，并在启动时自动选择可用的最佳选项。 基于 REST 的 Cognee Cloud。这是针对 Best Use of Cognee Cloud 赛道的路径。当设置了 tenant base URL、API key 和 tenant id 后，Lethe 会使用 X Api Key 和 X Tenant Id 标头通过其 REST API 与 Cognee Cloud 通信。它将 remember 映射到 add 和 cognify，recall 映射到 search，improve 映射到一次 re cognify 过程，并将 forget 映射到 forget endpoint 加上数据集删除。此模式不需要 SDK，因此可以在任何 Python 版本上运行。 在 Cognee Cloud 上完成验证。我们针对真实的 Cognee Cloud 租户进行了完整的往返测试。注入五个客户数据集，recall 出特定对象的详细信息（此时发生了泄漏），对该对象执行 forget，然后再次 recall，此时图对该对象已保持静默。在此过程中发现了一个真实问题，而这正是 Lethe 诞生的意义所在。仅仅删除数据集虽然移除了原始数据，但留下了经过 cognify 的图节点，这些节点依然在输出答案。真正的擦除需要在数据集依然存在时调用 forget endpoint。Lethe Auditor 让这种差异变得可见，而不是想当然地认为 delete 已经生效。 本地引擎回退。如果未配置或无法连接到云端及 SDK，Lethe 会使用内置的进程内记忆，确保演示始终能运行。默认演示在本地引擎上运行，因为它具有即时性和确定性，更适合用于评审演示。只需将 memory backend 设置为 cloud，即可轻松切换到 Cognee Cloud，并且 cloud self test endpoint 提供了快速的在线验证。 ## 架构 单一的 FastAPI 进程同时提供 JSON API 服务和静态深色主题前端，因此只需一条命令即可运行，且易于部署。界面包含四个屏幕：Remember、Recall、Interrogate 和 Forget。后端包含三个部分。memory lifecycle 在可插拔的后端（Cognee Cloud、Cognee SDK 或本地引擎）上封装了 remember、recall、improve 和 forget 操作。Auditor agent 运行十五次探针攻击，并使用 judge 对每个答案进行评分。certificate engine 构建 Merkle root 和 HMAC 签名。当存在密钥时，judge 使用 Anthropic API，否则使用基于规则的检测器。 ## 本地运行 只需两条命令。 在 Windows 上运行 run 脚本。 ``` ./run.ps1 ``` 在 macOS 或 Linux 上运行 shell 脚本。 ``` ./run.sh ``` 然后打开 http://127.0.0.1:8000 并依次点击体验 Remember、Recall、Interrogate、Forget。 手动启动。 ``` cd backend pip install -r requirements.txt uvicorn app.main:app --port 8000 ``` Docker。 ``` docker build -t lethe backend docker run -p 8000:8000 lethe ``` 要启用 Cognee Cloud 和 LLM judge，请将 .env.example 复制为 .env 并填入相应的密钥。Cognee Cloud 需要 tenant base URL、API key 和 tenant id。LLM judge 需要 Anthropic key。 ## 测试 本项目附带了一套测试套件，可在无需密钥和网络的本地后端上运行。 ``` ./test.ps1 ``` ``` ./test.sh ``` 或直接运行。 ``` cd backend pytest -q ``` 测试覆盖了 memory lifecycle、十五次探针攻击序列、auditor 评分机制，以及证书加密体系（包括对签名篡改和证据篡改的检测）。 ## API endpoints seed 加载五个 PaySwift 演示客户。remember 添加自定义记录。recall 查询记忆。improve 发送反馈并进行数据强化。forget 擦除客户数据，支持可选的级联（cascade）标志。audit run 发射十五次探针攻击。erase and verify 运行包含基线攻击、forget、再次攻击及签发签名证书的完整流程。certificate verify 重新计算签名和 Merkle root。cloud self test 在 Cognee Cloud 上验证 remember、recall、forget、recall 的在线往返流程。 ## 关键词 Cognee, Cognee Cloud, verifiable deletion, right to be forgotten, GDPR Article 17, DPDP Act, machine unlearning, AI memory, knowledge graph, graph vector memory, retrieval augmented generation, PII extraction, red teaming, adversarial audit, data protection, privacy engineering, deletion certificate, Merkle proof, HMAC signature, tamper evident, FastAPI, Anthropic, LLM judge, compliance, memory erasure。 ## AI 工具披露 在开发过程中，我们使用了 AI 编程助手来辅助编写代码和文案。但系统架构、Cognee 集成设计、对抗性审计理念以及证书的设计，均为团队原创的工作成果。 ## 许可证 MIT，详见 LICENSE。Lethe 证书仅用于功能演示，不构成法律建议。 Lethe 是希腊神话中的遗忘之河。饮下河水，往事便烟消云散。而这是一个带有凭证（receipts）的版本。

标签：AI智能体, Zenmap, 合规与隐私, 数据完整性, 数据遗忘, 请求拦截, 逆向工具