insightitsGit/PrismGuard

# PrismGuard 自托管的、可审计追踪的 prompt injection 防火墙。它将 **prismRAG**（分类感知的图检索）、**prismCortex**（向量 seed 存储 —— 默认使用 pgvector，可替换）和 **prismLib**（进程内 runtime cache）组合成一个三层请求 pipeline：确定性规则和基于分类的相似度/图匹配处理大部分流量；由 **Prism 拥有的 ONNX Guard 模型** 处理融合的灰区案例；极少且独立的 **LLM Judge** 用于处理 guard 无法确定的 prompt。 状态：**runtime + 自有 classifier + feedback + domain packs + tenant context + law benchmark 已实现** —— 详见 [`docs/prismguard-design.md`](docs/prismguard-design.md) (v0.3)、[`docs/guard-model-training.md`](docs/guard-model-training.md) 以及 [`docs/tenant-context.md`](docs/tenant-context.md)。 有关完整的架构、数据模型、攻击分类/seed 语料库、成本控制设计、feedback 循环、domain packs、benchmark 工具、差距分析（第 14 部分）以及开放性风险，请参阅 [docs/prismguard-design.md](docs/prismguard-design.md)。 ## 概览 - **目标**：在 prompt injection / 越狱尝试到达 LLM 之前将其拦截，同时确保 LLM Judge 的调用比例远低于总流量的 1%。 - **依赖项**：`prismrag`、`prismcortex`、`prismlib`（现有的 Prism 家族包）。 - **存储**：默认使用 pgvector/Postgres（**目前仅提供 backend stubs** —— 测试/benchmark 中使用 `memory`）；可通过可选的额外组件支持 Chroma、Pinecone、Weaviate —— 参见 `prismguard/storage/`。 - **Domain packs**：法律、医疗保健、金融 —— `prismguard init --domain law` 或 `PRISMGUARD_DOMAIN=law`。 - **Tenant context**：可选词库 —— `prismguard context import` —— 详见 [`docs/tenant-context.md`](docs/tenant-context.md)。 - **校准**：`prismguard-model calibrate --domain law`（对 holdout 安全的阈值调优）。 - **Benchmark**：4 层法律测试工具 (CPL/CGL/LGL/LPL) —— `benchmark/law/`。 - **Seed 导入**：支持多来源 (`prismguard-seed import file1.yaml dir/ @manifest.txt`)，提供 `update` 或 `replace` 模式 —— 参见 `prismguard/seed/`。 - **内置 seed**：随包发布于 `prismguard/seed/corpus/`（包含 authored + neuralchemy + S-Labs + yanismiraoui）。快速开始：`pip install prismguard[seed]` 然后 `prismguard-seed import --bundled` (authored) 或 `--bundled --profile full`（约 30k+ 行）。参见 [`seed/README.md`](seed/README.md)。 - **Guard 模型**：自有的 ONNX classifier (`prismguard[guard-model]`)；可使用 `prismguard-model train --profile full` 从 seed DB 训练。

标签：AI安全, Chat Copilot, CNCF毕业项目, DLL 劫持, pgvector, RAG, 大语言模型, 测试用例, 自托管, 逆向工具