Priya2149/SentinelAI

# SentinelAI — AI 治理仪表板 SentinelAI 是一个全栈 AI 治理与可观测性仪表板，用于监控和评估 LLM 交互。它追踪使用情况、延迟和成本指标，运行轻量级的安全/评估检查，并生成合规风格的报告——所有这些都在一个 SaaS 风格的 UI 中完成。 ## 在线演示 - Vercel: **** ## 为什么开发这个项目 随着基于 LLM 的功能变得普及，回答一些基本问题变得越来越困难： - 哪些模型被使用得最多？ - 随着时间推移，延迟和成本是多少？ - 哪些 prompt/response 可能有风险（prompt injection、PII、毒性、幻觉）？ - 我们能否快速生成合规风格的摘要？ SentinelAI 是我的个人项目，旨在练习构建一个具有生产级结构的端到端产品：database + API + UI + 报告。 ## 主要功能 ### 监控与可观测性 - **LLM 调用日志记录**（model、token、延迟、成本、错误） - 用于使用情况、成本趋势、延迟性能和错误分析的**分析仪表板** - 通过自动刷新和生产级仪表板布局实现**实时风格监控** ### AI 安全与轻量级评估 - 旨在支持以下检查的评估 pipeline： - Prompt injection 检测 - PII/密钥检测 - 毒性检测 - 幻觉/grounding 检查（gold/预期答案比较） ### 报告 - **一键生成 PDF 报告**，用于合规风格的文档记录（KPI 摘要 + 趋势 + 治理信号） ### 产品体验 - 现代化的仪表板 UI，提供清晰的导航和数据可视化 - 日志、分析、指标和报告视图 ## 技术栈 - **前端：** Next.js、React、TypeScript、Tailwind CSS - **后端：** Next.js API 路由 / Node.js + TypeScript REST API - **数据库：** PostgreSQL（通过 ORM 如 Prisma，如果已配置） - **图表/可视化：** Recharts（或等效的图表库） - **部署：** Vercel :contentReference[oaicite:6]{index=6}

标签：AI治理, API集成, MITM代理, 可观测性, 大语言模型监控, 测试用例, 自动化攻击