sammyyaakk/prompt-injection-detector

GitHub: sammyyaakk/prompt-injection-detector

该项目旨在比较 TF-IDF 基线与句子嵌入分类器在检测针对 LLM 应用的对抗性 prompt 注入攻击方面的效果。

Stars: 1 | Forks: 0

# Prompt Injection 检测器 比较 TF-IDF 基线与句子嵌入分类器在检测针对 LLM 应用的对抗性 prompt 方面的表现。 ## 在线演示 _即将推出。_ ## 问题 _TODO_ ## 方法 _TODO_ ## 数据 _TODO_ ## 结果 _TODO_ ## 架构 参见 [`docs/architecture.md`](docs/architecture.md)。 ## 配置 ```bash git clone https://github.com/sammyyaakk/prompt-injection-detector.git cd prompt-injection-detector python -m venv venv source venv/bin/activate # Windows: venv\\Scripts\\activate pip install -r requirements.txt ``` ## 用法 _TODO_ ## 局限性 _TODO_ ## 后续工作 _TODO_ ## 参考文献 _TODO_
标签:DLL 劫持, 人工智能, 大语言模型, 文本分类, 用户模式Hook绕过, 逆向工具