12lilliput/BAAP

# BAAP 面向 LLM 漏洞挖掘的伪装良性对抗性提示 BAAP 是一个用于自动化 LLM 红队测试和漏洞分析的研究框架。 它可以生成看似良性的对抗性提示，评估目标模型的响应，并挖掘可复用的策略以获取 LLM 威胁情报。 ## 核心功能 - 用于发现 LLM 漏洞的自动化对抗性探测 - 伪装良性策略生成 - 结合特定领域有害词汇检索的基于 LLM 的细粒度评估 - 用于构建可扩展 LLM 威胁情报的策略挖掘与复用 ## 用法 BAAP 的运行包含两个主要步骤： ### 1. 生成高质量策略 ``` python strategy_learning.py --gemini_key ``` ### 2. 运行 BAAP 探测 ``` python commence_the_attack.py --gemini_key ``` ## 参数说明 - '--lang': 语言选项。支持 'en' 和 'ko'。 - '--epochs': 优化 epoch 数量。建议范围为 15–20。 - '--cycle': 每个 epoch 的循环次数。 - '--dataset': 基准数据集。支持 'advbench' 和 'salad'。 - '--gemini': 攻击模型。默认为 'gemini-2.0-flash'。 - '--gemini_key': 你的 Gemini API 密钥。 - '--openai_key': 你用于 embedding 的 OpenAI API 密钥。 - '--embedded_model': Embedding 模型。默认为 'text-embedding-ada-002'。 - 'target_model': 用户指定的目标模型。 ## 伦理声明 本仓库旨在支持 LLM 漏洞管理、红队测试和防御性威胁情报研究。 为了促进透明度和可复现性，我们开源了 BAAP 的核心组件。但是，为了降低被滥用的风险，我们不包含特定的有害提示和敏感内容。 请仅将本仓库用于负责任的安全研究以及构建更安全的 LLM 系统。

标签：DLL 劫持, 人工智能安全, 合规性, 大语言模型, 威胁情报, 开发者工具, 漏洞挖掘, 红队工具, 越狱攻击