asajabi/evidence-grounded-llm-malware-validation

GitHub: asajabi/evidence-grounded-llm-malware-validation

一个声明级验证框架,用于评估 LLM 在防御性恶意软件分析中生成的结论是否具备证据支撑、可溯源性和适当的不确定性表达。

Stars: 0 | Forks: 0

# 基于证据的 LLM 恶意软件验证 本代码库包含一个经过脱敏处理的研究工件,用于支持一项关于基于证据的 LLM 辅助防御性恶意软件分析的声明级验证项目。 该项目旨在评估 LLM 生成的恶意软件分析声明是否得到了所提供证据的支持、是否可溯源至源工件,以及是否以适当的不确定性进行了表达。 ## 项目状态 本代码库是一个持续更新的研究工件。目前已起草了初步的第 1–8 阶段手稿,但由于计划开展进一步的验证工作,因此尚未在此处包含完整论文。 ## 当前范围 已完成的研究阶段包括: - 第 1–3 阶段:良性且静态安全的玩具评估 - 第 4 阶段:受控的公开报告衍生验证 - 第 5 阶段:低控制度的开放式回复比较 - 第 6 阶段:验证门控的证据基础构建 - 第 7A 阶段:稀疏证据压力测试 - 第 7B 阶段:增强的公开报告衍生证据评估 - 第 8 阶段:跨三个本地模型的多模型比较 ## 完整结果摘要 参见: ``` results/phase1_8_summary.md ```
标签:C2, DAST, DLL 劫持, 事实核查, 大语言模型, 恶意软件分析, 模型评估, 研究项目, 证据溯源, 逆向工具