asajabi/evidence-grounded-llm-malware-validation
GitHub: asajabi/evidence-grounded-llm-malware-validation
一个声明级验证框架,用于评估 LLM 在防御性恶意软件分析中生成的结论是否具备证据支撑、可溯源性和适当的不确定性表达。
Stars: 0 | Forks: 0
# 基于证据的 LLM 恶意软件验证
本代码库包含一个经过脱敏处理的研究工件,用于支持一项关于基于证据的 LLM 辅助防御性恶意软件分析的声明级验证项目。
该项目旨在评估 LLM 生成的恶意软件分析声明是否得到了所提供证据的支持、是否可溯源至源工件,以及是否以适当的不确定性进行了表达。
## 项目状态
本代码库是一个持续更新的研究工件。目前已起草了初步的第 1–8 阶段手稿,但由于计划开展进一步的验证工作,因此尚未在此处包含完整论文。
## 当前范围
已完成的研究阶段包括:
- 第 1–3 阶段:良性且静态安全的玩具评估
- 第 4 阶段:受控的公开报告衍生验证
- 第 5 阶段:低控制度的开放式回复比较
- 第 6 阶段:验证门控的证据基础构建
- 第 7A 阶段:稀疏证据压力测试
- 第 7B 阶段:增强的公开报告衍生证据评估
- 第 8 阶段:跨三个本地模型的多模型比较
## 完整结果摘要
参见:
```
results/phase1_8_summary.md
```
标签:C2, DAST, DLL 劫持, 事实核查, 大语言模型, 恶意软件分析, 模型评估, 研究项目, 证据溯源, 逆向工具