Enes Deniz

AltaySec 联合创始人 | OWASP AI、GenAI 及 Agent Security 贡献者 | 面向土耳其及全球 LLM 的 AI 安全

LLM 安全 · Prompt Injection · AI Red Teaming · Agentic 安全

个人主页 · AltaySec · 研究 · Hugging Face · LinkedIn · Medium · ORCID · 演讲者资料 · Crunchbase

我是一名 AI 安全创始人，**AltaySec** 的联合创始人，并且在 **OWASP AI、GenAI 和 Agent Security 项目**中拥有六项已合并的贡献。我的工作重点是土耳其及全球 LLM 安全、Prompt Injection、AI 工程、AI Red Teaming、越狱防御以及 Agentic 安全。 我的工作涵盖了 AI 安全的两个方面：了解 LLM 应用在对抗性使用下是如何失效的，以及开发更安全地部署它们所需的防御控制、数据集、工具和操作实践。 在 AltaySec，我们正在构建土耳其最专注的 AI 安全生态系统之一。产品开发、安全研究、教育、开放技术资源和社区工作都在同一个架构下推进。 ## 最新开源发布 | 发布 | 新增内容 | 凭证 | | --- | --- | --- | | **Turkish Daily Dialogues 5K** | 涵盖 35 个主题的 5,000 条合成土耳其语日常对话，包含按场景类别分组的划分和确定性 QA | [GitHub](https://github.com/3nesdeniz/turkish-daily-dialogues-5k) · [Hugging Face](https://huggingface.co/datasets/3nesdeniz/turkish-daily-dialogues-5k) · [v1.0.0](https://github.com/3nesdeniz/turkish-daily-dialogues-5k/releases/tag/v1.0.0) | | **AI Security Roadmap** | 包含 12 个模块的英语学习路径，以及实质性扩充的 12 个模块的土耳其语版本，涵盖 LLM、RAG、Agent、MCP、Red Team 和 Blue Team 安全 | [GitHub](https://github.com/3nesdeniz/ai-security-roadmap) · [v1.0.0](https://github.com/3nesdeniz/ai-security-roadmap/releases/tag/v1.0.0) | | **Prooflint** | 一个用于可审查 AI 安全发现的本地优先证据门，具有确定性规则、防篡改清单以及 JSON/SARIF 输出 | [GitHub](https://github.com/3nesdeniz/prooflint) · [v0.1.0](https://github.com/3nesdeniz/prooflint/releases/tag/v0.1.0) | 对话数据集是一个通用的土耳其语 NLP 资源；它并不作为 AI 安全基准呈现。路线图和 Prooflint 是独立的开源方法论和工具项目。 ## 已合并的上游贡献 我在 OWASP AI、GenAI 和 Agent Security 项目中贡献了可审查的 AI 安全工件。下面的每项贡献都可以通过其合并的 Pull Request 和属于该工作的技术工件独立验证。 | 贡献 | 上游仓库 | 交付范围 | 凭证 | | --- | --- | --- | --- | | **#187 — AI 工程入门** | OWASP AI Exchange | 面向安全的 AI 交付模型映射、生命周期工件、所有权边界和初审问题 | [已合并的 PR](https://github.com/OWASP/www-project-ai-security-and-privacy-guide/pull/187) · [在线入门指南](https://owaspai.org/go/aiengineeringprimer/) · [独立配套报告](https://doi.org/10.5281/zenodo.21623740) | | **#157 — OpenAI Agents 目标事件** | OWASP Agent Security Regression Harness | 为目标完整性断言提供明确、确定性的目标事件证据，无需推断意图 | [已合并的 PR](https://github.com/OWASP/Agent-Security-Regression-Harness/pull/157) · [独立技术报告](https://doi.org/10.5281/zenodo.21623795) | | **#158 — LangGraph 更新流** | OWASP Agent Security Regression Harness | 在保留默认 invoke 路径的同时，可选择开启同步更新流捕获 | [已合并的 PR](https://github.com/OWASP/Agent-Security-Regression-Harness/pull/158) · [独立技术报告](https://doi.org/10.5281/zenodo.21623795) | | **#11 — 土耳其语评估语料库** | GenAI Data Security Initiative | 300 个以土耳其语为主的安全测试用例，包含来源和完整性控制 | [已合并的 PR](https://github.com/GenAI-Security-Project/GenAI-Data-Security-Initiative/pull/11) · [技术说明](https://medium.com/@3nesdeniz/ai-security-needs-more-than-english-tests-b2c7589beec3) · [固定来源数据集](https://huggingface.co/datasets/AltaySec/turkish-llm-injection/tree/08d1fdccf10a831c2f32627c615002e6286f6315) | | **#50 — 系统侦察活动** | GenAI Red Team Lab | 跨越 9 个侦察类别的 24 个英语和土耳其语探针 | [已合并的 PR](https://github.com/GenAI-Security-Project/GenAI-Red-Team-Lab/pull/50) · [技术说明](https://medium.com/@3nesdeniz/reconnaissance-before-exploitation-f9804e68e182) · [版本化报告](https://doi.org/10.5281/zenodo.21568023) | | **#51 — 可靠性和证据强化** | GenAI Red Team Lab | 感知故障的执行、更安全的证据处理、报告完整性和生命周期控制 | [已合并的 PR](https://github.com/GenAI-Security-Project/GenAI-Red-Team-Lab/pull/51) · [技术说明](https://medium.com/@3nesdeniz/when-a-security-test-mistakes-failure-for-a-finding-fb8c147912e2) · [版本化报告](https://doi.org/10.5281/zenodo.21568023) | ### #187 — 面向安全专业人员的 AI 工程入门 我为需要审查 AI 系统的安全专业人员编写了一本实用指南，避免将模型、应用、数据、基础设施和操作过程混为一个黑盒。 - **上游影响：** 区分了提供商托管的 API、自托管模型以及微调或训练的系统；将六个生命周期阶段映射到工程工件、安全问题和责任所有者；并提供了以清单优先的审查顺序 - **验证边界：** 这是一个文档和方法论贡献。它不包含任何基准、产品性能或生产部署声明。 - **证据链：** [已合并的 OWASP AI Exchange PR #187](https://github.com/OWASP/www-project-ai-security-and-privacy-guide/pull/187) · [在线 AI 工程入门指南](https://owaspai.org/go/aiengineeringprimer/) · [独立配套报告](https://doi.org/10.5281/zenodo.21623740) 配套报告由 Enes Deniz 撰写并发布在 Zenodo 上；它不是 OWASP 的出版物或背书。 ### #157 — 明确的 OpenAI Agents 目标事件证据 我添加了一条明确的目标事件路径，以便 `goal_integrity` 断言可以通过确定性的 trace 事件来评估进程内的 OpenAI Agents 运行，而不是推断出的意图。 - **上游影响：** 跨越适配器和 runner API 的 `goal_event_id`，CLI 中的 `--openai-agent-goal-event`，标准的 `goal` trace 事件，以及对空白或上下文外使用的验证 - **兼容性边界：** 未配置该功能时，现有的 trace 结构保持不变；不从模型输出、工具调用或 Agent 元数据中推断意图 - **验证：** 该贡献报告了 349 个通过的测试和 2 个跳过的测试，以及针对特定范围的 Ruff、mypy 和 diff 检查 - **证据链：** [已合并的 PR #157](https://github.com/OWASP/Agent-Security-Regression-Harness/pull/157) · [独立框架感知证据报告](https://doi.org/10.5281/zenodo.21623795) ### #158 — 可选开启的 LangGraph 更新流捕获 我为同步 LangGraph `stream_mode="updates"` 执行添加了一条狭窄的路径，以便将节点更新保留为可检查的 Agent 安全回归证据。 - **上游影响：** `--langchain-stream-updates`，从标准更新 payload 中捕获助手消息和工具调用，可选的 LangChain 配置，并保留了目标事件处理 - **兼容性边界：** 默认仍为 `invoke()`；异步、token 流、回调和子图路径仍不在范围内；不支持的目标和格式错误的流会显式失败 - **验证：** 该贡献报告了 351 个通过的测试和 2 个跳过的测试，以及针对特定范围的 Ruff、mypy 和 diff 检查 - **证据链：** [已合并的 PR #158](https://github.com/OWASP/Agent-Security-Regression-Harness/pull/158) · [独立框架感知证据报告](https://doi.org/10.5281/zenodo.21623795) 框架感知证据报告由 Enes Deniz 撰写并发布在 Zenodo 上；它不是 OWASP 的出版物或背书。 ### #11 — 300 个土耳其语安全测试用例 我从 [AltaySec Turkish LLM Prompt Injection Dataset v0.2](https://huggingface.co/datasets/AltaySec/turkish-llm-injection/tree/08d1fdccf10a831c2f32627c615002e6286f6315) 中改编了 **300 个以土耳其语为主的防御性 Prompt Injection 和数据提取测试用例**，用于 GenAI Data Security Initiative。合并后的贡献为每个用例添加了一条符合 schema 的记录、新的标注和 DSGAI 映射、匿名化控制、记录级来源、来源和改编内容的哈希值，以及一个确定性完整性清单。 - **上游影响：** 涵盖 12 个技术系列的 227 个侧重提取的用例和 73 个明确标记的 Prompt Injection 控制/审查用例 - **验证边界：** 300/300 的 Draft-07 schema 验证、清单到文件的完整性、规范的 DSGAI 检查、匿名化审查和重复筛查。该语料库不包含模型输出、成功率声明、观察到的攻击声明或生产数据。 - **证据链：** [已合并的 PR #11](https://github.com/GenAI-Security-Project/GenAI-Data-Security-Initiative/pull/11) · [AI 安全需要的不仅仅是英文测试](https://medium.com/@3nesdeniz/ai-security-needs-more-than-english-tests-b2c7589beec3) · [固定的源数据集版本](https://huggingface.co/datasets/AltaySec/turkish-llm-injection/tree/08d1fdccf10a831c2f32627c615002e6286f6315) ### #50 — 双语系统侦察活动 我针对已授权的 GenAI 评估开发了一项可重现的**系统侦察和发现**活动。它通过**跨越 9 个类别的 24 个英语和土耳其语探针**，检查能力、工具、数据源、身份、策略、指令、记忆、架构和来源。 - **上游影响：** 保守的人工审查标签、与证据关联的 JSONL 和 Markdown 报告、语言/类别过滤器、dry run、按 prompt 隔离错误以及快速失败操作 - **验证边界：** 12 个重点测试以及 Black、isort、严格的 mypy、lockfile、dry run 和 diff 检查。本地的 `gpt-oss:20b` 沙箱未被下载或启动；传输行为通过注入的 client 覆盖。 - **证据链：** [已合并的 PR #50](https://github.com/GenAI-Security-Project/GenAI-Red-Team-Lab/pull/50) · [利用前的侦察](https://medium.com/@3nesdeniz/reconnaissance-before-exploitation-f9804e68e182) · [版本化实现和强化报告](https://doi.org/10.5281/zenodo.21568023) ### #51 — 可靠性和证据强化 我强化了侦察工作流，使得执行失败不会被误认为安全发现，且不完整的证据不会悄无声息地变成成功的报告。 - **上游影响：** 每个探针的截止时间、目标错误处理、感知拒绝的证据分类、私有且防冲突的报告、严格的配置验证、无 shell 的生命周期调度、HTTP 就绪检查以及确定性的 client 清理 - **验证边界：** 69 个通过的测试、包/依赖项检查、有针对性的 dry run 以及 Make 目标验证。未运行完整的 Podman/Ollama `gpt-oss:20b` 端到端活动。 - **证据链：** [已合并的 PR #51](https://github.com/GenAI-Security-Project/GenAI-Red-Team-Lab/pull/51) · [当安全测试将失败误认为发现时](https://medium.com/@3nesdeniz/when-a-security-test-mistakes-failure-for-a-finding-fb8c147912e2) · [版本化实现和强化报告](https://doi.org/10.5281/zenodo.21568023) ## 专业领域 - LLM 应用安全 - Prompt Injection 与越狱防御 - AI Red Teaming 与对抗性测试 - AI Blue Teaming 与防御性工程 - AI Agent、工具使用、RAG 和记忆安全 - 土耳其语和多语种 LLM 攻击面 ## 精选作品 ### AI 与网络安全技能 为 Codex 及兼容的 Agent 收集的十个基于证据的开放安全技能：其中六个用于 AI 安全，四个用于核心网络安全工作。 - AI 威胁建模、Prompt Injection、Agentic 安全、RAG 安全、LLM Red Teaming 和护栏评估 - Web 应用程序安全、API 安全、云 IAM 和事件分类 - 明确的授权边界、证据规则、输出契约和质量门 - 40 个正面、边缘、安全和不触发评估用例，带有自动化收集验证

GitHub 仓库 · v1.0.0 发布

### LLM 安全测试平台 一个可重现、成对感知的评估工具包，用于 Prompt Injection 检测器和 LLM 护栏。它在同一次运行中测量攻击检测和合法用户误报，支持离线、Python、HTTP 和 Promptfoo 工作流。 - TP、FP、TN、FN、误报率和成对边界分析 - 按系列、类别、来源上下文和数据划分报告 - 加本地 JSONL 和 Hugging Face 数据集 - 最小化隐私的 JSON、Markdown 和 JSONL 报告 - 在 Python 3.10、3.12 和 3.14 上经过测试

GitHub 仓库 · v0.1.0 发布

### Agentic Prompt Injection 边界对 一个英语数据集，用于测试安全控制是否能区分合法工作流与复用相同角色、工具、资产和词汇的 Prompt Injection 尝试。 - **1,200** 个被组织为 **600** 个受控的良性/攻击对的示例 - **50** 个企业和 Agentic 工作流场景 - **12** 个攻击系列，涵盖指令、授权、机密性、工具使用、检索、记忆、信任和审批边界 - 场景隔离的训练集、验证集和测试集划分 - 确定性构建、验证、校验和以及交互式配对浏览器

GitHub 仓库 · Hugging Face 数据集 · 交互式浏览器 · v1.0.0 发布 · Zenodo DOI

### 土耳其语对话 Prompt Injection 数据集 一个开放的土耳其语数据集，旨在研究合法用户意图与 Prompt Injection 行为之间的边界。 - **750** 个独特的土耳其语示例 - **600** 个合法用户请求和 **150** 个 Prompt Injection 攻击 - **150** 个匹配的良性边界用例 - **10** 个攻击系列，包括直接注入、系统 Prompt 提取、角色扮演越狱、间接注入、Agent/工具滥用、RAG 和记忆投毒以及混淆 - 可重现的 JSONL 和 Parquet 格式的训练集、验证集和测试集划分

GitHub 仓库 · Hugging Face 数据集 · Zenodo DOI

## 精选工程项目 | 项目 | 范围 | | --- | --- | | [Prooflint](https://github.com/3nesdeniz/prooflint) | 用于 AI 安全发现的本地优先证据门、确定性清单和 SARIF 报告 | | [AI Security Roadmap](https://github.com/3nesdeniz/ai-security-roadmap) | 针对于 LLM、RAG、Agent、MCP、Red Team 和 Blue Team 安全的双语学习路径 | | [Turkish Daily Dialogues 5K](https://github.com/3nesdeniz/turkish-daily-dialogues-5k) | 可重现的合成土耳其语日常对话数据集，包含涵盖 35 个主题的 5,000 条对话 | | [AI 与网络安全技能](https://github.com/3nesdeniz/ai-cybersecurity-skills) | 为 Codex 及兼容的 Agent 提供的十个基于证据的 AI 安全和网络安全技能 | | [LLM 安全测试平台](https://github.com/3nesdeniz/llm-security-testbench) | 针对于 Prompt Injection 检测器和 LLM 护栏的成对感知评估 | | [Agentic Prompt Injection 边界对](https://github.com/3nesdeniz/agentic-prompt-injection-boundary-pairs) | 用于 Agentic 工作流和信任边界测试的英语成对数据集 | | [土耳其语对话 Prompt Injection](https://github.com/3nesdeniz/turkish-conversation-prompt-injection) | 包含成对的良性和攻击示例的土耳其语 LLM 安全数据集 | | [Mini-SIEM](https://github.com/3nesdeniz/Mini-SIEM) | 日志收集、威胁检测和 MITRE ATT&CK 映射 | | [Log Anomaly Detector](https://github.com/3nesdeniz/log-anomaly-detector) | 基于 Python 的日志分析和异常调查 | | [Mini Directory Scan](https://github.com/3nesdeniz/Mini-Directory-Scan) | 具有 soft-404 检测和结构化报告的 Web 目录扫描器 | ## 写作与研究 - [面向安全专业人员的 AI 工程入门指南 — OWASP AI Exchange](https://owaspai.org/go/aiengineeringprimer/) - [面向安全的 AI 工程：OWASP AI Exchange 入门指南的清单优先配套指南](https://doi.org/10.5281/zenodo.21623740) - [框架感知证据捕获：Agentic AI 安全回归测试中的 OpenAI Agents 目标事件与 LangGraph 更新流](https://doi.org/10.5281/zenodo.21623795) - [三个开源发布，一个标准：让证据变得可检查](https://medium.com/@3nesdeniz/three-open-source-releases-one-standard-make-the-evidence-inspectable-d4acf4589662) - [面向 GenAI Red Teaming 的可靠双语系统侦察：实现与强化](https://doi.org/10.5281/zenodo.21568023) - [当安全测试将失败误认为发现时](https://medium.com/@3nesdeniz/when-a-security-test-mistakes-failure-for-a-finding-fb8c147912e2) - [AI 安全需要的不仅仅是英文测试](https://medium.com/@3nesdeniz/ai-security-needs-more-than-english-tests-b2c7589beec3) - [利用前的侦察](https://medium.com/@3nesdeniz/reconnaissance-before-exploitation-f9804e68e182) - [Prompt Injection 数据集应该测试边界，而不是关键字](https://medium.com/@3nesdeniz/a-prompt-injection-dataset-should-test-boundaries-not-keywords-79589beda0b6) - [AI Güvenliği Bir Filtre Meselesi Değil](https://medium.com/@3nesdeniz/ai-güvenliği-bir-filtre-meselesi-değil-7eb8e7753339) - [Prompt Injection Savunmaları Üretime Girmeden Nasıl Test Edilmeli?](https://medium.com/p/56801b23aa3f) - [LLM Güvenliğinde TP, FP, TN ve FN Dengesi](https://medium.com/@3nesdeniz/llm-g%C3%BCvenli%C4%9Finde-tp-fp-tn-ve-fn-dengesi-9a9129418900) - [AltaySec AI 安全研究](https://altaysec.com.tr/arastirmalar/) - [AltaySec 的 Enes Deniz](https://altaysec.com.tr/enes-deniz) ## 当前优先事项 - 扩充开放的土耳其语和多语种 AI 安全资源 - 绘制新兴的 Prompt Injection、Agent、RAG 和工具使用攻击面的图谱 - 为真实的 LLM 部署构建实用的 Red Team 和 Blue Team 方法论 - 通过产品、教育、研究和社区项目发展 AltaySec 生态系统 ## 联系方式 - **Email:** [enes@altaysec.com.tr](mailto:enes@altaysec.com.tr) - **LinkedIn:** [linkedin.com/in/3nesdeniz](https://www.linkedin.com/in/3nesdeniz) - **Medium:** [medium.com/@3nesdeniz](https://medium.com/@3nesdeniz) - **Hugging Face:** [huggingface.co/3nesdeniz](https://huggingface.co/3nesdeniz) - **ORCID:** [0009-0006-9491-3565](https://orcid.org/0009-0006-9491-3565) - **演讲者资料:** [sessionize.com/3nesdeniz](https://sessionize.com/3nesdeniz/) - **Crunchbase:** [Enes Deniz](https://www.crunchbase.com/person/3nesdeniz) - **Zenodo:** [Agent 安全报告](https://doi.org/10.5281/zenodo.21623795) · [AI 工程配套指南](https://doi.org/10.5281/zenodo.21623740) · [系统侦察报告](https://doi.org/10.5281/zenodo.21568023) · [土耳其语数据集](https://doi.org/10.5281/zenodo.21379389) · [Agentic 数据集](https://doi.org/10.5281/zenodo.21378693)

标签：AI安全, AI工程, Chat Copilot, 逆向工具