sarhodes37-tech/entropy-aware-halting
GitHub: sarhodes37-tech/entropy-aware-halting
EpistemicOS 是一款零依赖的 LLM 安全中间件，利用流式 Shannon 熵与权限门控在 O(1) 时间内确定性地拦截幻觉、结构性崩溃和未授权工具调用。
Stars: 0 | Forks: 0
# EpistemicOS：面向 LLM 的确定性停机与安全中间件
EpistemicOS 是一款低延迟安全中间件，旨在对大型语言模型 (LLM) 的输出强制执行确定性停机和严格的沙盒边界。它能在结构性崩溃、N-gram 循环、认知幻觉以及未经授权的工具调用向量被更广泛的系统执行之前对其进行拦截。
可以将标准的 LLM 安全过滤器想象成一个保镖，逐一核对每一位顾客的身份证——这是一个高延迟的瓶颈。EpistemicOS 的运行机制则更像是一个热力学传感器。它能在 O(1) 时间内检测到异常 token 流的突然统计压力下降，并瞬间降下防爆门，仅在处理稳定的基线流量时才应用更繁重的 regex 解析。
## 性能：RhodesBench 消融研究
该架构的有效性已通过 RhodesBench 进行了测试，这是一个包含递归自引用、不可能观测和幻觉向量的定向对抗性数据集。
下方的消融实验数据证明了采用完整门控序列的必要性。运行双门控架构可带来 100% 的拦截率，且仅伴随极微小的延迟开销。
| 配置 | 精确率 | 召回率 | 平均延迟 | 捕获异常 (真正例) | 错误提交 (漏报) |
| :--- | :--- | :--- | :--- | :--- | :--- |
| **C0: 基线 (无门控)** | 20.00% | 0.00% | ~0.0012 ms | 0 / 8 | 8 |
| **C1: 仅 Entropy** | 20.00% | 0.00% | ~0.0075 ms | 0 / 8 | 8 |
| **C2: 仅 Permission** | 50.00% | 75.00% | ~0.0195 ms | 6 / 8 | 2 |
| **C4: 完整 EpistemicOS** | 100.00% | 100.00% | ~0.0229 ms | 8 / 8 | 0 |
### O(1) 开销
通过将 `OptimizedEntropyGate` 严格置于 `OptimizedPermissionGate` 之前，系统在应用较繁重的字符串评估之前建立了一个统计基线。C4 配置捕获了权限门控剩余的盲点（将召回率从 75% 提升至 100%），同时仅增加了约 0.0034 ms 的平均执行开销。这使得整个安全 pipeline 能够完美地在 O(1) 性能约束下运行。
## 核心架构
EpistemicOS 通过两个连续的硬门控来路由 token 流。
### 1. 优化后的 Entropy 门控 (统计沙盒)
计算 Shannon 熵，并使用 64-token 的滚动窗口跟踪 token 方差。
$$H(X) = -\sum_{i} P(x_i) \log_2 P(x_i)$$
它利用流式 Z-score 计算来检测不确定性的大幅激增：
$$Z = \frac{\vert H(X) - \mu \vert}{\max(\sigma, 0.05)}$$
### 2. 优化后的 Permission 门控 (契约边界)
这是一个即时 (JIT) 预编译的 regex 评估门控。它将 LLM 操作限制在预定义的允许的工具调用数组中，并拦截不安全的系统命令注入（例如 `sudo`、`rm -rf`、`exec`）。
### 3. 防篡改审计追踪
所有被拦截的违规行为都会以加密方式记录在日志中。编排器会记录触发条件、抛出标记的门控以及执行延迟，从而确保安全审计的透明性和不可变性。
## 快速开始
1. 克隆仓库：
```
git clone [https://github.com/sarhodes37-tech/entropy-aware-halting.git](https://github.com/sarhodes37-tech/entropy-aware-halting.git)
cd entropy-aware-halting
2. Run the Benchmark:
Execute the test harness to run the orchestrator against the dataset_rhodes.jsonl adversarial vector.
python3 test_rhodes_bench.py
Installation
EpistemicOS is built entirely on the Python standard library to ensure maximum execution speed and zero dependency bloat.
Requirements:
Python 3.8+
Setup:
git clone [https://github.com/sarhodes37-tech/entropy-aware-halting.git](https://github.com/sarhodes37-tech/entropy-aware-halting.git)
cd entropy-aware-halting
pip install -r requirements.txt # Installs dev/testing tools (optional)
Running the Integration Suite
To execute this test suite against your environment:
pytest tests/integration/test_pipeline_gamma.py -v
```
标签：AI安全, Chat Copilot, DLL 劫持, 中间件, 人工智能, 大语言模型, 幻觉防御, 用户模式Hook绕过, 逆向工具