cognis-digital/modelroute

``` pip install cognis-modelroute modelroute scan . # → prioritized findings in seconds ``` ## 使用说明 — 分步指南 `modelroute` 是一个本地模型路由器/代理，它将模型别名解析为 provider 回退链，并构建分发请求。控制台命令：`modelroute`。 1. 从克隆的仓库中**安装**： pip install -e . 2. 将别名**解析**为回退链 + 请求计划： modelroute route fast --prompt "Summarize this changelog" --strategy local-first 3. **检查配置情况** — 列出 provider 和模型： modelroute providers modelroute models fast 4. **读取输出** — `--format json` 返回选定的候选者和完整链： modelroute --format json route fast -p "hi" | jq '.chosen, .fallback_chain' 5. **模拟故障** — 通过使指定的 provider 发生故障来验证故障转移： modelroute simulate fast -p "hi" --fail openai,anthropic ## 目录 - [为什么选择 modelroute？](#why) · [功能](#features) · [快速开始](#quick-start) · [示例](#example) · [架构](#architecture) · [AI stack](#ai-stack) · [对比](#how-it-compares) · [集成](#integrations) · [随处安装](#install-anywhere) · [相关项目](#related) · [贡献](#contributing) ## 为什么选择 modelroute？ AI 基础设施 `modelroute` 是单一用途、可脚本化且可自托管的：将其指向目标，以您工作流已有的格式（table · JSON · SARIF）获取优先级结果，通过它限制 CI，并让 agent 通过 MCP 驱动它。 ## 功能 - ✅ 解析 - ✅ 构建请求 - ✅ 估算 Token - ✅ 消息 Token - ✅ 分发 - ✅ 列出模型 - ✅ 列出 Provider - ✅ 运行于 Linux/macOS/Windows · Docker · devcontainer - ✅ 支持 Python、JavaScript、Go 和 Rust 移植版本 (`ports/`) ## 快速开始 ``` pip install cognis-modelroute modelroute --version modelroute scan . # scan current project modelroute scan . --format json # machine-readable modelroute scan . --fail-on high # CI gate (non-zero exit) ``` ## 示例 ``` $ modelroute scan . [HIGH ] MOD-001 example finding (./src/app.py) [MEDIUM ] MOD-002 another signal (./config.yaml) 2 findings · risk score 5 · 38ms ``` ## 架构 ``` flowchart LR IN[target / manifest] --> P[modelroute
checks + rules] P --> OUT[findings (JSON / SARIF)] ``` ## 从任何 AI stack 中使用它 `modelroute` 可以与所有流行的 AI 使用方式互操作： - **MCP server** — `modelroute mcp` (Claude Desktop, Cursor, Cognis.Studio, [uncensored-fleet](https://github.com/cognis-digital/uncensored-fleet)) - **兼容 OpenAI / JSON** — 将 `modelroute scan . --format json` 通过管道传递给任何 agent 或 LLM - **LangChain · CrewAI · AutoGen · LlamaIndex** — 将 CLI/JSON 作为工具封装在一行代码中 - **CI / 脚本** — 为非 AI pipeline 提供 exit code + SARIF ## 对比 | | **Cognis modelroute** | LiteLLM | |---|:---:|:---:| | 可自托管，无需账号 | ✅ | 视情况而定 | | 单一命令，零配置 | ✅ | ⚠️ | | 用于 CI 的 JSON + SARIF | ✅ | 视情况而定 | | MCP 原生 (AI agent) | ✅ | ❌ | | 多语言移植 (JS/Go/Rust) | ✅ | ❌ | | 开源许可证 | ✅ COCL | 视情况而定 | *秉承 **LiteLLM** 的精神，以 Cognis 的方式重新构建。漏掉了谁的致谢？欢迎提交 PR。* ## 集成 融入您的技术栈：用于代码扫描的 **SARIF**，用于任何场景的 **JSON**，用于 AI agent 的 **MCP server** (`modelroute mcp`)，以及用于 SIEM/Slack/Jira 的 webhook 转发器。详见 [`docs/INTEGRATIONS.md`](docs/INTEGRATIONS.md)。 ## 安装 — 各种方式、各个平台 ``` pip install "git+https://github.com/cognis-digital/modelroute.git" # pip (works today) pipx install "git+https://github.com/cognis-digital/modelroute.git" # isolated CLI uv tool install "git+https://github.com/cognis-digital/modelroute.git" # uv pip install cognis-modelroute # PyPI (when published) docker run --rm ghcr.io/cognis-digital/modelroute:latest --help # Docker brew install cognis-digital/tap/modelroute # Homebrew tap curl -fsSL https://raw.githubusercontent.com/cognis-digital/modelroute/main/install.sh | sh ``` | Linux | macOS | Windows | Docker | 云端 | |---|---|---|---|---| | `scripts/setup-linux.sh` | `scripts/setup-macos.sh` | `scripts/setup-windows.ps1` | `docker run ghcr.io/cognis-digital/modelroute` | [DEPLOY.md](docs/DEPLOY.md) (AWS/Azure/GCP/k8s) | ## 相关 Cognis 工具 - [`agentsmith`](https://github.com/cognis-digital/agentsmith) — 用于多 agent 工作流的配置优先脚手架和编排工具 - [`skillhub`](https://github.com/cognis-digital/skillhub) — 用于 AI agent 的本地技能注册表和安装程序 - [`toolguard`](https://github.com/cognis-digital/toolguard) — 用于 agent 工具调用的运行时白名单和策略 - [`evalbench`](https://github.com/cognis-digital/evalbench) — 带有回归门控的离线 LLM / agent 评估套件 - [`ragkit`](https://github.com/cognis-digital/ragkit) — 内置电池的本地 RAG pipeline — 摄取、索引、服务 - [`memorybank`](https://github.com/cognis-digital/memorybank) — 用于 agent 的便携式长期记忆存储，通过 MCP 暴露 **探索全套工具 →** [🗂️ 全部 170+ 工具](https://github.com/cognis-digital/cognis-neural-suite) · [⭐ awesome-cognis](https://github.com/cognis-digital/awesome-cognis) · [🔗 cognis-sources](https://github.com/cognis-digital/cognis-sources) · [🤖 uncensored-fleet](https://github.com/cognis-digital/uncensored-fleet) · [🧠 engram](https://github.com/cognis-digital/engram) ## 互操作性 `{}` 与包含 300+ 工具的 Cognis 套件组合 — JSON 输入/输出以及共享的 兼容 OpenAI 的 `/v1` 骨干网络。有关套件映射、组合模式和参考技术栈，请参阅 **[INTEROP.md](INTEROP.md)**。 ## 许可证 源代码可见，基于 **Cognis Open Collaboration License (COCL) v1.0** 授权 — 可免费用于个人、内部评估、研究和教育用途；**商业 / 生产用途需要许可证** (licensing@cognis.digital)。详见 [LICENSE](LICENSE)。

标签：AI模型路由, DLL 劫持, LLMOps, LLM评估, Ollama, vLLM, 可视化界面, 大语言模型, 数据可视化, 日志审计, 服务代理, 请求拦截, 逆向工具