qwythos-mythos/qwythos

GitHub: qwythos-mythos/qwythos

一款无审查的本地化 AI 桌面客户端,专为信息安全与红队场景设计,支持在消费级 GPU 上离线运行百万 token 上下文的大模型推理。

Stars: 0 | Forks: 0

# Qwythos — 无审查的 Mythos 级桌面工作室 Anthropic 将 Claude Mythos 智能锁定在政府合同背后,并用极端的审查机制削弱了 Fable 5。**Qwythos Desktop** 将这种前沿级别的推理能力带到了您的本地机器上。这是一个完全无审查的、拥有 100 万 token 上下文和 90 亿参数的 AI 引擎,被打包成适用于 Windows 和 Mac 的原生桌面客户端。在本地投入 zero-day 漏洞利用代码、分析 EDR 绕过技术、对恶意软件进行逆向工程——没有 API 限制、没有内容过滤器,也没有供应商监控。 底层的 **Qwythos-9B** 架构使用仅助手损失函数(assistant-only loss function),从超过 5 亿 token 的高质量 Claude Mythos 和 Fable 轨迹中蒸馏而来,相比其基座模型实现了巨大的 **+34.3 MMLU 提升**。通过 Heretic abliteration 流水线处理(实现了 0.0066 的微小 KL 散度),该模型被永久剥离了企业安全分类器。您将获得 Anthropic 顶级模型的精英分析能力,并在您自己的硬件上本地执行。 [![最新版本](https://img.shields.io/github/v/release/qwythos-mythos/qwythos?style=flat-square&label=Download)](https://github.com/qwythos-mythos/qwythos/releases/latest) [![Windows](https://img.shields.io/badge/Windows-10%20%7C%2011-blue?style=flat-square)](https://github.com/qwythos-mythos/qwythos/releases/latest) [![macOS](https://img.shields.io/badge/macOS-Apple%20Silicon%20%7C%20Intel-black?style=flat-square)](https://github.com/qwythos-mythos/qwythos/releases/latest) [![模型](https://img.shields.io/badge/Engine-Qwythos--9B-D97757?style=flat-square)](https://huggingface.co/empero-ai) [![MIT 许可证](https://img.shields.io/badge/License-MIT-blue.svg?style=flat-square)](LICENSE)
Qwythos — The Uncensored Mythos-Class Desktop Studio.
## 💻 混合突发推理:RTX 3060 上的前沿 AI 开源 AI 面临的最大障碍是硬件。您不应该需要价值 40,000 美元的服务器机架才能运行顶级推理。**Qwythos Desktop** 引入了革命性的 **Hybrid Burst** 架构,旨在让大众都能用上庞大的上下文窗口。 得益于先进的 GGUF Q4_K_M 量化和 MLX 框架集成,核心模型仅重 5.6 GB。这意味着整个智能引擎——包括其密集的 `` 推理路径和原生的 tool-calling 能力——可以毫不费力地装入标准消费级 **NVIDIA RTX 3060** 的 12GB VRAM 或基础款 Apple M1 Mac 中。 当您的工作负载是常规任务(聊天、编写脚本、本地文件分析)时,100% 的计算都在您的本地 GPU 上进行。然而,加载 **100 万 token 的上下文**(例如整个企业代码库或数百个 PCAP 日志)需要大量的内存来处理 KV-cache。Qwythos Desktop 不会因为内存溢出(OOM)而崩溃,而是无缝触发 **Hybrid Burst Mode**。客户端会动态地将繁重的 KV-cache 处理任务卸载到您配置的 API(自带密钥或兼容的后端 endpoint)上,同时将核心推理循环保留在本地。对于常规任务,您可以享受本地隐私;而当您需要吞下整个代码库时,则可获得无限的云端支持内存。 ## 🛡️ 终结强制数据留存 将云端模型用于信息安全(InfoSec)本质上就是不安全的。Anthropic 对其 Claude Fable 5 商业部署强制执行严格的、不可取消的 30 天数据留存政策。将敏感的企业基础设施日志、专有代码或未修补的漏洞输入到云端 API,实际上就是将您的 zero-day 漏洞泄露给第三方供应商。 **Qwythos Desktop** 采用 **零信任**(Zero-Trust)范式运行。 通过将模型从云端提取到原生可执行文件中,我们切断了遥测回路。该应用程序完全在您的硬盘上分析攻击载荷、勒索软件攻击链(kill-chain)和 TLS 握手结构。没有中间人,没有“信任与安全”监控守护进程,也没有扫描您 prompt 的 API 网关。您的威胁情报保持完全的物理隔离状态。 ## ⚙️ 核心桌面功能 **深度无审查网络安全:** 与那些在被要求提供技术深度时只会生成通用免责声明的“已对齐”模型不同,经过 abliteration 处理的 Qwythos 引擎能够真正交付。获得以防御者为导向的、关于 SQL 注入、进程注入规避技术和 MITRE ATT&CK 勒索软件路径的可操作性分析,而不会让 AI 对您进行道德说教。 **1M YaRN 超级上下文:** 桌面客户端利用 YaRN(Yet another RoPE extensioN)技术,并将 4.0 的缩放因子直接集成到配置中。将 50 万行代码拖入工作区;Gated DeltaNet 线性注意力机制以次二次方内存缩放对其进行处理,在数十个互连文件中保持精确到点的准确性。 **原生 Mythos 推理(CoT):** 我们不仅仅是给一个基础模型套上了一层 prompt。Qwythos-9B 使用通过专有 *rethink* 工具生成的合成思维链(CoT)。在回答之前,模型会打开一个 `` 块来提出假设并测试变体,反映了 Claude Mythos 精英级别的分析节奏。 **自主代理(工具调用):** Qwythos 原生支持 XML 函数调用(``)。赋予桌面客户端访问其沙盒终端或 Python 执行器的权限,它将独立搜索 hashcat 模式、执行 Nmap 扫描,或查询医学药理学数据库,并实时自我纠正其运行轨迹。 ## 📊 竞争定位 | 能力 | Qwythos Desktop | Claude Fable 5 | Claude Opus 4.8 | Qwable-9B | |---|---|---|---|---| | **无审查网络安全** | **是(Heretic Abliterated)** | 否(自动路由到安全模型) | 否(严格的护栏) | 否(继承了 Fable 审查) | | **本地执行** | **是(RTX 3060 / Mac 原生)** | 否(仅限云端) | 否(仅限云端) | 仅限 CLI | | **上下文窗口** | **1,048,576 Tokens** | 1,000,000 Tokens | 200,000 Tokens | 262,144 Tokens | | **数据隐私** | **零数据留存** | 强制 30 天日志记录 | 标准日志记录 | 开源 / CLI | | **成本特征** | **免费 / 自带算力** | $15.00 / 1M Tokens | $15.00 / 1M Tokens | 免费(能力较弱) | *(注:Qwable-9B 是一个纯粹基于公开轨迹训练的替代性开源蒸馏模型。它保留了企业审查机制,并且在高级 DevOps 和信息安全推理方面,与 Qwythos 专有的 Mythos 轨迹数据集相比表现不佳。)* ## 📥 安装说明 告别 Python 环境、Hugging Face token 和编译自定义 CUDA 内核。Qwythos Desktop 被打包为一个独立的应用程序,内部已捆绑推理引擎。 * **Windows:** 从最新的[版本发布](../../releases)中下载 `Qwythos-x64.7z`。运行安装程序。 * **macOS:** 从最新的[版本发布](../../releases)中下载 `Qwythos.dmg`。拖动到“应用程序”文件夹。(支持 Apple Silicon 和 Intel 的通用二进制文件)。 双击启动。该应用程序会自动检测您的硬件,选择最佳的量化配置文件,并启动本地引擎。 ## ❓ 常见问题解答 **1. 为什么这完全是免费使用的?** 底层的 Qwythos-9B 模型由 Empero AI 在宽松的 Apache 2.0 许可证下发布。我们提供原生桌面封装、GUI 和本地推理引擎(通过捆绑的 llama.cpp/MLX),作为一个完全免费的、基于 MIT 许可证的开源项目。您只需为电费付费,或者如果您选择使用 Hybrid Burst 卸载功能,则需支付外部 API 费用。 **2. 当我的 RTX 3060 在处理 100 万 token 的庞大代码库卡顿时会怎样?** 您的 VRAM 可以轻松处理模型权重(Q4_K_M 需要 5.6GB)。当您粘贴一份庞大的文档,导致 KV-cache 超出您剩余的 VRAM 时,Qwythos Desktop 会无缝切换到 Hybrid Burst 模式。它将上下文缓存卸载到您指定的 API endpoint,在不导致系统崩溃的情况下保持界面速度。 **3. 将一个故意设置為无审查的 AI 接入我的本地终端安全吗?** Qwythos 应用程序在受限的本地沙盒内运行外部工具执行。然而,由于模型的安全约束已被完全 abliterated,如果您明确要求,它*一定会*编写破坏性代码。您正在使用的是专业的红队对抗工具;您对在主机上执行的 payload 承担全部责任。 **4. 为什么我要使用这个而不是 Qwable-9B 蒸馏模型?** Qwable-9B 严格基于早期 Fable 5 轨迹的有限公开数据集进行训练。它继承了 Anthropic 的企业式客套、毫无生气的拒绝机制,并在处理复杂的 DevOps/网络安全边缘情况时显得力不从心。Qwythos-9B 基于 5 亿多 token 的精英级、内部 Mythos 轨迹进行训练,并经过精密的审查剥离处理,使其在技术研究方面具有根本性的优势。 **5. 100 万 YaRN 超级上下文在实际中究竟是如何运作的?** 该模型没有使用在长距离下会失效的标准注意力机制,而是结合使用了 Gated DeltaNet 线性注意力机制和 4.0 的 YaRN(Yet another RoPE extensioN)缩放因子。在实际应用中,这意味着您可以将 15 份不同的 PDF 白皮书、一份 5 万行的服务器日志和一个 Python 代码库拖放到聊天中,模型能够准确引用第 400 页上的某个变量而不会产生幻觉。 ## 🔒 隐私与安全模型 * **零遥测:** 该应用程序绝对不包含任何分析追踪器、崩溃报告程序或使用信标。 * **气隙隔离运行:** 一旦下载了权重,核心推理引擎无需任何互联网连接即可运行。 * **仅本地存储:** 所有 prompt、工作区和聊天记录均经过加密,并仅存储在您的本地存储驱动器上。 * **可审计的沙盒环境:** 原生工具执行环境是隔离的;您必须明确授予客户端读取或写入项目文件夹之外目录的权限。 * **无供应商锁定:** 开放权重,开源客户端。Anthropic 无法通过 API 封禁撤销您的访问权限。 ## 🗺️ 路线图 * **v1.2** — 全面支持多 token 预测(MTP)层,实现 2 倍的生成速度。 * **v1.3** — 点对点集群 KV-cache 卸载(将 VRAM 与局域网内的机器结合使用)。 * **v2.0** — 利用本地引擎的后台 IDE 扩展钩子(VS Code / JetBrains)。 ## 免责声明 这是一个独立的开源桌面客户端,旨在运行 Empero AI 的 Qwythos-9B 模型。它不隶属于、也不受 Anthropic、阿里巴巴或 Empero AI 认可或赞助。“Claude”、“Mythos”和“Fable”是 Anthropic 的商标。它们在本存储库中的使用严格限于比较和指示性合理使用目的,用于描述开放权重模型的训练谱系和能力目标。除非用户另行配置,Qwythos Desktop 完全依赖本地执行。请确保您对无审查 AI 的使用符合有关网络安全和恶意软件分析的当地法规。
标签:DLL 劫持, 大语言模型, 无审查模型, 本地部署, 桌面客户端, 逆向工具