shashankh3/RadeonShift-AI

GitHub: shashankh3/RadeonShift-AI

RadeonShift AI 是一个基于多智能体架构的 CUDA 到 AMD HIP 代码迁移与审计平台,提供自动化语法翻译、架构适配分析和可选的 ROCm 硬件验证。

Stars: 0 | Forks: 0

### 🚀 RadeonShift AI:项目概述 RadeonShift AI 是一个感知架构的 CUDA 迁移和审计平台,并在支持的环境中提供可选的 ROCm 硬件验证。系统使用专门的 Mixture of Agents (MoA) pipeline 来翻译语法,并针对目标 AMD Instinct 硬件(例如 MI300X)的底层架构假设(如 warp 大小和内存模型)提供深入的审计指导。 ### 🏗️ 系统架构与技术栈 该平台分为具有 serverless 翻译功能的、高度响应的 Web 前端,以及用于实时硬件执行的 bare-metal Python 后端。 **1. 前端 Web 应用程序** * **框架:** Next.js 14 App Router (React) * **样式:** Tailwind CSS 结合定制的毛玻璃“AMD 红”赛博美学。 * **核心组件:** * **SourceEditor.tsx:** 输入暂存区,工程师在此粘贴原始的 CUDA C++ kernel。 * **TargetWorkspace.tsx:** 中央仪表板,包含翻译后的 HIP C++ 源码、详细说明就绪情况和 wavefront 优化的 MoA 审计记分卡,以及硬件遥测数据。 * **CostCalculator.tsx:** 动态业务影响模块,通过对比手动工程工时与自动化 AI 计算时间来计算 ROI。 **2. Edge 翻译引擎(Next.js 与 Serverless AI)** 核心翻译 pipeline 运行在 Vercel Edge 网络上,使用由 DeepSeek-V4-Flash(通过 Fireworks AI)驱动的专用 Mixture of Agents (MoA)。 * **严格的 Prompt 工程:** LLM 受到严格限制,必须遵守 11 条不可变规则,强制其动态处理 AMD 的 64 宽 wavefront,替换 NVIDIA 特有的 intrinsic,映射 `HIP_SYMBOL`,并清理未使用的内存分配。 * **Serverless 超时绕过:** 深度 AI 推理需要时间。为了绕过严格的 serverless 执行限制,该路由利用了自定义的 `ReadableStream` 代理。它在 25 秒的 Edge runtime 窗口内开始流式响应,从而确保长时间的翻译响应仍可成功交付。 **3. Bare-Metal 硬件后端(Python 与 FastAPI)** 虽然前端负责语法映射和 AI 审计,但执行环境位于专为启用 ROCm 的 bare-metal 实例设计的 Docker 化 FastAPI 服务器上。 * **可信 Kernel 编译:** 平台采用可信的、标准化的向量加法(vector-add)基准测试,使用 `hipcc` 动态编译,并通过子进程在主机 AMD GPU 上执行,以验证编译器工具链。 * **硬件遥测:** 它直接挂钩 `rocm-smi` 以轮询实时硬件状态(GPU 名称、VRAM 使用情况),并通过干净的 JSON payload 将验证后的计算吞吐量 (GB/s) 直接返回至 Next.js 仪表板。 ### 🛡️ 确定性降级与回退 * **环境感知回退:** 如果部署在没有 ROCm 工具或无法访问 AMD GPU 的主机上,后端会透明地报告硬件验证不可用,同时保持所有前端翻译和 AI 审计流程完全正常运行。 * **兼容性回退:** 如果主 AI 翻译路径失败或产生幻觉,系统将回退至轻量级的启发式语法转换路径。这确保了应用程序保持响应,而不会伪造硬件验证,并将原始 LLM 输出注入审计日志以供人工工程审查。 ### ✨ 功能 * **CUDA 到 HIP 的翻译:** 自动映射内存 API、grid 启动和语法。 * **Mixture of Agents (MoA) 审计:** 针对 AMD Instinct 架构特性(例如 64 宽 wavefront)的深度分析。 * **硬件验证(Bare-metal):** 可选的实时 ROCm 编译和基准测试执行,以验证工具链。 * **成本与 ROI 计算器:** 内置模块,用于预测节省的工程工时与计算成本的对比。 * **降级回退:** 稳健的离线和本地开发处理,明确报告硬件不可用,而不是进行模拟。 ### 🛠️ 设置与安装 1. **克隆代码仓库:** git clone cd "RadeonShift AI" 2. **环境变量:** 将 `.env.example` 复制到 `.env` 并填入您的 `FIREWORKS_API_KEY`。 cp .env.example .env 3. **前端(Next.js):** npm install npm run dev 4. **后端(FastAPI - 可选):** cd backend pip install -r requirements.txt uvicorn api.main:app --host 0.0.0.0 --port 8000 ### 📸 截图 *(在此处添加您应用程序的截图,例如编辑器、遥测仪表板和 MoA 审计结果)* ![RadeonShift AI Dashboard](https://raw.githubusercontent.com/shashankh3/RadeonShift-AI/master/docs/screenshot1.png)
标签:DevSecOps, DLL 劫持, 上游代理, 人工智能, 代码迁移, 大语言模型, 异构计算, 用户模式Hook绕过, 自动化攻击, 请求拦截, 逆向工具