google-ai-edge/gallery
GitHub: google-ai-edge/gallery
Google AI Edge Gallery是一个移动端应用，让用户可以在Android和iOS设备上本地运行和体验各种开源大语言模型，实现完全离线的生成式AI交互。
Stars: 17458 | Forks: 1612
# Google AI Edge Gallery
[](LICENSE)
[](https://github.com/google-ai-edge/gallery/releases)
**通过 Google AI Edge 探索、体验和评估设备端生成式 AI 的未来。**
AI Edge Gallery 是您在移动设备上运行全球最强大的开源大型语言模型（LLM）的首选之地。直接在您的硬件上体验高性能生成式 AI——完全离线、隐私保护、闪电般快速。
**现在支持：Gemma 4**
最新版本带来了新发布的 Gemma 4 系列的官方支持。作为本发布会的核心，Gemma 4 让您能够测试设备端 AI 的前沿技术。体验高级推理、逻辑和创意能力，同时确保数据永远不会被发送到服务器。
| **立即从 Google Play 安装应用** | **立即从 App Store 安装应用** |
| :--- | :--- |
| 
| 
|
对于无法访问 Google Play 的用户，请从[**最新发布版**](https://github.com/google-ai-edge/gallery/releases/latest/)安装 APK。
## 应用预览
## ✨ 核心功能
* **智能体技能**：将您的 LLM 从对话者转变为主动助手。使用智能体技能卡片，通过维基百科事实检索、交互式地图和丰富的视觉摘要卡片等工具来增强模型能力。您甚至可以从 URL 加载模块化技能，或在 GitHub Discussions 上浏览社区贡献。
* **AI 对话与思考模式**：进行流畅的多轮对话，并切换新的思考模式来"深入了解"模型内部。这个功能让您可以看到模型的逐步推理过程，非常适合理解复杂的问题解决。注意：思考模式目前支持部分模型，从 Gemma 4 系列开始。
* **图片问答**：利用多模态能力，使用设备的摄像头或照片库来识别物体、解决视觉难题或获取详细描述。
* **音频转录**：使用高效的设备端语言模型实时将语音录音转录和翻译成文本。
* **提示词实验室**：一个专用工作区，用于测试不同的提示词和单轮使用场景，并可精细控制模型参数，如温度和 top-k。
* **移动操作**：解锁完全由 FuntionGemma 270m 微调版本驱动的离线设备控制和自动化任务。
* **迷你花园**：一个有趣且实验性的小游戏，使用自然语言种植和收获虚拟花园，同样基于 FunctionGemma 270m 微调版本。
* **模型管理与基准测试**：Gallery 是各种开源模型的灵活沙盒。轻松从列表中下载模型或加载您自己的自定义模型。轻松管理您的模型库，并运行基准测试以准确了解每个模型在您特定硬件上的表现。
* **100% 设备端隐私**：所有模型推理直接在您的设备硬件上发生。无需互联网，确保您的提示词、图片和敏感数据的完全隐私。
## 🏁 分钟级快速入门！
1. **检查系统要求**：Android 12 及以上，iOS 17 及以上。
2. **下载应用：**
- 从 [Google Play](https://play.google.com/store/apps/details?id=com.google.ai.edge.gallery) 或 [App Store](https://apps.apple.com/us/app/google-ai-edge-gallery/id6749645337) 安装应用。
- 对于无法访问 Google Play 的用户：从[**最新发布版**](https://github.com/google-ai-edge/gallery/releases/latest/)安装 APK
3. **安装并探索：** 有关详细安装说明（包括企业设备）和完整的用户指南，请访问我们的[**项目 Wiki**](https://github.com/google-ai-edge/gallery/wiki)！
## 🛠️ 技术亮点
* **Google AI Edge：** 设备端机器学习的核心 API 和工具。
* **LiteRT：** 优化模型执行的轻量级运行时。
* **Hugging Face 集成：** 用于模型发现和下载。
## ⌨️ 开发
查看[开发说明](DEVELOPMENT.md)以获取有关如何在本地构建应用的说明。
## 🤝 反馈
这是一个**实验性 Beta 版本**，您的反馈至关重要！
* 🐞 **发现 bug？**[在此报告！](https://github.com/google-ai-edge/gallery/issues/new?assignees=&labels=bug&template=bug_report.md&title=%5BBUG%5D)
* 💡 **有想法？**[提出功能建议！](https://github.com/google-ai-edge/gallery/issues/new?assignees=&labels=enhancement&template=feature_request.md&title=%5BFEATURE%5D)
## 📄 许可证
根据 Apache License 2.0 授权。详见 [LICENSE](LICENSE) 文件。
## 🔗 实用链接
* [**项目 Wiki（详细指南）**](https://github.com/google-ai-edge/gallery/wiki)
* [Hugging Face LiteRT 社区](https://huggingface.co/litert-community)
* [LiteRT-LM](https://github.com/google-ai-edge/LiteRT-LM)
* [Google AI Edge 文档](https://ai.google.dev/edge)
|
## ✨ 核心功能
* **智能体技能**：将您的 LLM 从对话者转变为主动助手。使用智能体技能卡片，通过维基百科事实检索、交互式地图和丰富的视觉摘要卡片等工具来增强模型能力。您甚至可以从 URL 加载模块化技能，或在 GitHub Discussions 上浏览社区贡献。
* **AI 对话与思考模式**：进行流畅的多轮对话，并切换新的思考模式来"深入了解"模型内部。这个功能让您可以看到模型的逐步推理过程，非常适合理解复杂的问题解决。注意：思考模式目前支持部分模型，从 Gemma 4 系列开始。
* **图片问答**：利用多模态能力，使用设备的摄像头或照片库来识别物体、解决视觉难题或获取详细描述。
* **音频转录**：使用高效的设备端语言模型实时将语音录音转录和翻译成文本。
* **提示词实验室**：一个专用工作区，用于测试不同的提示词和单轮使用场景，并可精细控制模型参数，如温度和 top-k。
* **移动操作**：解锁完全由 FuntionGemma 270m 微调版本驱动的离线设备控制和自动化任务。
* **迷你花园**：一个有趣且实验性的小游戏，使用自然语言种植和收获虚拟花园，同样基于 FunctionGemma 270m 微调版本。
* **模型管理与基准测试**：Gallery 是各种开源模型的灵活沙盒。轻松从列表中下载模型或加载您自己的自定义模型。轻松管理您的模型库，并运行基准测试以准确了解每个模型在您特定硬件上的表现。
* **100% 设备端隐私**：所有模型推理直接在您的设备硬件上发生。无需互联网，确保您的提示词、图片和敏感数据的完全隐私。
## 🏁 分钟级快速入门！
1. **检查系统要求**：Android 12 及以上，iOS 17 及以上。
2. **下载应用：**
- 从 [Google Play](https://play.google.com/store/apps/details?id=com.google.ai.edge.gallery) 或 [App Store](https://apps.apple.com/us/app/google-ai-edge-gallery/id6749645337) 安装应用。
- 对于无法访问 Google Play 的用户：从[**最新发布版**](https://github.com/google-ai-edge/gallery/releases/latest/)安装 APK
3. **安装并探索：** 有关详细安装说明（包括企业设备）和完整的用户指南，请访问我们的[**项目 Wiki**](https://github.com/google-ai-edge/gallery/wiki)！
## 🛠️ 技术亮点
* **Google AI Edge：** 设备端机器学习的核心 API 和工具。
* **LiteRT：** 优化模型执行的轻量级运行时。
* **Hugging Face 集成：** 用于模型发现和下载。
## ⌨️ 开发
查看[开发说明](DEVELOPMENT.md)以获取有关如何在本地构建应用的说明。
## 🤝 反馈
这是一个**实验性 Beta 版本**，您的反馈至关重要！
* 🐞 **发现 bug？**[在此报告！](https://github.com/google-ai-edge/gallery/issues/new?assignees=&labels=bug&template=bug_report.md&title=%5BBUG%5D)
* 💡 **有想法？**[提出功能建议！](https://github.com/google-ai-edge/gallery/issues/new?assignees=&labels=enhancement&template=feature_request.md&title=%5BFEATURE%5D)
## 📄 许可证
根据 Apache License 2.0 授权。详见 [LICENSE](LICENSE) 文件。
## 🔗 实用链接
* [**项目 Wiki（详细指南）**](https://github.com/google-ai-edge/gallery/wiki)
* [Hugging Face LiteRT 社区](https://huggingface.co/litert-community)
* [LiteRT-LM](https://github.com/google-ai-edge/LiteRT-LM)
* [Google AI Edge 文档](https://ai.google.dev/edge)标签：Android, APK, DLL 劫持, DSL, Gemma, Gemma 4, GenAI, Google AI Edge, IaC 扫描, iOS, LLM, On-Device ML, Unmanaged PE, 大语言模型, 开源模型, 本地运行, 生成式AI, 离线AI, 移动AI, 移动应用, 索引, 网络安全, 设备端推理, 设备端机器学习, 边缘计算, 隐私保护