WasmEdge/WasmEdge
GitHub: WasmEdge/WasmEdge
轻量级高性能 WebAssembly 运行时,支持在本地设备运行大语言模型、无服务器函数和边缘微服务。
Stars: 10503 | Forks: 1007
[中文](README-zh.md) | [正體中文](README-zh-TW.md) | [日本語で読む](README-ja.md)

# [🤩 WasmEdge 是在你自己的设备上运行 LLM 最简单、最快捷的方式。 🤩](https://llamaedge.com/docs/intro)
WasmEdge 是一个轻量级、高性能且可扩展的 WebAssembly runtime。它是[最快的 Wasm VM](https://ieeexplore.ieee.org/document/9214403)。WasmEdge 是 [CNCF](https://www.cncf.io/) 托管的官方沙箱项目。[LlamaEdge](https://github.com/LlamaEdge/LlamaEdge) 是构建在 WasmEdge 之上的应用框架,用于在服务器、个人电脑和边缘设备的 GPU 上运行 GenAI 模型(例如,[LLM](https://llamaedge.com/docs/intro)、[语音转文字](https://llamaedge.com/docs/user-guide/speech-to-text/quick-start-whisper)、[文字转图片](https://llamaedge.com/docs/user-guide/text-to-image/quick-start-sd)和[TTS](https://github.com/LlamaEdge/whisper-api-server))。其他[用例](https://wasmedge.org/docs/start/usage/use-cases/)包括边缘云上的微服务、serverless SaaS API、嵌入式函数、智能合约和智能设备。
[](https://github.com/WasmEdge/WasmEdge/actions/workflows/build.yml?query=event%3Apush++branch%3Amaster)
[](https://codecov.io/gh/WasmEdge/WasmEdge)
[](https://github.com/WasmEdge/WasmEdge/actions/workflows/codeql-analysis.yml?query=event%3Apush++branch%3Amaster)
[](https://app.fossa.com/projects/git%2Bgithub.com%2FWasmEdge%2FWasmEdge?ref=badge_shield)
[](https://bestpractices.coreinfrastructure.org/projects/5059)
# 快速入门指南
🚀 [安装](https://wasmedge.org/docs/start/install) WasmEdge \
👷🏻♂️ [构建](https://wasmedge.org/docs/category/build-wasmedge-from-source) WasmEdge 并[为其做贡献](https://wasmedge.org/docs/contribute/) \
⌨️ 从 CLI 或 [Docker](https://wasmedge.org/docs/start/getting-started/quick_start_docker) [运行](https://wasmedge.org/docs/category/running-with-wasmedge)独立的 Wasm 程序或 [JavaScript 程序](https://wasmedge.org/docs/category/develop-wasm-apps-in-javascript) \
🤖 通过 [LlamaEdge](https://github.com/LlamaEdge/LlamaEdge) 与开源 LLM [聊天](https://llamaedge.com/docs/intro) \
🔌 在你的 [Go](https://wasmedge.org/docs/category/go-sdk-for-embedding-wasmedge)、[Rust](https://wasmedge.org/docs/category/rust-sdk-for-embedding-wasmedge) 或 [C](https://wasmedge.org/docs/category/c-sdk-for-embedding-wasmedge) 应用中嵌入 Wasm 函数 \
🛠 使用 [Kubernetes](https://wasmedge.org/docs/category/deploy-wasmedge-apps-in-kubernetes)、[数据流框架](https://wasmedge.org/docs/embed/use-case/yomo)和[区块链](https://medium.com/ethereum-on-steroids/running-ethereum-smart-contracts-in-a-substrate-blockchain-56fbc27fc95a)管理和编排 Wasm runtime \
📚 **[查看我们的官方文档](https://wasmedge.org/docs/)**
# 介绍
WasmEdge Runtime 为其包含的 WebAssembly 字节码程序提供了一个定义完善的执行沙箱。该 runtime 为操作系统资源(例如,文件系统、套接字、环境变量、进程)和内存空间提供了隔离和保护。WasmEdge 最重要的用例是在软件产品(例如,SaaS、软件定义汽车、边缘节点甚至区块链节点)中作为插件安全地执行用户定义或社区贡献的代码。它使第三方开发者、供应商、供应商和社区成员能够扩展和定制软件产品。**[在此了解更多](https://wasmedge.org/docs/contribute/users)**
## 性能
* [高性能 Serverless 计算的轻量级设计](https://arxiv.org/abs/2010.07115),发表于 IEEE Software,2021 年 1 月。[https://arxiv.org/abs/2010.07115](https://arxiv.org/abs/2010.07115)
* [云中 Arm 与 x86 CPU 的性能分析](https://www.infoq.com/articles/arm-vs-x86-cloud-performance/),发表于 infoQ.com,2021 年 1 月。[https://www.infoq.com/articles/arm-vs-x86-cloud-performance/](https://www.infoq.com/articles/arm-vs-x86-cloud-performance/)
## 特性
WasmEdge 可以运行从 C/C++、Rust、Swift、AssemblyScript 或 Kotlin 源代码编译的标准 WebAssembly 字节码程序。它在一个安全、快速、轻量级、可移植和容器化的沙箱中[运行 JavaScript](https://wasmedge.org/docs/category/develop-wasm-apps-in-javascript),包括第三方 ES6、CJS 和 NPM 模块。它还支持这些语言的混合使用(例如,[使用 Rust 实现 JavaScript API](https://wasmedge.org/docs/develop/javascript/rust))、[Fetch](https://wasmedge.org/docs/develop/javascript/networking#fetch-client) API 以及边缘服务器上的[服务器端渲染 (SSR)](https://wasmedge.org/docs/develop/javascript/ssr) 函数。
WasmEdge 支持[所有标准 WebAssembly 功能和许多提议的扩展](https://wasmedge.org/docs/start/wasmedge/extensions/proposals)。它还支持许多为云原生和边缘计算用途定制的扩展(例如,[WasmEdge 网络套接字](https://wasmedge.org/docs/category/socket-networking)、[基于 Postgres 和 MySQL 的数据库驱动](https://wasmedge.org/docs/category/database-drivers)以及 [WasmEdge AI 扩展](https://wasmedge.org/docs/category/ai-inference))。
**了解更多关于 WasmEdge 的[技术亮点](https://wasmedge.org/docs/start/wasmedge/features)。**
## 集成与管理
WasmEdge 及其包含的 wasm 程序可以从 [CLI](https://wasmedge.org/docs/category/running-with-wasmedge) 作为新进程启动,也可以从现有进程启动。如果从现有进程启动(例如,从正在运行的 [Go](https://wasmedge.org/docs/category/go-sdk-for-embedding-wasmedge) 或 [Rust](https://wasmedge.org/docs/category/rust-sdk-for-embedding-wasmedge) 程序),WasmEdge 将简单地作为函数在进程内运行。目前,WasmEdge 尚不具备线程安全性。为了在你自己的应用程序或云原生框架中使用 WasmEdge,请参考以下指南。
* [将 WasmEdge 嵌入到主机应用程序](https://wasmedge.org/docs/embed/overview)
* [使用容器工具编排和管理 WasmEdge 实例](https://wasmedge.org/docs/category/deploy-wasmedge-apps-in-kubernetes)
* [将 WasmEdge 应用作为 Dapr 微服务运行](https://wasmedge.org/docs/develop/rust/dapr)
## 路线图
查看我们的[项目路线图](https://github.com/WasmEdge/WasmEdge/blob/master/docs/ROADMAP.md)以了解 WasmEdge 即将推出的功能和计划。
## 联系方式
如果你有任何问题,请随时在相关项目上提交 GitHub issue 或加入以下频道:
* 邮件列表:发送电子邮件至 [WasmEdge@googlegroups.com](https://groups.google.com/g/wasmedge/)
* Discord:加入 [WasmEdge Discord 服务器](https://discord.gg/h4KDyB8XTt)!
* Slack:加入 [CNCF Slack](https://slack.cncf.io/) 上的 #WasmEdge 频道
* X (前身是 Twitter):在 [X](https://x.com/realwasmedge) 上关注 @realwasmedge
## 使用者
查看正在其项目中使用 WasmEdge 的[使用者列表](https://wasmedge.org/docs/contribute/users/)。
## 社区会议
我们每月举办一次社区会议,展示新功能、演示新用例以及问答环节。欢迎大家参加!
时间:每月第一个星期二晚上 11 点(香港时间)/ 上午 7 点(太平洋标准时间)。
[公开会议议程/笔记](https://docs.google.com/document/d/1iFlVl7R97Lze4RDykzElJGDjjWYDlkI8Rhf8g4dQ5Rk/edit#) | [Zoom 链接](https://us06web.zoom.us/j/82221747919?pwd=3MORhaxDk15rACk7mNDvyz9KtaEbWy.1)
# 许可证
[](https://app.fossa.com/projects/git%2Bgithub.com%2FWasmEdge%2FWasmEdge?ref=badge_large)标签:AI工具, C++, CNCF, DLL 劫持, Docker, GenAI, IoT, LangChain, LlamaEdge, LLM, NIDS, Rust, Serverless, Unmanaged PE, Vectored Exception Handling, WASI, Wasm, WebAssembly, web渗透, 人工智能, 区块链, 去中心化应用, 可视化界面, 图像生成, 大语言模型, 子域名突变, 安全防御评估, 容器化, 嵌入式系统, 数据可视化, 数据擦除, 文本转语音, 日志审计, 智能合约, 本地推理, 沙箱项目, 物联网, 生成式AI安全, 用户模式Hook绕过, 网络流量审计, 虚拟机, 语音识别, 请求拦截, 轻量级, 边缘AI, 边缘计算, 运行时