microsoft/onnxruntime

GitHub: microsoft/onnxruntime

ONNX Runtime 是微软开源的跨平台高性能机器学习推理与训练加速器,支持多种框架模型统一部署与硬件加速。

Stars: 19442 | Forks: 3741

**ONNX Runtime 是一个跨平台的推理和训练机器学习加速器**。 **ONNX Runtime 推理** 能够实现更快的客户体验并降低成本,支持来自深度学习框架(如 PyTorch 和 TensorFlow/Keras)以及经典机器学习库(如 scikit-learn、LightGBM、XGBoost 等)的模型。ONNX Runtime 兼容不同的硬件、驱动程序和操作系统,并通过利用硬件加速器(在适用的情况下)以及图优化和变换来提供最佳性能。[了解更多 →](https://www.onnxruntime.ai/docs/#onnx-runtime-for-inferencing) **ONNX Runtime 训练** 可以通过在现有的 PyTorch 训练脚本中添加一行代码,加速多节点 NVIDIA GPU 上 transformer 模型的训练时间。[了解更多 →](https://www.onnxruntime.ai/docs/#onnx-runtime-for-training) ## 入门指南与资源 * **基本信息**: [onnxruntime.ai](https://onnxruntime.ai) * **使用文档和教程**: [onnxruntime.ai/docs](https://onnxruntime.ai/docs) * **YouTube 视频教程**: [youtube.com/@ONNXRuntime](https://www.youtube.com/@ONNXRuntime) * [**即将发布的路线图**](https://onnxruntime.ai/roadmap) * **配套示例代码库**: - ONNX Runtime 推理: [microsoft/onnxruntime-inference-examples](https://github.com/microsoft/onnxruntime-inference-examples) - ONNX Runtime 训练: [microsoft/onnxruntime-training-examples](https://github.com/microsoft/onnxruntime-training-examples) ## 版本发布 当前版本和过去的版本可以在这里找到:https://github.com/microsoft/onnxruntime/releases。 有关即将发布的版本的详细信息,包括发布日期、公告、功能以及提交功能请求的指南,请访问发布路线图:https://onnxruntime.ai/roadmap。 ## 数据/遥测 此项目的 Windows 发行版可能会收集使用数据并将其发送给 Microsoft,以帮助改进我们的产品和服务。有关更多详细信息,请参阅[隐私声明](docs/Privacy.md)。 ## 贡献与反馈 我们欢迎贡献!请参阅[贡献指南](CONTRIBUTING.md)。 如需功能请求或错误报告,请提交 [GitHub Issue](https://github.com/Microsoft/onnxruntime/issues)。 如需一般性讨论或提问,请使用 [GitHub Discussions](https://github.com/microsoft/onnxruntime/discussions)。 ## 行为准则 本项目已采用 [Microsoft 开源行为准则](https://opensource.microsoft.com/codeofconduct/)。 有关更多信息,请参阅[行为准则常见问题解答](https://opensource.microsoft.com/codeofconduct/faq/) 或通过 [opencode@microsoft.com](mailto:opencode@microsoft.com) 联系我们,提出任何其他问题或意见。 ## 许可证 本项目采用 [MIT 许可证](LICENSE) 授权。
标签:Apex, CNCF毕业项目, Microsoft, ONNX, PyTorch, TensorFlow, Transformer, Vectored Exception Handling, 云安全, 人工智能, 凭据扫描, 图像识别, 开源库, 推理加速, 搜索引擎爬虫, 机器学习, 模型优化, 模型训练, 模型部署, 深度学习, 用户模式Hook绕过, 算子加速, 边缘计算, 逆向工具, 高性能计算