nGraph已迁移至OpenVINO：一文读懂这个AI编译器的前世今生

【免费下载链接】ngraph nGraph has moved to OpenVINO 项目地址: https://gitcode.com/gh_mirrors/ngr/ngraph

nGraph作为一款强大的AI编译器，曾在深度学习领域发挥重要作用，如今已正式迁移至OpenVINO。这一转变不仅是技术的整合，更是为开发者提供了更全面、高效的深度学习部署解决方案。让我们一起深入了解nGraph的发展历程、核心功能以及迁移至OpenVINO后的新机遇。

nGraph的“前世”：AI编译领域的创新者

nGraph诞生之初，旨在解决深度学习框架与硬件之间的适配难题。它通过构建统一的中间表示（IR），实现了不同深度学习框架（如TensorFlow、MXNet、ONNX等）与各种硬件平台的高效对接。

从架构图中可以清晰看到，nGraph的核心在于其灵活的转换和优化能力。它能够将不同框架的计算图转换为nGraph IR，然后通过Hybrid Transformer进行图分区和优化，最终生成针对特定硬件的执行代码。这种设计使得深度学习模型能够在不同的硬件平台上高效运行，大大提高了模型部署的灵活性和性能。

nGraph的复杂架构进一步展示了其强大的兼容性和扩展性。它支持多种深度学习框架和硬件加速器，通过不同的Transformer和Kernel库，为各种应用场景提供了优化的解决方案。

nGraph的核心功能：连接框架与硬件的桥梁

nGraph的核心功能主要体现在以下几个方面：

多框架支持

nGraph提供了与主流深度学习框架的桥接能力，如TensorFlow Bridge、MXNet Bridge、ONNX importer等。这意味着开发者可以使用自己熟悉的框架构建模型，然后通过nGraph进行优化和部署。

图优化与分区

nGraph的Hybrid Transformer能够智能地对计算图进行分区和优化，将不同的子图分配到最适合的硬件上执行。这种异构执行能力充分发挥了各种硬件的优势，提高了整体性能。

硬件适配

nGraph支持多种硬件平台，包括CPU、GPU、FPGA等。通过不同的Transformer和Kernel库，如IA Transformer、NNP Transformer、MKL DNN等，实现了对各种硬件的高效利用。

上图展示了深度学习栈的各个组件，nGraph作为图优化器/编译器，在连接前端API、内核库和硬件方面发挥着关键作用。

迁移至OpenVINO：开启新的篇章

随着技术的发展，nGraph已正式迁移至OpenVINO。OpenVINO是英特尔推出的一套全面的深度学习部署工具套件，它整合了nGraph的编译能力，并提供了更多的功能和优化。

迁移至OpenVINO后，开发者可以享受到以下优势：

更全面的工具链

OpenVINO提供了从模型优化、推理部署到性能调优的完整工具链，简化了深度学习模型的部署流程。

更好的性能优化

OpenVINO针对英特尔硬件进行了深度优化，能够充分发挥英特尔CPU、GPU等硬件的性能潜力，提高模型的推理速度。

更广泛的应用场景

OpenVINO支持多种应用场景，如计算机视觉、自然语言处理等，为开发者提供了更多的可能性。

如何开始使用迁移后的nGraph（OpenVINO）

如果你想开始使用迁移至OpenVINO的nGraph，可以按照以下步骤进行：

1. 克隆仓库：git clone https://gitcode.com/gh_mirrors/ngr/ngraph
2. 参考官方文档了解详细的安装和使用方法。

通过以上步骤，你可以快速上手使用nGraph（OpenVINO），体验其强大的深度学习部署能力。

nGraph的迁移是AI编译领域的一个重要里程碑，它将为深度学习的发展带来新的动力。相信在OpenVINO的加持下，nGraph将继续发挥其在AI编译方面的优势，为开发者提供更好的服务和支持。

【免费下载链接】ngraph nGraph has moved to OpenVINO 项目地址: https://gitcode.com/gh_mirrors/ngr/ngraph