tensorflow-onnx 实战教程：从 Keras 模型到 ONNX 的完整流程

tensorflow-onnx 是一款强大的模型转换工具，能够将 TensorFlow、Keras、Tensorflow.js 和 Tflite 模型转换为 ONNX 格式，帮助开发者实现跨框架模型部署与优化。本教程将带您一步步完成从 Keras 模型构建到 ONNX 转换的全过程，让您轻松掌握模型转换的核心技巧。## 为什么选择 tensorflow-onnx？在深度学习模型部署过程中，

劳妍沛

952人浏览 · 2026-04-12 08:32:32

劳妍沛 · 2026-04-12 08:32:32 发布

tensorflow-onnx 实战教程：从 Keras 模型到 ONNX 的完整流程

【免费下载链接】tensorflow-onnx Convert TensorFlow, Keras, Tensorflow.js and Tflite models to ONNX 项目地址: https://gitcode.com/gh_mirrors/ten/tensorflow-onnx

tensorflow-onnx 是一款强大的模型转换工具，能够将 TensorFlow、Keras、Tensorflow.js 和 Tflite 模型转换为 ONNX 格式，帮助开发者实现跨框架模型部署与优化。本教程将带您一步步完成从 Keras 模型构建到 ONNX 转换的全过程，让您轻松掌握模型转换的核心技巧。

为什么选择 tensorflow-onnx？

在深度学习模型部署过程中，不同框架间的模型格式兼容性常常是开发者面临的一大挑战。ONNX（Open Neural Network Exchange）作为开放的模型格式标准，能够实现不同深度学习框架间的模型互操作性。tensorflow-onnx 则是连接 TensorFlow/Keras 与 ONNX 的桥梁，它具有以下优势：

简单易用：提供命令行工具和 Python API 两种转换方式，满足不同场景需求
广泛兼容：支持多种模型类型，包括 CNN、RNN、Transformer 等主流架构
性能优化：转换后的 ONNX 模型可在 ONNX Runtime 上高效运行，提升推理速度

图：深度学习模型在计算机视觉等领域的应用，如同这片海滩一样广阔无垠

准备工作：环境搭建

在开始转换之前，您需要准备好以下环境：

安装依赖包：

pip install tensorflow onnxruntime tf2onnx

获取项目代码：

git clone https://gitcode.com/gh_mirrors/ten/tensorflow-onnx
cd tensorflow-onnx

实战步骤：从 Keras 模型到 ONNX

1. 构建简单的 Keras 模型

我们以一个简单的循环神经网络模型为例，展示完整的转换流程。您可以参考项目中的 examples/end2end_tfkeras.py 文件了解更多细节。

from tensorflow import keras
from tensorflow.keras import Input, layers

# 创建模型
model = keras.Sequential()
model.add(Input((4, 4)))
model.add(layers.SimpleRNN(8))
model.add(layers.Dense(2))
print(model.summary())

2. 保存 Keras 模型

# 保存模型为 SavedModel 格式
model.export("simple_rnn")

3. 使用命令行工具转换模型

tensorflow-onnx 提供了便捷的命令行工具 tf2onnx.convert，可以直接将 SavedModel 转换为 ONNX 格式：

python -m tf2onnx.convert --saved-model simple_rnn --output simple_rnn.onnx --opset 12

参数说明：

--saved-model：指定 SavedModel 目录路径
--output：指定输出 ONNX 文件名
--opset：指定 ONNX 算子集版本

4. 验证转换结果

转换完成后，我们可以使用 ONNX Runtime 加载模型并进行推理，验证转换是否成功：

import numpy as np
from onnxruntime import InferenceSession

# 加载 ONNX 模型
session = InferenceSession("simple_rnn.onnx")

# 准备输入数据
input = np.random.randn(2, 4, 4).astype(np.float32)

# 运行推理
got = session.run(None, {'keras_tensor': input})
print(got[0])

5. 比较性能差异

转换后的 ONNX 模型通常在推理速度上有明显优势。您可以比较 TensorFlow 和 ONNX Runtime 的推理时间：

import timeit

# TensorFlow 推理时间
print('TensorFlow:', timeit.timeit('model.predict(input)', number=100, globals=globals()))

# ONNX Runtime 推理时间
print('ONNX Runtime:', timeit.timeit("session.run(None, {'keras_tensor': input})", number=100, globals=globals()))

进阶技巧：使用 Python API 进行转换

除了命令行工具，tensorflow-onnx 还提供了 Python API，可以更灵活地集成到您的工作流中。核心 API 定义在 tf2onnx/keras2onnx_api.py 文件中。

import tf2onnx

# 使用 API 转换模型
onnx_model, _ = tf2onnx.convert.from_keras(model, opset=12)

# 保存 ONNX 模型
with open("simple_rnn_api.onnx", "wb") as f:
    f.write(onnx_model.SerializeToString())