前言

Whisper部署：Whisper本地部署教程

参考博客： 导出 Whisper 模型到 ONNX

此前我们已完成 Whisper 模型的基础部署，而出于工程化落地的硬性要求，需将该模型转换为ONNX 格式进行部署，现将详细阐述 Whisper 模型转 ONNX 的实现流程。

依赖安装

在之前Whisper部署的虚拟环境的基础上需要另外安装以下依赖

pip install openai-whisper onnxruntime onnx

pip install kaldi-native-fbank                                                                                  

项目代码

方法一：直接下载压缩包进行解压

地址：https://github.com/k2-fsa/sherpa-onnx

方法二：git clone

git clone https://github.com/k2-fsa/sherpa-onnx/

ONNX导出

cd sherpa-onnx/scripts/whisper

python ./export-onnx.py --model tiny

运行命令后将生成以下文件：

ONNX测试

python test.py --encoder tiny-encoder.onnx --decoder tiny-decoder.onnx --tokens tiny-tokens.txt --language ko D:\A-Study\PythonFiles\LargeModel\Whisper\recorded_audio.wav

--encoder：encoder onnx模型

--decoder：dncoder onnx模型

--tokens：token映射表

--language：指定语言

最后是需要转写的音频文件

输出结果