标签 onnx 下的文章

安装

pip3 install onnxruntime --user 会报错找不到对应的版本。 python3 -m pip install --upgrade pip 更新 pip,结果报错 Permission denied: '/usr/bin/pip'。 python3 -m pip install --upgrade pip --user 成功更新 pip。 pip3 install onnxruntime --user 安装 onnxruntime.

使用

python3 import onnxruntime 报错 Illegal instruction (core dumped)。 gdb python3 r import onnxruntime 报错

Program received signal SIGILL, Illegal instruction.
0x0000007fa8ca5f54 in gotoblas_dynamic_init ()
   from /home/openailab/.local/lib/python3.6/site-packages/numpy/core/../../numpy.libs/libopenblasp-r0-32ff4d91.3.13.so

解决方法, export OPENBLAS_CORETYPE=ARMV8 然后再使用 python3 就可以了。问题就是 openblasp 在 cpu 检测的地方除了问题,所以明确告诉它 cpu 类型就可以了。

参考:

https://github.com/opencv/opencv-python/issues/485
https://github.com/numpy/numpy/issues/18131

1. .SessionOptions 生成一个配置, 打印 log 的多少:0:Verbose, 1:Info, 2:Warning. 3:Error, 4:Fatal. Default is 2.

sess_config = ort.SessionOptions()
sess_config.log_severity_level = 3

2. .InferenceSession(path_or_bytes, sess_options=None, providers=None, provider_options=None) 加载模型

self.sess = ort.InferenceSession(onnx_file, sess_options=sess_config)

3. sess.run(["Y"], {"X": ortvalue}) 第二个参数里面的 ortvalue 就是图像数据。

参考: https://www.onnxruntime.ai/python/api_summary