OrtBackend + CUDA 12.X (onnxruntime >1.17) 无法兼容fastdeploy1.1.0

[jjqcat]

fastdeploy1.1.0 在 windows 适配50显卡，整理到博客了。支持Onnxruntime后端的Openvino/cuda推理，TensorRT推理。
https://www.cnblogs.com/PiaoLingJiLu/articles/18980975

注意我的TRT 是其它程序预先生成的。 所以我把自带的TRT创建（BUILD）跳过去，提高初始执行速度（4s-》0.3s) 。尚未验证过自动fastdeploy自动创建trt.

Originally posted by @wujingxin521 in #2626

[Jiang-Jia-Jun]

FD+ORT在1.1.0分支里面确实没有更新，应该是ORT的接口有发生变化。 如果有意愿一起来升级，我可以帮忙评审和推动合入

[wujingxin521]

我想起来了。 我是将Ort\ops的自定义算子直接屏蔽掉，然后测试YOLOV8等导出的onnx模型能正常运行。就没管它。

[jjqcat]

我尝试了下Patchcore导出的分割模型，python脚本推理用的onnxruntime1.18-GPU，推理速度比fastdeploy1.1.0(onnxruntime1.18-GPU)速度还快，这个可能是什么原因?

[ChaoII]

我尝试了下Patchcore导出的分割模型，python脚本推理用的onnxruntime1.18-GPU，推理速度比fastdeploy1.1.0(onnxruntime1.18-GPU)速度还快，这个可能是什么原因?

你可以把你的测试方法，和测试结果发上来让大佬给你分析啊，你也不说快多少是每次都快还是偶尔快。