深層学習カスタムプラグインの作成
### カスタムプラグイン実装の意義
TensorRTの利用中に算子非対応や生成構造冗長化、fp16/int8精度誤差増大などの問題が発生する場合があります。こうした課題に対しては独自算子の実装が必要です。onnx-graphsurgeonによりONNXモデルの編集(ノード追加・削除・接続)を行い、Polygraphyを併用して精度検証を実施します。onnx-graphsurgeonはNVIDIAが提供するONNX編集ツ ...
7月24日 23:16 投稿