MOGI KazuhiroinaxincKeras から変換したONNXモデルに含まれる Transpose の除去keras2onnx は ONNX モデルを出力する際、保守的に Transpose を挿入して channel first / channel last の変換を行います。本記事ではTransposeの除去を行う最適化手法を紹介します。Jul 13, 2020Jul 13, 2020
MOGI KazuhiroinaxincONNX 公式オプティマイザの限界と自力最適化前回記述したように ONNX 公式のオプティマイザを使うことで ONNX 形式モデルの推論向け最適化を行うことが可能なのですが、残念なことに ONNX 公式オプティマイザは万能ではありません。Apr 14, 2020Apr 14, 2020
MOGI KazuhiroinaxincONNX 公式オプティマイザの活用ONNX 形式のモデルファイルは推論処理の観点からすると不要なオペレーションが含まれていることがあります。 この記事ではそうしたONNX形式モデルを推論処理向けに最適化するONNXの公式オプティマイザの紹介を行います。Apr 3, 2020Apr 3, 2020