画像
RZ/V2H Quad-core Vision AI MPU Evaluation Kit
RZ/V2H AI MPU評価キット（RTK0EF0168C04000BJ）は、RZ/V2HクアッドコアVision AI MPUの評価に最適な評価ボードキットです。CPUボードとEXPボードで構成されています。本評価キットはRZ/V2Hの標準ソフトウェアパッケージに対応しており、低消費電力AI推論，Video...
概要
説明
RZ/V2HのDRP-AIには枝刈りされたAIモデルを効率的に演算する機能があります。DRP-AI Extension PackはDRP-AIに最適化されたAIモデルの枝刈りを実現するツールです。
本製品をPyTorchまたはTensorFlowで書かれた学習コードと組み合わせることで、DRP-AIに最適化された枝刈り機能を使用できます。
枝刈りとは？
ニューラルネットワーク内のノードは下図のように相互に接続されています。ノード間の重みを削除したりノードを削除したりしてパラメータの数を減らす方法は「枝刈り」と呼ばれます。枝刈りが適用されていないニューラルネットワークは、一般にDenseニューラルネットワークと呼ばれます。また、枝刈りが適用されたニューラルネットワークは、一般にSparseニューラルネットワークと呼ばれます。枝刈りを適用するとモデルの精度がわずかに低下しますが、ハードウェアに必要な電力を削減し、推論プロセスを高速化できます。
枝刈りモデルの組み込み方法
枝刈り後のモデルはDRP-AI TVMを使用して組み込むことができます。
以下のURLからDRP-AI TVMのTVMの詳細をご確認ください。
https://github.com/renesas-rz/rzv_drp-ai_tvm
なお、以下の図に示す通り枝刈りはオプション機能です。(Denseモデルも組み込み可能です。)
画像
特長
- RZ/V2H向けに最適化された枝刈り機能
- 認識精度と電力効率のバランスを取るため枝刈り率の指定が可能
- 認識精度向上のため2つの枝刈りモードをサポート(One Shot/Gradual)
リリース情報
DRP-AI Extension Pack Version 1.1.0を公開しました。(2024年10月)
- Transformer対応として、Multi-Head Attentionの構造を持つPyTorchのモデルをサポートしました。