画像処理速度を4倍に、モデル圧縮とFPGA実装も自動化：エッジAIの開発期間を短縮（2/2 ページ）

[村尾麻悠子，EE Times Japan]

画像処理速度が4倍に

　今回、PCASとZebraを連携させることで、AIによる画像処理速度（推論による物体検出速度）を4倍以上に高速化した。具体的には、物体検出用のディープラーニングモデル「YOLOv4」で画像処理速度（推論の性能）を評価したところ、Zebra単体では14fps（フレーム/秒）だったが、PCAS×Zebraでは68fpsまで高速化した。

「PCAS」と「Zebra」を連携した結果、画像処理速度が4倍以上に高速化した［クリックで拡大］ 出所：OKI

　さらに、同技術はAIモデルを任意のレベルで圧縮（軽量化）できるので、組み込み機器やサーバなど、用途に応じて柔軟にFPGAを選択できることも特長だ。

アプリケーションに応じて柔軟にFPGAを選択できる［クリックで拡大］ 出所：OKI

　今後は、前述したOKIアイディエスが展開するFPGA設計開発サービスにPCASを連携させ、顧客が求めるエッジAI性能に、より柔軟に対応していくことを目指す。これにより、開発期間とコストを大幅に短縮できると3社は主張する。

　Mipsologyのジャパンカントリーマネジャーを務める藤谷つぐみ氏は「AIモデルの圧縮は手戻りが非常に大きい。推論精度は、AIモデルを（デバイスなどの）実物で動作させて初めて分かるため、AIモデルを圧縮するには学習を何度もし直す必要があるからだ。数年たってもPoC（Proof of Concept）から先に進まず、プロジェクトを中止してしまうケースもある」と述べ、PCASとZebraの組み合わせが、開発期間の短縮に貢献することを示唆した。

OKIアイディエスとMipsologyが技術提携を発表したFPGA設計開発サービスにPCASも連携させる［クリックで拡大］ 出所：OKI

　記者説明会で行われたデモでは、ディスプレイに取り付けたUSBカメラで説明会会場内を撮影し、人物やペットボトル、椅子などを検出する速さを比較した。未圧縮モデルをCPUに実装した場合は、人／物体検出に時間がかかったが、PCASとZebraを組み合わせた場合は素早く検出した。なおAIモデルにはYOLOv4を使用。PCASでは、「同AIモデルが80％圧縮されている」（OKI）という。

左＝物体検出のAIモデルをPCASで自動圧縮し、Zebraを用いてFPGAに実装。今回のデモでは、Xilinx（現在はAMDの一部門）のデータセンターアクセラレーターカード「Alveo U50」に実装している／右＝デモの様子。未圧縮モデルをCPUに実装した場合と、PCASとZebraを組み合わせた場合（80％圧縮したモデルをFPGAに実装した場合）では、後者の方が圧倒的に速かった［クリックで拡大］

USBカメラの前に、高速道路の動画を映したスマートフォンをかざしたところ、スマホ画面に映るクルマも即座に検出（「car」と表示されている）した［クリックで拡大］