超低消費電力のエッジAI、ASICで100TOPS/Wの実現も：「画質改善＋物体検知」も可能に（2/3 ページ）

[村尾麻悠子，EE Times Japan]

Efficieraをより生かせるASIC／ASSP

　Efficiera v2では、ハードウェアの性能を、ASIC／ASSP用に最適化し、100TOPS/Wを実現できるようにする。バージョン1の27TOPS/Wから、大幅にハードの性能が向上することになる。

　LeapMindは今後、画像処理のアプリケーションをターゲットにしていく。そのためには100TOPS/Wの性能が必要になると山崎氏は説明する。「少ない計算量で大量のデータを一括して処理できるという、極小量子化技術の利点を生かして、画像処理の分野に進出する。そのためには100TOPS/Wが必要になるとの想定の下で、Efficiera v2を開発している」（同氏）

「Efficiera」で実現する処理性能と、主要アプリケーションで求められる性能［クリックで拡大］ 出所：LeapMind

　具体的には、バージョン1では、極小量子化を担うハードウェアブロックを1〜4個並列化していたのに対し、バージョン2では、バージョン1のブロックを、横に12個並列化できるように回路を設計した。「処理能力としては単純計算でも約12倍、向上する」（山崎氏）

　さらに、画像が入力される第1層と、出力される最終層をハードウェア化して実装していることも特長だ。第1層と最終層の処理はCPUで行うのが一般的だが、バージョン2では、その部分をハードウェア化したことで、CPUの負荷を下げたり、CPUが別のタスクをしても問題なく推論したりできる。これにより、システム開発の自由度も上がる。

　ディープラーニング用のネットワークとしては、ResNetをサポートする。「Skip Connection（畳み込み層をまたいで結合できる）の部分もハードウェア化して、さらにスピードを上げる処理を行っているので、CPUの占有率を調整できる」（山崎氏）

Efficieraのブロック図［クリックで拡大］ 出所：LeapMind

　山崎氏は「バージョン1も、ASIC／ASSPでも使えるように設計はされていたが、FPGAは開発期間が短いこともあり、まずはFPGAを対象にした。ただ、ASICやASSPまで拡張していきたいというのは当初からの狙いだった」と語る。「極小量子化技術の利点は高速で大量のデータを処理できることだ。ASIC／ASSPであれば、動作周波数も高くなり、並列化できるハードウェアブロック数も大きくできるので、極小量子化の能力をさらに発揮できるようになる」（同氏）

　エッジAIではGPUも使われているが、GPUは汎用性が高い一方、デバイスの単価が高く消費電力も大きいというデメリットがある。さらに、特に産業機器で重要になる長期供給保証も難しい。それを踏まえ、「安価で使いやすく、消費電力が小さいデバイス、そしてEfficieraを実装したときに適切な性能が出るデバイス、と考えると、やはりASIC／ASSPになる」（山崎氏）

エッジデバイスに使用するGPUの課題と、組み込み向けFPGA、ASICの特長［クリックで拡大］ 出所：LeapMind

　LeapMindは、バージョン3についても2023年にリリースを予定している。これについては、計算容量自体をさらに増やすか、あるいは1W当たりの計算容量を増やす、省電力の製品になるかを、今後検討していく。

Efficiera上で個別のモデル開発も可能に

　Efficiera v2のもう一つの特長が、極小量子化モデル開発環境を「NDK（Network Development Kit）」として提供することだ。TensorFlowやPyTorchのプラットフォーム上で動作する、プラグインのライブラリとして提供されるので、TensorFlow／PyTorchのインタフェースを使ってモデル開発ができる。

　山崎氏は「NDKを使えば、極小量子化の知識がなくても、モデルを構築できる。新しいデータセットを使ってチューニングもできるよう、パッケージ化している。さらに、物体検知や姿勢検知の簡単なサンプルモデルも付属しているので、それをベースに自分たちのモデルを開発することも可能になっている」と説明する。サンプルモデルをそのまま使用して、物体検知や姿勢検知のアプリケーションを試作することも、もちろん可能だ。

　NDKは、LeapMindが社内で使っていたツールが基になっている。「バージョン1は、外部で学習させることや、推論用に製品をいじることはないという想定で開発した。ただ、Efficieraのコア上でモデルを個別に開発したいというユーザーからの要望が増えてきたため、内部で使っていたツールを拡張して、学習環境を（NDKという製品として）リリースすることにした。もともと社内で使っているものの拡張版なので、使い勝手のよい成熟したツールになっている」（山崎氏）