YOLOv3を20mWで実行するエッジAIチップ「Ergo」：米新興企業が開発（2/2 ページ）

[Sally Ward-Foxton，EE Times]

複数のニューラルネットワークを同時に実行

　同氏はXperiの理事会に対し、「新興企業をスピンアウトすることにより、電力バジェット20mWでエッジデバイス上で重要な推論を実現する半導体チップを開発する」とするアイデアを提案した。その結果として開発されたErgoは、外形寸法が7×7mmで、外付けRAMなしで4TOPSの性能を達成する（Teig氏によると、実際に4TOPSの性能があるとうたっているGPUと同程度の動作を実現するという）。Ergoは、CNN（Convolutional Neural Network）やRNN（Recurrent Neural Network）などをはじめ、ニューラルネットワークのさまざまなスタイルをサポートする。市場の多くのソリューションがCNNに合わせているのとは対照的だ。またErgoは、複数のヘテロジニアスネットワークを同時に実行することもできる。

　Teig氏は、「実行できるネットワークの数を制限するのは、メモリの容量だけだ」と説明している。Perceiveによれば、YOLOv3やM2Det（パラメータ数は6000万〜7000万）、ResNet 28（パラメータ数は数百万）の他、LSTM（Long Short Term Memory）／RNNを同時に実行し、対話や音声処理を行うことを実証しているという。実際のアプリケーションでは、これは画像処理と音声の推論を同時に行える、ということに相当するだろう。

Ergoは、55TOPS/Wの電力効率を達成したとする 画像：Perceive

　Ergoチップが達成したとする55TOPS/Wの電力効率は、いくつかの競合他社が主張しているものよりも、1桁上の数値になる。Perceiveの主張によれば、6400万パラメータのYOKOv3を30fpsで実行し、消費電力がわずか20mWであるということになる。この高い電力効率は、ニューラルネットワーク処理の決定論的な性質を利用した、パワーゲーティング／クロックゲーティング技術によって実現されていると、Perceiveは説明する。

　「バッテリー駆動の設定では、（Ergoチップは）文字通りオフ、つまりゼロミリワットで、マイクロワットレベルのモーションセンサーやアナログマイクで、任意のものを検知する。起動させたら、巨大なニューラルネットワークをロードし、復号も含めて約50ミリ秒以内に実行できる」（Teig氏）

【翻訳：田中留美、編集：EE Times Japan】

原文へのリンク