マイコンで深層学習も、エッジコンピューティングの未来：開発が進む「TinyML」（1/2 ページ）

[Markus Levy（NXP），EE Times]

　機械学習（ML）、さらには深層学習（DL）は、ほんの数年前までハイエンドのハードウェアでしか実行できず、エッジでのトレーニングや推論はゲートウェイ、エッジサーバ、またはデータセンターで実行されると考えられていた。当時、クラウドとエッジの間で計算リソースを分配するという動きが初期段階にあったため、このような考え方は正しいとされていた。しかし、産学の集中的な研究開発によって、このシナリオは劇的に変化した。

画像はイメージです

　いまやMLを実行するのに優れたTOPS性能を実現可能なプロセッサは必要ない。最新のマイコンの中にはMLアクセラレーターを組み込んだものもあり、エッジデバイスでMLを実行できるケースが増えている。

　これらのデバイスは、単にMLを実行するのではなく、低コストと低消費電力を実現し、どうしても必要な場合にのみクラウドに接続することが可能だ。つまり、MLアクセラレーター搭載のマイコンは、次のステップとして、「マイクやカメラの他、環境状況を監視するデバイスなどのセンサーにコンピューティングをもたらし、IoT（モノのインターネット）のあらゆるメリットを実現するデータ生成を実現する」ということを示している。

『エッジ』の位置

　エッジは、IoTネットワークの中で最端に存在すると広く考えられているが、一般的には高性能なゲートウェイまたはエッジサーバとして扱われている。しかし、実際には『エッジ』はさらに進み、ユーザーの近くにあるセンサーまで行きつく。このため、できるだけユーザーの近くに可能な限り多くの分析力を配置することが合理的であると考えられるようになった。これはマイコンが適するタスクだ。

MobileNet V1モデルの例。幅乗数を変化させた場合、パラメーター数、計算数、精度に大きな影響与える。だが、幅乗数を1.0から0.75に変更しただけの場合、パラメーター数と計算数には大きな影響がでるが、TOP-1の精度への影響は最小限に抑えられている　出典：NXP

　またシングルボードコンピュータも、非常に優れた性能を備える上、クラスタで使用すれば小規模なスーパーコンピュータにも匹敵するため、エッジ処理向けに使用することができるだろう。しかし、大規模アプリケーション向けとしては数百〜数千台が必要になるため、寸法が大き過ぎるうえ、コストもかかり過ぎる。また、外部のDC電源が必要となることから利用不可能となる場合もある。一方でマイコンは、消費電力がわずか数ミリワットであり、コイン電池やいくらかの太陽電池でも駆動可能だ。

　このため、エッジ上でMLを実行することが可能なマイコンへの関心が高まり、開発分野としての注目を集めているのも驚くことではないだろう。この分野は、「TinyML」と名付けられてもいる。TinyMLの目標は、推論、そして最終的にはトレーニングを、大規模なプラットフォームやクラウドではなく、リソースに制約がある小規模な低消費電力デバイス、特にマイコン上で実行できるようにすることだ。このためには、機能性や精度を大幅に低減させることなく、ニューラルネットワークモデルの規模を縮小することで、これらのデバイスの比較的少ない処理やストレージ、帯域リソースなどに対応していく必要がある。

　このようなリソース最適化方法によって精度を微調整してリソース要件を低減しながら、デバイスは十分な量のセンサーデータを取り込んで目的に対応することが可能になる。このため、データをクラウドに送信（または、最初にエッジゲートウェイに送信してからクラウドに送信）することになったとしても、既に膨大な分析が実行されているため、そのデータ量はかなり少なくなるだろう。

　実行されているTinyMLの一般的な例としては、カメラベースの物体検知システムが挙げられる。通常のシステムでは高解像度の画像をキャプチャーすることはできるものの、ストレージに限りがあるため、画像解像度を下げる必要がある。しかし、カメラにオンデバイス分析機能が搭載されている場合は、景色全体ではなく、関心のある対象物だけをキャプチャーすることができるため、関連画像が少なくなり、高い解像度を維持することが可能だ。このような機能は通常、より大規模かつ強力なデバイスに搭載されるが、TinyML技術によってこれをマイコン上で実現することができる。