超低消費電力のアナログAIチップ 小規模LLM動作用も開発中：electronica 2024（2/2 ページ）

Blumindは、ドイツ・ミュンヘンで開催された「electronica 2024」で、超低消費電力のキーワードスポッティング用アクセラレーターチップのテストシリコンを展示した。同社が手掛けるのは、MCUパッケージにも統合できる、アナログAI（人工知能）チップレットだ。

[Sally Ward-Foxton，EE Times]

ネットワークの重みを柔軟に更新可能

　Blumindは、アナログ乗算積算方式に1個のトランジスタを使用している。このトランジスタは重みを保存して、それを入力信号と乗算し、電荷をコンデンサーに蓄積する。独自のスキームにより、結果として生じた電荷を測定し、それに比例した出力を生成する。これがアクティベーションを表す。このスキームはプロセスや電圧、温度とは無関係だ。

　Blumindはこのアーキテクチャについて、「“完全なプログラマブル”というよりも、”コンフィギュラブル”だ」と述べる。

　Mathur氏は、「これは、ASICではなくASSPである。われわれは、テープアウト時に決定するリソースをある程度保有しているため、特定のアプリケーションセットやModel Zooをターゲットに定め、それを修正するためのツールをいくつか提供する」と述べる。

　センサーアプリケーション（時系列データ）をサポートするキーワードスポッティングチップは、オンチップで最大0.5MB（メガバイト）のパラメーターをサポートするが、Mathur氏の例によれば、これは各5層の3つの並列ネットワークか、15層の単一ネットワークとして配置できる。顧客企業は、ネットワークの重みを柔軟に更新でき、ほとんどのユースケースに対応可能だという。

Blumind初の製品となるキーワードスポッティング向けニューラルネットワークアクセラレーター「BM110」 出所：Blumind

　このようなレベルの柔軟性は、ビジョンアプリケーションで一般的に使われているCNN（畳み込みニューラルネットワーク）には適用されず、別のテープアウトが必要になる。Blumindの2つ目のチップは、カメラやライダー、超音波センサーなどからのデータでビジョンCNN向けに最適化され、最大約10MBのパラメーターでモデルの推論を行うという。このチップは開発中で、2026年に生産開始を予定している。

“小規模”LLM向けに大型チップも開発中

　Mathur氏は、「この技術は、大きなスケールアップの可能性を秘めている。われわれは、“小規模”のLLM（大規模言語モデル）のような数百メガバイトまたは1ギガバイトのパラメーター用スペースを備えた、はるかに大型のマルチダイチップの実現を計画している」と述べる。

　同氏は、「これはロードマップに追加されており、大きな関心を集めている。開発を進めているところだが、まだはっきりしていないユースケースを先取りしすぎないようにしたい。極端な効率化が必要なのか、またはそれがどこに必要なのかがまだ分からないからだ。そのようなデバイスはまだ登場していない」と述べる。

　このような大型デバイスは、マルチダイのチップレットソリューションになり得るが、アナログで、外部メモリや高速バス／クロックは使用しない可能性がある（Blumindのアーキテクチャは、非同期／イベントベース）。Mathur氏は、「より高価なインターコネクトの代わりにシンプルなワイヤボンドを使用することで、比較的安価にできる。全体としては、1000TOPS/Wを実現できる見込みだ」と説明した。

　「このようなデバイスは優れたプログラマビリティを備えることもできる。当社は、パートナーとの協業によりLLM向け圧縮技術にも取り組んでいる。Blumindのアナログ技術は、古いプロセスノードを使用するため、新しいチップを比較的安価にテープアウトしたり、アーキテクチャを簡単にタイル状に配置することなどが可能だ」（Mathur氏）

【翻訳：滝本麻貴、田中留美、編集：EE Times Japan】