エッジAI新興Deep Vision、22年に第2世代チップを計画：3500万米ドルを調達

[Sally Ward-Foxton，EE Times]

LSTMやRNNに対応するエッジAI用チップ

　米国のエッジAI（人工知能）チップのスタートアップ企業であるDeep Visionは、Tiger Globalが主導するシリーズBの投資ラウンドで3500万米ドルを調達した。同投資ラウンドには、既存の投資家であるExfinity Venture PartnersとSilicon Motion、Western Digitalが参加している。

Deep VisionのCEO（最高経営責任者）を務めるRavi Annavajjhala氏 出所：Deep Vision

　Deep Visionは2020年に、第1世代のチップ「ARA-1」の出荷を開始した。ARA-1は、スマートリテールやスマートシティー、ロボティクスなどのアプリケーションにおける、電力効率に優れた低レイテンシのエッジAI処理向けに設計されている。Deep Visionという社名から畳み込みニューラルネットワークに焦点を当てていることが分かるが、ARA-1は、長短期記憶（LSTM）やリカレントニューラルネットワーク（RNN）などの複雑なネットワークに対応しており、自然言語処理を高速化することも可能である。

　LSTMやRNNを高速化する機能を追加した第2世代のチップ「ARA-2」は、2022年の発売を予定している。

　Deep VisionのCEO（最高経営責任者）を務めるRavi Annavajjhala氏は、米国EE Timesに対し、「2020年にARA-1のサンプル出荷を開始したとき、顧客に適合した素晴らしい製品市場を確実なものにしたいと考えた。当社は複数の顧客を抱えており、その中の1社は“FAANG”の顧客である大企業で、この企業に大量に出荷している。これは当社の製品の品質が評価されたということであり、この製品は現在、量産体制に入っている。当社がやろうとしているのは、この事例をさらにさまざまなセグメントや顧客に広げることだ」と語った。

　なお、「FAANG」は、Facebook、Apple、Amazon、Netflix、Googleのハイパースケーラーを指す。

ターゲット市場はスマートリテール

　Annavajjhala氏は、「当社の最重要ターゲットアプリケーションはスマートリテールだ。当社は、この分野でも“非常に大きな顧客”を有し、その他の複数の契約も結んでいる」と述べている。ただし、具体的な顧客名や、その顧客がFAANG企業であるかどうかについては明らかにしなかった。

　Deep Visionのチップのスマートリテール向けアプリケーションには、シェルフカメラやデジタルサイネージを含む、チェックアウト分析や在庫管理などがある。シェルフカメラには極端に低いレイテンシ―は不要だが、Annavajjhala氏によると、かなり複雑なAIモデルで製品を追跡するために数百万枚の画像が必要になるという。そのため、処理の必要性は比較的高くなる。

　同氏は、「シェルフカメラは、単に空の棚を検出するだけでなく、多くの場合たくさんのフィルターを使用して、同モデルを他の多くのモデルと組み合わせている。コンピューティング自体に課題があるが、コストが非常に高くなるためクラウドに移行することはできない。必要となるネットワークの帯域幅とPoE（Power over Ethernet）スイッチも非常に高額になっている。そのため、総所有コストを削減することが店舗にとって最優先となり、そのためには、可能な限りエッジで推論を行う必要がある」と述べている。

　その他のアプリケーションには、スマートシティー（高解像度で高フレームレートの監視カメラ）やドライバー監視システム、ロボティクス、ドローン、ファクトリーオートメーションなどがある。

データを移動に最小限に抑える

　ResNet-50におけるARA-1の画像処理性能は1秒あたり100枚で、1Wあたりでは40枚だという。ARA-1チップは現在、USBモジュールとM.2モジュール、U.2 PCIeモジュール（1枚のカードに2または4チップを搭載）で出荷しており、800MHzバージョンと電力の影響を受けやすいエッジアプリケーション向けの600MHzバージョンの2つのSKU（Stock Keeping Unit）を提供している。

現在出荷中の「ARA-1」と、2022年出荷開始予定の「ARA-2」 出所：Deep Vision

　Deep Visionの演算アーキテクチャは、メモリとの間のデータ移動を最小限に抑えるように設計されている。

　Annavajhala氏は、「チップに取り込むデータをできる限りコア演算部の近くで、できる限り長く保持できるように、ソフトウェア全体とシステムレベル、演算コアレベルでデータ移動の最小化が行われている。当社は、ハードウェア上ではこれら全てを抽象化し、独自のデータフローアーキテクチャで演算部と異なるレベルのメモリ階層間のデータ移動を最小限に抑えた」と説明した。

　同氏によると、「画像の畳み込みに関しては、あるフレーム（または1つの畳み込み）と次のフレームとの間でデータの約90％が同じであり、AI推論を演算する際にデータを何度も再利用できる」という。Deep Visionのソフトウェアは、データ移動のさまざまな組み合わせを検討してモデルをスキャンし、プロセッサにとって最も効率的な組み合わせをスケジューリングする。コンパイラは、処理とメモリサブユニットの消費電力と性能を追跡し、望ましい結果を導くように最適化する。Deep Visionのソフトウェアフローは、TensorFlowとCaffe、Pytorch、MXNet、ONNXをサポートしている。

　ARA-1は市場投入までの時間が逼迫していたことから、いくつかの高度な機能を省いたという。これらの機能は主にLSTMとRNNの高速化に関連するもので、ARA-2チップに追加される。ARA-2は、全体的なアーキテクチャはARA-1と同じだが、製造プロセス技術を28nmから16nmに移行する。その結果、ワットあたりの性能が3倍になり、ARA-1と比べて性能が5倍に向上する。なお、現在ARA-1で動作しているアプリケーションは、ARA-2と互換性があるという。

　Deep Visionは、米国スタンフォード大学の博士号を有するRehan Hameed氏とWajahat Qadeer氏が2018年に設立し、現時点で総額5400万米ドルを調達している。同社の従業員は現在57名だが、2021年中に75名に増員する予定だという。ARA-1は現在、大量に出荷されており、ARA-2は2022年にサンプル出荷を開始する予定である。

【翻訳：滝本麻貴、編集：EE Times Japan】

原文へのリンク