メディア

LeapMindのAIアクセラレーターIP、108TOPS/Wを達成：電力効率はGPUの20～100倍に

LeapMindは、極小量子化技術を用いた超低消費電力AIアクセラレーターIP「Efficiera（エフィシエラ）」で、消費電力1W当たり107.8TOPSという電力効率を達成した。この値は、競合するGPUやエッジ向けAIアクセラレーターの性能と比べ、同じ消費電力だと約5～100倍に相当するという。

» 2023年08月04日 15時30分公開

[馬本隆綱，EE Times Japan]

競合のGPUなどに比べ、同じ消費電力だと演算性能は約5～100倍に

　LeapMindは2023年8月、極小量子化技術を用いた超低消費電力AIアクセラレーターIP（Intellectual Property）「Efficiera（エフィシエラ）」で、消費電力1W当たり107.8TOPSという電力効率を達成したと発表した。この値は、競合するGPUやエッジ向けAIアクセラレーターの性能と比べ、同じ消費電力だと約5～100倍に相当するという。

　エッジAIの実用化に向けては、消費電力が少なく高い演算性能を両立させたAIチップが求められている。こうした中で同社は、「極小量子化」技術をベースに、顧客のニーズに応えた製品を供給する。

AIタスクと要求性能［クリックで拡大］出所：LeapMind

　例えば、モデルの軽量化に極小量子化を用い、1ビットweight×2ビットactivationという超低ビット量子化を実現し、精度の低下も最小限に抑えた。また、Efficiera専用のモデルコンバーターにより、演算効率とメモリ転送量の最適化をそれぞれに行い、ハードウェアの実行効率を最大限に高めたという。

　しかも、極小量子化技術によって、小さな回路面積でありながら、高い演算効率を達成した。推論実行時のDRAMメモリ転送データは1～2ビットであり、メモリ使用量とメモリ帯域を削減することが可能となる。

電力効率の比較［クリックで拡大］出所：LeapMind

画像鮮明化＋エッジ推論で異常検知を簡単に
LeapMindは「ET＆IoT 2021」（2021年11月17～19日、パシフィコ横浜）のジーニックのブースにて、超低消費電力のAI（人工知能）推論アクセラレーターIP（Intellectual Property）「Efficiera」のデモを展示した。
超低消費電力のエッジAI、ASICで100TOPS/Wの実現も
エッジでのディープラーニング技術（エッジAI技術）を手掛けるLeapMindは2021年9月30日、超低消費電力のAI（人工知能）推論アクセラレーターIP（Intellectual Property）「Efficiera（エフィシエラ）バージョン2（Efficiera v2）」のβ版をリリースした。正式版は同年11月末に提供を開始する。
Cerebrasが1億ドルのAIスパコンを販売
AIアクセラレーターシステムを手掛けるCerebrasが、同システムをベースにしたAIスーパーコンピュータ（スパコン）を構築する。5400万のAIコアと4EFLOPSの演算性能を持つスパコンで、価格は1億米ドルを超えるという。
Flex LogixがAIチップ提供を停止、今後はIP提供へ
スタートアップのFlex Logix Technologiesが、AIアクセラレーター事業についてビジネスモデルを転換する。チップの提供は停止、今後はIPビジネスに切り替える。
AIチップ/RISC-Vプロセッサの新興企業、日本に本格進出
著名なハードウェアエンジニアであるJim Keller氏が率いるスタートアップTenstorrentが、本格的に日本に進出した。まずは自動車分野をターゲットに、AIアクセラレーターや、RISC-VプロセッサのIPを提供する。
AIチップ設計拠点が23年4月に本格始動
新エネルギー・産業技術総合開発機構は2023年3月17日、中小／ベンチャー企業などのAIチップ開発を加速するため、2019年から試験運転していた「AIチップ設計拠点」（東京都文京区）を2023年4月1日から本格運用すると発表した。