メディア

LeapMindのAIアクセラレーターIP、108TOPS/Wを達成電力効率はGPUの20〜100倍に

LeapMindは、極小量子化技術を用いた超低消費電力AIアクセラレーターIP「Efficiera(エフィシエラ)」で、消費電力1W当たり107.8TOPSという電力効率を達成した。この値は、競合するGPUやエッジ向けAIアクセラレーターの性能と比べ、同じ消費電力だと約5〜100倍に相当するという。

» 2023年08月04日 15時30分 公開
[馬本隆綱EE Times Japan]

競合のGPUなどに比べ、同じ消費電力だと演算性能は約5〜100倍に

 LeapMindは2023年8月、極小量子化技術を用いた超低消費電力AIアクセラレーターIP(Intellectual Property)「Efficiera(エフィシエラ)」で、消費電力1W当たり107.8TOPSという電力効率を達成したと発表した。この値は、競合するGPUやエッジ向けAIアクセラレーターの性能と比べ、同じ消費電力だと約5〜100倍に相当するという。

 エッジAIの実用化に向けては、消費電力が少なく高い演算性能を両立させたAIチップが求められている。こうした中で同社は、「極小量子化」技術をベースに、顧客のニーズに応えた製品を供給する。

AIタスクと要求性能 AIタスクと要求性能[クリックで拡大] 出所:LeapMind

 例えば、モデルの軽量化に極小量子化を用い、1ビットweight×2ビットactivationという超低ビット量子化を実現し、精度の低下も最小限に抑えた。また、Efficiera専用のモデルコンバーターにより、演算効率とメモリ転送量の最適化をそれぞれに行い、ハードウェアの実行効率を最大限に高めたという。

 しかも、極小量子化技術によって、小さな回路面積でありながら、高い演算効率を達成した。推論実行時のDRAMメモリ転送データは1〜2ビットであり、メモリ使用量とメモリ帯域を削減することが可能となる。

電力効率の比較 電力効率の比較[クリックで拡大] 出所:LeapMind

Copyright © ITmedia, Inc. All Rights Reserved.

RSSフィード

公式SNS

All material on this site Copyright © ITmedia, Inc. All Rights Reserved.
This site contains articles under license from AspenCore LLC.