LeapMindのAIアクセラレーターIP、108TOPS/Wを達成：電力効率はGPUの20〜100倍に

LeapMindは、極小量子化技術を用いた超低消費電力AIアクセラレーターIP「Efficiera（エフィシエラ）」で、消費電力1W当たり107.8TOPSという電力効率を達成した。この値は、競合するGPUやエッジ向けAIアクセラレーターの性能と比べ、同じ消費電力だと約5〜100倍に相当するという。

[馬本隆綱，EE Times Japan]

競合のGPUなどに比べ、同じ消費電力だと演算性能は約5〜100倍に

　LeapMindは2023年8月、極小量子化技術を用いた超低消費電力AIアクセラレーターIP（Intellectual Property）「Efficiera（エフィシエラ）」で、消費電力1W当たり107.8TOPSという電力効率を達成したと発表した。この値は、競合するGPUやエッジ向けAIアクセラレーターの性能と比べ、同じ消費電力だと約5〜100倍に相当するという。

　エッジAIの実用化に向けては、消費電力が少なく高い演算性能を両立させたAIチップが求められている。こうした中で同社は、「極小量子化」技術をベースに、顧客のニーズに応えた製品を供給する。

AIタスクと要求性能［クリックで拡大］ 出所：LeapMind

　例えば、モデルの軽量化に極小量子化を用い、1ビットweight×2ビットactivationという超低ビット量子化を実現し、精度の低下も最小限に抑えた。また、Efficiera専用のモデルコンバーターにより、演算効率とメモリ転送量の最適化をそれぞれに行い、ハードウェアの実行効率を最大限に高めたという。

　しかも、極小量子化技術によって、小さな回路面積でありながら、高い演算効率を達成した。推論実行時のDRAMメモリ転送データは1〜2ビットであり、メモリ使用量とメモリ帯域を削減することが可能となる。

電力効率の比較［クリックで拡大］ 出所：LeapMind