LeapMindのAIアクセラレーターIP、108TOPS/Wを達成:電力効率はGPUの20〜100倍に
LeapMindは、極小量子化技術を用いた超低消費電力AIアクセラレーターIP「Efficiera(エフィシエラ)」で、消費電力1W当たり107.8TOPSという電力効率を達成した。この値は、競合するGPUやエッジ向けAIアクセラレーターの性能と比べ、同じ消費電力だと約5〜100倍に相当するという。
LeapMindは2023年8月、極小量子化技術を用いた超低消費電力AIアクセラレーターIP(Intellectual Property)「Efficiera(エフィシエラ)」で、消費電力1W当たり107.8TOPSという電力効率を達成したと発表した。この値は、競合するGPUやエッジ向けAIアクセラレーターの性能と比べ、同じ消費電力だと約5〜100倍に相当するという。
エッジAIの実用化に向けては、消費電力が少なく高い演算性能を両立させたAIチップが求められている。こうした中で同社は、「極小量子化」技術をベースに、顧客のニーズに応えた製品を供給する。
AIタスクと要求性能[クリックで拡大] 出所:LeapMind
例えば、モデルの軽量化に極小量子化を用い、1ビットweight×2ビットactivationという超低ビット量子化を実現し、精度の低下も最小限に抑えた。また、Efficiera専用のモデルコンバーターにより、演算効率とメモリ転送量の最適化をそれぞれに行い、ハードウェアの実行効率を最大限に高めたという。
しかも、極小量子化技術によって、小さな回路面積でありながら、高い演算効率を達成した。推論実行時のDRAMメモリ転送データは1〜2ビットであり、メモリ使用量とメモリ帯域を削減することが可能となる。
電力効率の比較[クリックで拡大] 出所:LeapMind
- 画像鮮明化+エッジ推論で異常検知を簡単に
LeapMindは「ET&IoT 2021」(2021年11月17〜19日、パシフィコ横浜)のジーニックのブースにて、超低消費電力のAI(人工知能)推論アクセラレーターIP(Intellectual Property)「Efficiera」のデモを展示した。
- 超低消費電力のエッジAI、ASICで100TOPS/Wの実現も
エッジでのディープラーニング技術(エッジAI技術)を手掛けるLeapMindは2021年9月30日、超低消費電力のAI(人工知能)推論アクセラレーターIP(Intellectual Property)「Efficiera(エフィシエラ)バージョン2(Efficiera v2)」のβ版をリリースした。正式版は同年11月末に提供を開始する。
- Cerebrasが1億ドルのAIスパコンを販売
AIアクセラレーターシステムを手掛けるCerebrasが、同システムをベースにしたAIスーパーコンピュータ(スパコン)を構築する。5400万のAIコアと4EFLOPSの演算性能を持つスパコンで、価格は1億米ドルを超えるという。
- Flex LogixがAIチップ提供を停止、今後はIP提供へ
スタートアップのFlex Logix Technologiesが、AIアクセラレーター事業についてビジネスモデルを転換する。チップの提供は停止、今後はIPビジネスに切り替える。
- AIチップ/RISC-Vプロセッサの新興企業、日本に本格進出
著名なハードウェアエンジニアであるJim Keller氏が率いるスタートアップTenstorrentが、本格的に日本に進出した。まずは自動車分野をターゲットに、AIアクセラレーターや、RISC-VプロセッサのIPを提供する。
- AIチップ設計拠点が23年4月に本格始動
新エネルギー・産業技術総合開発機構は2023年3月17日、中小/ベンチャー企業などのAIチップ開発を加速するため、2019年から試験運転していた「AIチップ設計拠点」(東京都文京区)を2023年4月1日から本格運用すると発表した。
Copyright © ITmedia, Inc. All Rights Reserved.