検索
ニュース

10億パラメータモデルがエッジで動く Armの新プラットフォームArmv9ベースのCPUコア+NPUで構成(2/2 ページ)

Armは、エッジAI向けに最適化した「Armv9」ベースのプラットフォームを発表した。コンパクトなプロセッサコア「Cortex-A320」と、NPU(Neural Processing Unit) IP(Intellectual Property)「Ethos-U85」で構成されるもので、10億パラメータのAIモデルを実行可能だという。

Share
Tweet
LINE
Hatena
前のページへ |       

「Kleidi AI」も使用可能

 Cortex-A320では、2024年に発表されたソフトウェアライブラリ「Kleidi AI」も使用できる。NEONやSVE2向けに最適化されたライブラリであり、ライブラリをKleidi AIに入れ替えるだけで推論性能を向上させられる。

Armは、2024年の年次カンファレンス「Arm Tech Symposia」で、ライブラリを「Kleidi AI」に入れ替えるだけで推論性能を70%向上させられるというデモを展示した[クリックで拡大] 出所:Arm
Armは、2024年の年次カンファレンス「Arm Tech Symposia」で、ライブラリを「Kleidi AI」に入れ替えるだけで推論性能を70%向上させられるというデモを展示した[クリックで拡大] 出所:Arm

 中島氏は、Cortex-A320を、従来のArmv8-Aベースの「Cortex-A53/A35」からのアップグレードパスとしても推奨していると説明した。「Cortex-A53/A35とも10年以上前のマイクロアーキテクチャをベースにしたもの。次の10年を見据え、Armv9への移行を考えたときに適したコアになるのではないか」(同氏)

Cortex-A320は、「Armv8-A」からのアップグレードパスにも適しているとする[クリックで拡大] 出所:Arm
Cortex-A320は、「Armv8-A」からのアップグレードパスにも適しているとする[クリックで拡大] 出所:Arm
アームで代表取締役社長を務める横山崇幸氏
アームで代表取締役社長を務める横山崇幸氏

 アームで代表取締役社長を務める横山崇幸氏は「IoTの世界で最も重要なのはエッジAIではないか。より多くのAI演算を、より低消費電力に実行するために、安全かつ柔軟性のあるAI開発が求められている」と述べ、今回発表したプラットフォームの重要性を強調した。

 「従来は比較シンプルだったユースケースが高度化している。そのため、エッジAIでも高いパフォーマンスが求められている。さらに、価値の高いソフトウェアを保護するためのセキュリティも必要だ。こうしたニーズがファクトリーオートメーション(FA)やスマートシティー、スマートホームなどの分野から寄せられている」(横山氏)

Copyright © ITmedia, Inc. All Rights Reserved.

前のページへ |       
ページトップに戻る