AI Everywhere エッジAIがもたらす革新

機械学習の機能、特に推論を組み込み機器に実装する「組み込みAI」。推論を低遅延、低消費電力で行う手段として近年、注目が高まっている。組み込みAIの要素技術と応用事例の最前線を追う。

TOP STORY

/ee/articles/2511/06/240_news062.png

欧州のAIチップの新興企業であるEuclydは、トークン当たりのコストを低く抑えられるハードウェアアーキテクチャを披露した。同社のチップ「Craftwerk」は、16384個のSIMDプロセッサを搭載し、最大8PFLOPS(FP16)または32PFLOPS(FP4)を実現する。NVIDIAやCerebras Systemsをはるかに上回る、2万トークン/秒を実行できるとする。