チップレットベースのデータセンターAI製品に注力、韓国新興:通信分野にも積極進出(2/3 ページ)
韓国のAI(人工知能)チップ新興企業Rebellionsは、チップレットベースのデータセンター用AIアクセラレーターの開発と展開に力を入れている。2020年に設立された同社はさまざまな企業と協業しながら、韓国で存在感を高めている。
チップレートベースの第3世代品
Rebellionの第3世代品は、大規模なLLM推論向けに設計されたチップレットベースのデータセンターアクセラレーターである。144GB(ギガバイト)のHBM3Eを搭載したRebelの4チップレット構成で、300Wの電力エンベロープにおいてFP16で1POPSのコンピュート機能を提供する。またこのチップレットは、UCIe-Advancedを採用し、高速かつ電力効率の高いデータ伝送を実現するという。
Oh氏は、「Rebelは、NVIDIAの次世代GPU『NVIDIA DGX B200』の性能は超えられないが、優れたエネルギー効率を実現するだろう」と述べる。
「将来世代のRebelは、スケーラビリティを高めるためのまだ未開発のI/Oチップレットを採用する他、Rebellionsが設計するCPUチップレットや、アクセラレーターチップレットなども使用する予定だ。顧客向けに、さまざまなコンフィギュレーション(チップレットの異なる組み合わせ)を提供できるようになるだろう」(Oh氏)
ニューラルエンジン
RebellionsのNPU(Neural Processing Unit)アーキテクチャおよびソフトウェアスタックは、同社の全世代の製品に使われている。NPUのプログラマブルなデータフローアーキテクチャは、命令レベルおよびデータレベルの並列処理を採用する。また、スケジューリングやタスクレベルの並列処理を実行するタスクマネジャーや、DMAエンジンなどもある。
Oh氏は、「RebellionsのRebelに入る予定のコアバージョンは、旧世代品とよく似ている」と述べる。
「われわれは、過去数年間をかけて開発してきたニューラルエンジンと同じものを採用したが、LLMの時代には新たな精度をサポートする必要があるため、その点を考慮してチップを構築した」(Oh氏)
他にもAtomからの変更点としては、(UCIe追加により)スケーラビリティが向上したことや、高速なHBMに対応するためにアーキテクチャの完璧なバランスを確保したことなどが挙げられる。
Oh氏は、「UCIeは、4つまたは特定のチップ数に制限されないということを意味する。またわれわれは、UCIeの性能を最大化したいため、高速なLLMアクセラレーションをサポートすべく、UCIeコントローラーにもう1つ別のコントローラーを追加した」と述べる。
同氏は、Rebelが、Samsung FoundryのサービスチームがSamsungのHBMを使って製造したものであることを認めている。
Copyright © ITmedia, Inc. All Rights Reserved.