検索
ニュース

”基盤モデル”に照準、SambaNovaの新世代RDU処理能力688TFLOPSのプロセッサ(1/3 ページ)

SambaNova Systems(以下、SambaNova)の幹部は、米国カリフォルニア州サンタクララで開催された「AI Hardware Summit」において、新たなシリコンを披露した。また、複数のタスクに適用できる大規模な言語モデルの一種である「基盤モデル(foundation models)」をサポートするという同社の取り組みについて語った。

Share
Tweet
LINE
Hatena

 SambaNova Systems(以下、SambaNova)の幹部は、米国カリフォルニア州サンタクララで開催された「AI Hardware Summit」において、新たなシリコンを披露した。また、複数のタスクに適用できる大規模な言語モデルの一種である「基盤モデル(foundation models)」をサポートするという同社の取り組みについて語った。

従来より最大6倍性能向上

 SambaNovaの次世代ラックスケールシステムには、同社のデータフロー向けに最適化されたRDU(Reconfigurable Dataflow Unit)の第2世代版「Cardinal SN30」を搭載する予定だ。このRDUには、より大きな演算ダイが採用された他、前世代同様TSMCの7nmプロセスで製造され、チップレット1つ当たり860億トランジスタで構成されている。加えて、オンチップメモリは640MBに倍増された。その結果、巨大なモデルに合わせた688TFLOPS(BF16)プロセッサを実現している。パッケージには2個の演算チップレットと、1TBの直接取り付けられたDDRメモリ(HBMではない)が含まれている。結果として、第1世代と比べ最大で6倍も性能が高まったという。

 このデバイスはSambaNovaのAI(人工知能)学習や推論およびファインチューニングに向けたサーバ「DataScale」の新世代品に搭載され、ラックスケールシステムとして出荷される。


SambaNovaは、2個の演算チップレットと、1TBの直接取り付けられたDDRメモリを搭載したRDU「Cardinal SN30」を発表した[クリックで拡大] 出所:SambaNova Systems

 前述のイベントでは、SambaNovaの共同創立者でCTO(最高技術責任者)のKunle Olukotun氏がこれらの次世代システムにとって“キラーアプリケーション”となる基盤モデルを発表した。

 同氏は「われわれはAIの新たな時代に入りつつある。そして、それは基盤モデルによって実現されている」と述べた。

       | 次のページへ

Copyright © ITmedia, Inc. All Rights Reserved.

ページトップに戻る