メディア

「NVIDIAと真逆の取り組みをしよう」 Jim Keller氏：Tenstorrent CEO（4/4 ページ）

» 2025年06月10日 15時30分公開

より大規模なトレーニングクラスタ構築へ

　Tenstorrentは、Blackholeチップが利用できるようになった現在、引き続きより大規模なトレーニングクラスタを構築しているところだ。今のところ、6個の「Backhole Galaxy^※）」（192チップ）のトレーニングクラスタを構築していて、今後6カ月以内にはさらに大きなクラスタを実現する予定だという。最終的な目標として、16台のGalaxyサーバによるデータプレーンエンジンの実現を目指す。スイッチング向けに16台のGalaxy（Tenstorrentは独自開発チップをスイッチとして使用）と、さらにオプティマイザとして16台のGalaxyを備え、ある程度の冗長性も持つという。

※編集注：「Galaxy」はTenstorrentがAIワークロード向けに設計した次世代サーバ。「Wormhole」プロセッサを用いたGalaxy「Tenstorrent Galaxy Wormhole サーバー」がある。

　Keller氏は「デモでは、クラスターを稼働させ、どのケーブルを引き抜いても稼働が停止しないことを示す。原理上、どのサーバの電源を切っても稼働を継続させることが可能だ」と述べる。

　さらに「高速推論は、4個のGalaxy（128チップ）で達成することができる。推論には、既存の大規模言語（LLM）ワークロードの100万倍以上のトークンが必要になる（必要な推論計算量の実際の上限は、『人間が考え付くことができるユニークな質問の数』の限界にある）」と指摘する。

　Keller氏は「私のミッションは、トレーニングのコストを劇的に下げることだ」と強調した。「新しいことに取り組むための適切なプラットフォームを提供するにはどうすればよいのか。それはやりがいのある挑戦だ。トレーニングができなければ、新しいことにも取り組めないからだ」（同氏）

【翻訳：田中留美、編集：EE Times Japan】

原文へのリンク

25年の半導体市場も2桁成長へ　非AI領域は地政学リスクで弱含み
世界半導体市場統計（WSTS）の最新予測によると、2025年の半導体市場は前年比11.2％増の7008億米ドルに成長する見込みだ。AI関連のメモリ／ロジックが好調だが、それ以外の領域は地政学リスクの影響が大きいという。
「本当に安全なのか」中国の機器や部品を見直すべき
深刻化する米中の技術冷戦。監視カメラなど向けのセキュリティ関連ソリューションを手掛けるNabtoのCEOは、中国製IoT機器やコンポーネントの安全性を見直すべきだと主張する。
Rapidusとも提携、Tenstorrentの現状と戦略
2nmプロセスベースのAIエッジデバイス領域での半導体IPに関して、Rapidusと提携を結んだTenstorrent。同社CEOのJim Keller氏が今回、米国EE Timesのインタビューに応じ、事業の現状や戦略などを語った。
32の同時ユーザーで15トークン/秒　TenstorrentがLLMのデモを披露
Tenstorrentは、同社の「LoudBox」ワークステーションのデモを披露した。Llama3.1-70B（BF8精度）を、32の同時ユーザー数で15トークン／秒／ユーザー（token/s/user）の速度で実行した。
RapidusがTenstorrentと提携、AIエッジ領域の開発を加速
Rapidusと、RISC-VプロセッサおよびAI（人工知能）チップを手掛けるTenstorrentが、2nmプロセスベースのAIエッジデバイス領域での半導体IPに関するパートナーシップに関して合意した。Tenstorrentは、「Rapidusとの技術提携を通じて、進化し続けるデジタル社会のニーズに応える最先端デバイスの開発を加速させる」としている。
“天才設計者”Jim Keller氏がAI新興企業のCTOに
著名なチップ設計者アーキテクトのJim Keller氏が、カナダのAI（人工知能）チップ新興企業Tenstorrentに社長兼CTO（最高技術責任者）として入社した。Tenstorrentの取締役会にも加わる予定だ。Keller氏は、過去にAMD、Intel、Tesla、Appleなどに勤務したことがあり、長いキャリアの中で多くの実績を残している。