Rapidusとも提携、Tenstorrentの現状と戦略:Jim Keller氏に独占インタビュー(3/3 ページ)
2nmプロセスベースのAIエッジデバイス領域での半導体IPに関して、Rapidusと提携を結んだTenstorrent。同社CEOのJim Keller氏が今回、米国EE Timesのインタビューに応じ、事業の現状や戦略などを語った。
ハードウェアのロードマップ
ハードウェアについて、Keller氏は「ようやく実現しつつある」と述べている。
Keller氏は「通常、ハードウェアとソフトウェアを出荷するには、信じられないほど多くの段階を踏まなければならない。ラボで動かしてみて、『よしいいぞ、準備ができた』と言ったその6カ月後にも、まだバグを修正しているといった具合だ。だがわれわれは成功し始めている」と述べた。
近日発売予定の「Nebula」PCIeカードにはワンチップ版と2チップ版があり、いずれもTenstorrentの12nmプロセス採用シリコン「Wormhole」の第2世代品をベースとしている。また、開発キットはTenstorrentのシリコンの第1世代品「Grayskull」をベースにしたものだ。
Tenstorrentのシリコンのロードマップ。2022年にテープアウトされたWormholeは、近くワンチップおよび2チップ版のPCIeカードとして市場に登場する予定だ。なお、記載の日付はテープアウト時期で販売開始時期ではない[クリックで拡大] 出所:Tenstorrent
Keller氏によると、GrayskullはPCIeのみだったが、アプリケーションはワンチップが使用可能、もしくは2〜3種のチップはホストを介してPCIe上で相互に通信できたという。また、同氏はGrayskullがWormholeに比べコストパフォーマンスでは劣る点にも言及した。
Keller氏は「Wormholeの優れた点として、100ギガビットイーサネット(100GbE)ポートを16個搭載していることが挙げられる。当社のPCIeカードは、そのうち2ポートが背面に出ており、それらを1つに束ねられる。さらに2ポートをカード上部に露出させているので、複数のカードを使う場合、チップをメッシュ状に実装できる」と述べた。
こうした構造は、大規模言語モデル(LLM)を加速化する上で適している。LLMでは、アクセラレーターとホスト間の通信よりも、アクセラレーター同士の通信が必要になる。2個のカードと32個のカードの間でのアクセラレーター同士のトラフィックは、100GbEを介して転送される。
Keller氏は「このアプローチは比較的うまくいき始めている。1年前にも適切に作動できていたが、スケーリングはかなわなかった。そして、新たなモデルの立ち上げも、非常に困難だった。そこでソフトウェアの大幅なリライトを行ったところ、非常に良い状況になってきている」と述べた。
Tenstorrentは、32個のWormholeを用いた4Uラックスケールシステム「Galaxy」を構築した。Keller氏によれば、同システムも今後、早い時期に市場に投入されるという。
Keller氏によると、真のTenstorrentのスタイルとして、1〜8枚のカードを搭載した暗号通貨のリグなど、コンピュータ向けのあらゆる種類のフォームファクターを調査しているという。それにより、良いバランスのコストパフォーマンスがもたらされる。
また、同社はクラウドで開発者に向け、旧世代のGrayskullチップ1000個を利用可能にしている。このインフラは次世代のWormholeハードウェアに向けて可能な限り早くアップグレードされる予定だ。さらに、Tenstorrentの6nmプロセス採用チップ「Black Hole」もテープアウトした。
【翻訳:田中留美、滝本麻貴、青山麻由子、編集:EE Times Japan】
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
- RapidusがTenstorrentと提携、AIエッジ領域の開発を加速
Rapidusと、RISC-VプロセッサおよびAI(人工知能)チップを手掛けるTenstorrentが、2nmプロセスベースのAIエッジデバイス領域での半導体IPに関するパートナーシップに関して合意した。Tenstorrentは、「Rapidusとの技術提携を通じて、進化し続けるデジタル社会のニーズに応える最先端デバイスの開発を加速させる」としている。 - 大規模言語モデルの未来は「オープンソース化」にある?
大規模言語モデル/生成AI(人工知能技術)への関心が急速に高まる一方、それらの技術のコントロールが、一部の企業にあることを懸念する声も少なくない。業界の専門家たちは、「AIの民主化」に関する問題解決の糸口は、大規模言語モデルのオープンソース化にあると語る。 - 枚葉式で2度目のチャンスをつかむ、Rapidus小池氏
米国EE Timesは、imecの年次イベントにてRapidus社長の小池淳義氏に単独インタビューを行った。Rapidusは、「枚葉式の処理」により超短TATで製品を顧客に提供することを狙う。これは、小池氏にとっては“2度目のチャンス”になる。さらに、Rapidusの成功をアナリストがどう見ているかも、紹介する。 - AIチップ/RISC-Vプロセッサの新興企業、日本に本格進出
著名なハードウェアエンジニアであるJim Keller氏が率いるスタートアップTenstorrentが、本格的に日本に進出した。まずは自動車分野をターゲットに、AIアクセラレーターや、RISC-VプロセッサのIPを提供する。 - “天才設計者”Jim Keller氏がAI新興企業のCTOに
著名なチップ設計者アーキテクトのJim Keller氏が、カナダのAI(人工知能)チップ新興企業Tenstorrentに社長兼CTO(最高技術責任者)として入社した。Tenstorrentの取締役会にも加わる予定だ。Keller氏は、過去にAMD、Intel、Tesla、Appleなどに勤務したことがあり、長いキャリアの中で多くの実績を残している。 - GFがIBM提訴、「IntelやRapidusに企業秘密漏えい」
GlobalFoundries(以下、GF)は2023年4月19日(米国時間)、IBMを企業秘密の不正利用で提訴したと発表した。GFは、「IBMがGFのIPや企業秘密をIntelやRapidusに不正に漏えいした」と主張している。