業界ニュース: Jim Keller が新しい RISC-V チップを発売

各ワームホール プロセッサには 72 個の Tensix コア (そのうち 5 個はさまざまなデータ形式の RISC-V コアをサポート) と 108 MB の SRAM が含まれており、熱設計電力 160W で 1 GHz で 262 FP8 TFLOPS を実現します。シングルチップ ワームホール n150 カードには 12 GB GDDR6 ビデオ メモリが搭載されており、帯域幅は 288 GB/秒です。

ワームホール プロセッサは、ワークロードの多様なニーズを満たす柔軟な拡張性を提供します。 4 枚の Wormhole n300 カードを備えた標準的なワークステーション セットアップでは、プロセッサを 1 つのユニットに組み合わせることができ、ソフトウェアでは統一された広範な Tensix コア ネットワークとして表示されます。この構成により、アクセラレータは同じワークロードを処理したり、4 人の開発者に分割したり、最大 8 つの異なる AI モデルを同時に実行したりできます。このスケーラビリティの主な特徴は、仮想化を必要とせずにローカルで実行できることです。データセンター環境では、ワームホール プロセッサはマシン内部の拡張には PCIe を使用し、外部拡張にはイーサネットを使用します。

パフォーマンスの点では、Tenstorrent のシングルチップ Wormhole n150 カード (72 Tensix コア、1 GHz 周波数、108 MB SRAM、12 GB GDDR6、288 GB/s 帯域幅) は 160W で 262 FP8 TFLOPS を達成しましたが、デュアルチップ Wormhole n300 ボードは(128 Tensix コア、1 GHz 周波数、192 MB SRAM、集約 24 GB GDDR6、576 GB/秒帯域幅) は、300 W で最大 466 FP8 TFLOPS を実現します。

466 FP8 TFLOPS の 300W を状況に合わせて説明するために、AI 市場のリーダーである Nvidia がこの熱設計能力で提供しているものと比較します。 Nvidia の A100 は FP8 をサポートしていませんが、INT8 をサポートしており、ピーク パフォーマンスは 624 TOPS (スパース時は 1,248 TOPS) です。比較すると、Nvidia の H100 は FP8 をサポートし、300W で 1,670 TFLOPS (スパース時 3,341 TFLOPS) のピーク パフォーマンスに達しますが、これは Tenstorrent の Wormhole n300 とは大きく異なります。

ただし、大きな問題が 1 つあります。 Tenstorrent の Wormhole n150 の小売価格は 999 ドル、n300 の価格は 1,399 ドルです。比較すると、Nvidia H100 グラフィックス カード 1 枚の小売価格は数量にもよりますが、30,000 ドルです。もちろん、4 つまたは 8 つのワームホール プロセッサが実際に 1 台の H300 のパフォーマンスを実現できるかどうかはわかりませんが、TDP はそれぞれ 600W と 1200W です。

カードに加えて、Tenstorrent は、アクティブ冷却機能を備えたより手頃な価格の Xeon ベースの TT-LoudBox と、EPYC ベースの Xiaolong) 液体冷却機能を備えた高度な TT-QuietBox に含まれる 4 枚の n300 カードを含む、開発者向けの構築済みワークステーションを提供しています。