Tenstorrent in den Kampf gegen NVIDIA: Neue Hardware und Workstations

Tenstorrent, ein aufstrebendes Unternehmen im Bereich der KI-Hardware, nimmt den Kampf gegen den Branchenriesen NVIDIA auf und will die Bedürfnisse erfüllen, die NVIDIA auf dem Markt offen lässt. Um dieses Ziel zu erreichen, hat das Unternehmen vor einigen Monaten begonnen, Entwicklungs-Kits in Form von PCI-Express-Karten mit Grayskull-Beschleunigern zu versenden. Diese Karten sind mit KI-Kernen ausgestattet, die im 12-nm-Verfahren hergestellt wurden. Allerdings verfügen sie nur über 8 GB LPDDR4-Speicher und kommunizieren über das PCI-Express-Interface.

Die Grayskull-Beschleuniger sind vielseitig einsetzbar und können sowohl für die Entwicklung von KI-Modellen als auch für den entsprechenden Code verwendet werden. Sie sind in Varianten mit einer Leistungsaufnahme von 75 W und 150 W erhältlich. Mit der zweiten Generation namens Wormhole geht Tenstorrent nun einen Schritt weiter. Die Chips werden immer noch im 12-nm-Verfahren hergestellt, sind aber mit 80 sogenannten Tensix-Kernen ausgestattet. Diese arbeiten mit einer Taktrate von 1 GHz und liefern eine beeindruckende Rechenleistung von 292 TOPS für FP8-Berechnungen.

Die Chips haben nun auch eine integrierte Netzwerkverbindung und können miteinander mit einer Geschwindigkeit von 16x 200 GBit/s kommunizieren. Der Speicher wurde von 8 auf 12 GB erweitert und es wird nun auch GDDR6-Speicher verwendet, der eine deutlich höhere Speicherbandbreite bietet.

Für die PCIe-Karte Wormhole n150 beträgt die Leistungsaufnahme 150 Watt und der Preis liegt bei 999 US-Dollar. Mit der Dual-Chip-Lösung n300 steigt die Leistungsaufnahme auf 300 W an und der Preis beträgt 1.399 US-Dollar.

Darüber hinaus bietet Tenstorrent auch zwei verschiedene Entwickler-Workstations an. Die Loadbox wird durch Luftkühlung betrieben, während die Quietbox eine Wasserkühlung hat. Die Hardware der beiden Workstations unterscheidet sich jedoch nicht nur in Bezug auf die Kühlung. Die TT-Loadbox ist mit 2x Intel Xeon 4309Y Prozessoren (Ice Lake, 8 Kerne, 2,8 GHz, 105 W), einem Supermicro SYS-740GP-TNRT, 512 GB DDR4-3200-Speicher, einer 3,8 TB U2 NVMe Festplatte, 4x Wormhole n300 Beschleunigern, 4x Warp 100 Inters, 2x QSFP-DD 400GbE, einem 2.200 W Netzteil und 2x 10GbE (Onboard via Intel X550-AT) ausgestattet. Die TT-Quietbox hingegen verfügt über einen AMD EPYC 8124P Prozessor (16 Kerne, 3 GHz, 125 W), ein Tyan Tomcat HX S8040 Mainboard, 512 GB DDR5-4800-Speicher, eine 3,8 TB U2 NVMe Festplatte, 4x Wormhole n300 Beschleuniger, 4x Warp 100 Inters, 2x QSFP-DD 400GbE, ein 1.650 W Netzteil, 2x 10GbE (Onboard via Intel X710) und 2x Gigabit-Ethernet.

Während die Auslieferung der Wormhole-Beschleuniger bereits begonnen hat, können die Dev-Kits für TT-Loadbox und TT-Quietbox bisher nur vorbestellt werden und sollen innerhalb der nächsten sechs bis acht Wochen verschickt werden. Die TT-Loadbox wird für 12.000 US-Dollar angeboten, während die wassergekühlte TT-Quietbox voraussichtlich 15.000 US-Dollar kosten wird.

Mit diesen neuen Entwicklungen erweitert Tenstorrent sein Angebot für Entwickler und stellt eine Auswahl an Hardware bereit, die zur Verbesserung von Software und Modellen genutzt werden kann. Zusätzlich steht mit TT-Buda ein Software-Stack zur Verfügung, der nicht nur dem Namen nach ähnlich wie NVIDIAs CUDA ist, sondern auch einen ähnlichen Funktionsumfang bietet und einen einfachen Einstieg ermöglicht.

Obwohl Tenstorrent etwas hinter seinem eigenen Zeitplan zurückliegt, plant das Unternehmen, die Weiterentwicklung in den kommenden Jahren voranzutreiben. Die kommende Generation, die unter dem Namen Black Hole bekannt ist, wird in einem 6-nm-Verfahren hergestellt und wird mit eigenen CPU-Kernen ausgestattet sein. Anschließend wird Grendel in der 4-nm-Technologie folgen.

Schlagwörter: Supermicro SYS-740GP-TNRT < /li + Warp + QSFP-DD 400GbE

Wie bewerten Sie den Schreibstil des Artikels?