{"id":9700,"date":"2024-07-19T08:50:42","date_gmt":"2024-07-19T08:50:42","guid":{"rendered":"https:\/\/byte-bucket.com\/2024\/07\/19\/tenstorrent-in-den-kampf-gegen-nvidia-neue-hardware-und-workstations\/"},"modified":"2024-07-19T08:50:42","modified_gmt":"2024-07-19T08:50:42","slug":"tenstorrent-in-den-kampf-gegen-nvidia-neue-hardware-und-workstations","status":"publish","type":"post","link":"https:\/\/byte-bucket.com\/?p=9700","title":{"rendered":"Tenstorrent in den Kampf gegen NVIDIA: Neue Hardware und Workstations"},"content":{"rendered":"<p>Tenstorrent, ein aufstrebendes Unternehmen im Bereich der KI-Hardware, nimmt den Kampf gegen den Branchenriesen NVIDIA auf und will die Bed\u00fcrfnisse erf\u00fcllen, die NVIDIA auf dem Markt offen l\u00e4sst. Um dieses Ziel zu erreichen, hat das Unternehmen vor einigen Monaten begonnen, Entwicklungs-Kits in Form von PCI-Express-Karten mit Grayskull-Beschleunigern zu versenden. Diese Karten sind mit KI-Kernen ausgestattet, die im 12-nm-Verfahren hergestellt wurden. Allerdings verf\u00fcgen sie nur \u00fcber 8 GB LPDDR4-Speicher und kommunizieren \u00fcber das PCI-Express-Interface.<\/p>\n<p>Die Grayskull-Beschleuniger sind vielseitig einsetzbar und k\u00f6nnen sowohl f\u00fcr die Entwicklung von KI-Modellen als auch f\u00fcr den entsprechenden Code verwendet werden. Sie sind in Varianten mit einer Leistungsaufnahme von 75 W und 150 W erh\u00e4ltlich. Mit der zweiten Generation namens Wormhole geht Tenstorrent nun einen Schritt weiter. Die Chips werden immer noch im 12-nm-Verfahren hergestellt, sind aber mit 80 sogenannten Tensix-Kernen ausgestattet. Diese arbeiten mit einer Taktrate von 1 GHz und liefern eine beeindruckende Rechenleistung von 292 TOPS f\u00fcr FP8-Berechnungen.<\/p>\n<p>Die Chips haben nun auch eine integrierte Netzwerkverbindung und k\u00f6nnen miteinander mit einer Geschwindigkeit von 16x 200 GBit\/s kommunizieren. Der Speicher wurde von 8 auf 12 GB erweitert und es wird nun auch GDDR6-Speicher verwendet, der eine deutlich h\u00f6here Speicherbandbreite bietet. <\/p>\n<p>F\u00fcr die PCIe-Karte Wormhole n150 betr\u00e4gt die Leistungsaufnahme 150 Watt und der Preis liegt bei 999 US-Dollar. Mit der Dual-Chip-L\u00f6sung n300 steigt die Leistungsaufnahme auf 300 W an und der Preis betr\u00e4gt 1.399 US-Dollar.<\/p>\n<p>Dar\u00fcber hinaus bietet Tenstorrent auch zwei verschiedene Entwickler-Workstations an. Die Loadbox wird durch Luftk\u00fchlung betrieben, w\u00e4hrend die Quietbox eine Wasserk\u00fchlung hat. Die Hardware der beiden Workstations unterscheidet sich jedoch nicht nur in Bezug auf die K\u00fchlung. Die TT-Loadbox ist mit 2x Intel Xeon 4309Y Prozessoren (Ice Lake, 8 Kerne, 2,8 GHz, 105 W), einem Supermicro SYS-740GP-TNRT, 512 GB DDR4-3200-Speicher, einer 3,8 TB U2 NVMe Festplatte, 4x Wormhole n300 Beschleunigern, 4x Warp 100 Inters, 2x QSFP-DD 400GbE, einem 2.200 W Netzteil und 2x 10GbE (Onboard via Intel X550-AT) ausgestattet. Die TT-Quietbox hingegen verf\u00fcgt \u00fcber einen AMD EPYC 8124P Prozessor (16 Kerne, 3 GHz, 125 W), ein Tyan Tomcat HX S8040 Mainboard, 512 GB DDR5-4800-Speicher, eine 3,8 TB U2 NVMe Festplatte, 4x Wormhole n300 Beschleuniger, 4x Warp 100 Inters, 2x QSFP-DD 400GbE, ein 1.650 W Netzteil, 2x 10GbE (Onboard via Intel X710) und 2x Gigabit-Ethernet.<\/p>\n<p>W\u00e4hrend die Auslieferung der Wormhole-Beschleuniger bereits begonnen hat, k\u00f6nnen die Dev-Kits f\u00fcr TT-Loadbox und TT-Quietbox bisher nur vorbestellt werden und sollen innerhalb der n\u00e4chsten sechs bis acht Wochen verschickt werden. Die TT-Loadbox wird f\u00fcr 12.000 US-Dollar angeboten, w\u00e4hrend die wassergek\u00fchlte TT-Quietbox voraussichtlich 15.000 US-Dollar kosten wird.<\/p>\n<p>Mit diesen neuen Entwicklungen erweitert Tenstorrent sein Angebot f\u00fcr Entwickler und stellt eine Auswahl an Hardware bereit, die zur Verbesserung von Software und Modellen genutzt werden kann. Zus\u00e4tzlich steht mit TT-Buda ein Software-Stack zur Verf\u00fcgung, der nicht nur dem Namen nach \u00e4hnlich wie NVIDIAs CUDA ist, sondern auch einen \u00e4hnlichen Funktionsumfang bietet und einen einfachen Einstieg erm\u00f6glicht.<\/p>\n<p>Obwohl Tenstorrent etwas hinter seinem eigenen Zeitplan zur\u00fcckliegt, plant das Unternehmen, die Weiterentwicklung in den kommenden Jahren voranzutreiben. Die kommende Generation, die unter dem Namen Black Hole bekannt ist, wird in einem 6-nm-Verfahren hergestellt und wird mit eigenen CPU-Kernen ausgestattet sein. Anschlie\u00dfend wird Grendel in der 4-nm-Technologie folgen.<\/p>\n<p>Schlagw\u00f6rter: Supermicro SYS-740GP-TNRT < \/li + Warp + QSFP-DD 400GbE\n<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Tenstorrent, ein aufstrebendes Unternehmen im Bereich der KI-Hardware, nimmt den Kampf gegen den Branchenriesen NVIDIA auf und will die Bed\u00fcrfnisse erf\u00fcllen, die NVIDIA auf dem Markt offen l\u00e4sst. Um dieses Ziel zu erreichen, hat das Unternehmen vor einigen Monaten begonnen, Entwicklungs-Kits in Form von PCI-Express-Karten mit Grayskull-Beschleunigern zu versenden. Diese&#46;&#46;&#46;<\/p>\n","protected":false},"author":4,"featured_media":9699,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-9700","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/9700","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=9700"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/9700\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/9699"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=9700"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=9700"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=9700"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}