Meta, das Unternehmen, das hinter dem allgegenw\u00e4rtigen Facebook steckt, hat k\u00fcrzlich angek\u00fcndigt, dass es eigene Inferencing-Hardware in seinen Rechenzentren installieren wird. Urspr\u00fcnglich war dies f\u00fcr 2022 geplant, aber jetzt hat die zweite Generation der Eigenentwicklung, der Artemis-Chip, die B\u00fchne betreten. Der Name des Chips ist an die griechische G\u00f6ttin der Jagd angelehnt. Ob dieser Chip genauso schnell ist wie ein Pfeil von Artemis, ist jedoch noch nicht bekannt.<\/p>\n
Die erste Generation dieser Eigenentwicklung, bekannt als MTIA (Meta Training and Inference Accelerator), konnte die gew\u00fcnschten Ergebnisse im Jahr 2022 leider nicht liefern. Aber hey, wer hat nicht schon mal seine eigenen Erwartungen nicht erf\u00fcllt? Wir k\u00f6nnen nur hoffen, dass der Artemis-Chip besser abschneidet.<\/p>\n
Details zur genauen Struktur des Artemis-Chips sind noch nicht bekannt. Aber im Gegensatz dazu wissen wir, dass Meta f\u00fcr MTIA einen ASIC mit einer Taktfrequenz von 800 MHz und einer Rechenleistung von 102,4 TOPS f\u00fcr INT8-Operationen bzw. 51,2 TFLOPS f\u00fcr FP16-Operationen eingesetzt hat. Das klingt beeindruckend, aber ich wei\u00df immer noch nicht, was das alles bedeutet. Ich hoffe nur, dass dieser Chip nicht wie mein alter Computer st\u00e4ndig \u00fcberhitzt.<\/p>\n
Der MTIA verf\u00fcgt au\u00dferdem \u00fcber 128 GB LPDDR5, 128 MB SRAM und 68 Processing Elements (PEs), von denen jeder \u00fcber einen eigenen Cache von 128 kB verf\u00fcgt. Wow, das sind viele Zahlen und Abk\u00fcrzungen auf einmal. Ich hoffe, jemand hat einen Taschenrechner dabei. Die Produktion des MTIA erfolgt \u00fcbrigens im 7-nm-Verfahren bei TSMC. Das klingt nach einer komplizierten Angelegenheit, aber ich vertraue darauf, dass die klugen K\u00f6pfe bei Meta wissen, was sie tun.<\/p>\n
Sowohl MTIA als auch Artemis sind speziell f\u00fcr das Inferencing konzipiert. Ein Sprecher von Meta hat gegen\u00fcber Reuters betont, dass ihre eigenen Beschleuniger eine bedeutende Erg\u00e4nzung zu handels\u00fcblichen Grafikprozessoren (GPUs) darstellen. Das klingt nach einem schlagkr\u00e4ftigen Argument. Ich meine, wer will schon mit dem Auto fahren, wenn man auch ein Rennpferd haben kann?<\/p>\n
Meta ist einer der gr\u00f6\u00dften Abnehmer von KI-Hardware und hat f\u00fcr 2024 den Kauf von 350.000 H100-Beschleunigern von NVIDIA geplant. Das entspricht in etwa 600.000 H100-GPUs. Das ist eine beeindruckende Anzahl von GPUs. Ich hoffe nur, dass sie genug Platz in ihren Rechenzentren haben, um diese ganzen Ger\u00e4te unterzubringen. Vielleicht k\u00f6nnen sie ja ein paar alte Schr\u00e4nke aus dem Keller ihrer Gro\u00dfmutter nutzen.<\/p>\n
Obwohl das Training eine wichtige Rolle spielt, wird Meta auch weiterhin auf die Hardware eines anderen Herstellers angewiesen sein. Das Training ist sozusagen wie die Vorbereitung auf den Marathon, w\u00e4hrend das Inferencing der eigentliche Lauf ist. Meta m\u00f6chte nat\u00fcrlich, dass dieser Lauf so effizient wie m\u00f6glich ist, um Empfehlungsmodelle auf Facebook, Instagram und Threads schnell und genau zu machen. Da ist es verst\u00e4ndlich, dass sie auf eigene Hardware setzen, um die Anforderungen an KI-Workloads zu erf\u00fcllen.<\/p>\n
Also, lasst uns gespannt sein, wie sich der Artemis-Chip von Meta schl\u00e4gt. Vielleicht wird er uns alle mit seinem Tempo \u00fcberraschen, so wie Artemis es mit ihren Pfeilen getan hat. Oder vielleicht wird er einfach nur dazu beitragen, dass Facebook schneller Empfehlungen ausspuckt. In jedem Fall k\u00f6nnen wir sicher sein, dass Meta hart daran arbeitet, die Zukunft der KI voranzutreiben. Und wer wei\u00df, vielleicht werden wir eines Tages alle von KI-Chips beherrscht. Ach, Moment mal, das passiert ja schon!<\/p>\n
Schlagw\u00f6rter: MTIA + Meta + \/em Meta<\/p>\n","protected":false},"excerpt":{"rendered":"
Meta, das Unternehmen, das hinter dem allgegenw\u00e4rtigen Facebook steckt, hat k\u00fcrzlich angek\u00fcndigt, dass es eigene Inferencing-Hardware in seinen Rechenzentren installieren wird. Urspr\u00fcnglich war dies f\u00fcr 2022 geplant, aber jetzt hat die zweite Generation der Eigenentwicklung, der Artemis-Chip, die B\u00fchne betreten. Der Name des Chips ist an die griechische G\u00f6ttin der...<\/p>\n","protected":false},"author":4,"featured_media":4010,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-4011","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/4011","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=4011"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/4011\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/4010"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=4011"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=4011"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=4011"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}