Wissenschaftler des MIT und IBM Research haben eine revolution\u00e4re Methode entwickelt, um den Stromverbrauch von k\u00fcnstlichen Intelligenz (KI)-Aufgaben effizient zu quantifizieren. Diese neue Technik namens EnergAIzer hebt sich von herk\u00f6mmlichen Ans\u00e4tzen durch Geschwindigkeit und Pr\u00e4zision ab und adressiert ein bisher ungel\u00f6stes Problem: die effiziente Ermittlung der Hardwareauslastung, die f\u00fcr genaue Stromverbrauchsprognosen essenziell ist.<\/p>\n
Fr\u00fchere Verfahren teilten sich in zwei Hauptgruppen auf. Die erste basierte auf Simulationen des Workloads auf der Ebene einzelner Prozessoranweisungen, wobei Schritt f\u00fcr Schritt analysiert wurde, um die Auslastung zu berechnen. Diese Methode lieferte pr\u00e4zise Ergebnisse, ben\u00f6tigte jedoch mehrere Stunden, selbst f\u00fcr einfache Aufgaben, was sie unpraktisch f\u00fcr Echtzeit-Prognosen machte. Die zweite Methode f\u00fchrte den Workload tats\u00e4chlich auf einer GPU aus und sammelte w\u00e4hrenddessen Messwerte. Dieser Ansatz brachte jedoch erheblichen Overhead durch das Profiling mit sich und war zudem an die physische Verf\u00fcgbarkeit einer geeigneten GPU gebunden.<\/p>\n
EnergAIzer l\u00f6st diese Herausforderungen, indem es die Struktur von KI-Workloads nutzt. Es erkennt, dass diese haupts\u00e4chlich auf wiederkehrenden Kernelementen basieren, wie beispielsweise verallgemeinerten Matrixmultiplikationen (GEMMs), nichtlinearen Reduktionsfunktionen (z. B. Softmax) und einfachen elementweisen Operationen (z. B. Aktivierungsfunktionen). Diese Kernelemente machen 90 bis 99 Prozent der Ausf\u00fchrungszeit in diversen Sprach- und Bildverarbeitungssystemen aus. Die Optimierung dieser Kernelemente durch Techniken wie Aufteilung \u00fcber die Ausf\u00fchrungshierarchie, Thread-Block-Planung und Pipelining pr\u00e4gt den Speicherverkehr, die Lastverteilung und den Latenzausgleich. EnergAIzer extrahiert diese strukturierten Muster, abstrahiert die Kernelemente samt ihrer Optimierungsm\u00f6glichkeiten und erzeugt so ein grobes Raster, das dennoch architektonisch relevante Informationen f\u00fcr die Leistungsmodellierung liefert.<\/p>\n
Durch diesen Ansatz eliminiert EnergAIzer die Skalierbarkeitslimitierungen klassischer Leistungsmodellverfahren. Die Nutzungsinformationen werden auf nat\u00fcrliche Weise abgeleitet, was eine schnelle und pr\u00e4zise Leistungsabsch\u00e4tzung erm\u00f6glicht. Experimente zeigen einen Fehler von lediglich 8 Prozent bei verschiedenen KI-Workloads und unterstreichen die hohe Effizienz und Genauigkeit dieser neuen Methode.<\/p>\n
Schlagw\u00f6rter: EnergAIzer + B. Softmax + MIT<\/p>\n","protected":false},"excerpt":{"rendered":"
Wissenschaftler des MIT und IBM Research haben eine revolution\u00e4re Methode entwickelt, um den Stromverbrauch von k\u00fcnstlichen Intelligenz (KI)-Aufgaben effizient zu quantifizieren. Diese neue Technik namens EnergAIzer hebt sich von herk\u00f6mmlichen Ans\u00e4tzen durch Geschwindigkeit und Pr\u00e4zision ab und adressiert ein bisher ungel\u00f6stes Problem: die effiziente Ermittlung der Hardwareauslastung, die f\u00fcr genaue...<\/p>\n","protected":false},"author":4,"featured_media":16495,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-16496","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/16496","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=16496"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/16496\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/16495"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=16496"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=16496"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=16496"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}