{"id":1716,"date":"2023-11-16T18:03:51","date_gmt":"2023-11-16T18:03:51","guid":{"rendered":"https:\/\/byte-bucket.com\/2023\/11\/16\/ki-update-trillion-parameter-consortium-und-neue-entwicklungen-in-ki-forschung\/"},"modified":"2023-11-16T18:03:51","modified_gmt":"2023-11-16T18:03:51","slug":"ki-update-trillion-parameter-consortium-und-neue-entwicklungen-in-ki-forschung","status":"publish","type":"post","link":"https:\/\/byte-bucket.com\/?p=1716","title":{"rendered":"KI-Update: Trillion Parameter Consortium und neue Entwicklungen in KI-Forschung"},"content":{"rendered":"<p>In einem Podcast stellt The Decoder das KI-Update vor, das die wichtigsten Neuigkeiten im Bereich der K\u00fcnstlichen Intelligenz kompakt pr\u00e4sentiert. Eine bedeutende Entwicklung in diesem Bereich ist das Trillion Parameter Consortium (TPC), eine globale Allianz von Wissenschaftlern, Forschungsinstituten und Industriepartnern. Das Konsortium hat es sich zum Ziel gesetzt, wissenschaftliche KI-Modelle zu unterst\u00fctzen, insbesondere solche mit einer Billion Parametern.<\/p>\n<p>Eine Billion Parameter? Klingt nach einer Menge, oder? Aber was bedeutet das eigentlich? Vereinfacht gesagt, sind Parameter die Bausteine, aus denen KI-Modelle bestehen. Je mehr Parameter ein Modell hat, desto komplexer und leistungsf\u00e4higer kann es sein. Mit einer Billion Parametern erreichen wir einen neuen Meilenstein in der KI-Forschung und erm\u00f6glichen noch fortschrittlichere Modelle.<\/p>\n<p>Das TPC konzentriert sich auf verschiedene Herausforderungen, die mit solch gro\u00dfen Modellen einhergehen. Dazu geh\u00f6ren die Entwicklung skalierbarer Modellarchitekturen, Trainingsstrategien, die Organisation und Kuratierung wissenschaftlicher Daten, die Optimierung von KI-Bibliotheken f\u00fcr Exascale-Computing-Plattformen sowie die Entwicklung von Evaluierungsplattformen. Das Konsortium strebt die Schaffung einer offenen Forschergemeinschaft an, in der gemeinsame Projekte initiiert werden, um Methoden, Tools, Ressourcen und Erkenntnisse miteinander zu teilen.<\/p>\n<p>Um das Training der Modelle zu erm\u00f6glichen, stellen mehrere National Laboratories des US Department of Energy sowie verschiedene TPC-Gr\u00fcndungspartner in Japan, Europa, Deutschland und anderen L\u00e4ndern Exascale-Computing-Ressourcen zur Verf\u00fcgung. Exascale-Computing? Das klingt nach einer Menge Power, oder? Exascale bezieht sich auf Computer, die in der Lage sind, eine Quintillion (10^18) Operationen pro Sekunde durchzuf\u00fchren. Das ist eine unglaubliche Rechenleistung, die ben\u00f6tigt wird, um Modelle mit einer Billion Parametern zu trainieren.<\/p>\n<p>Derzeit markieren Modelle mit einer Billion Parametern die Grenze des Machbaren im Bereich der KI-Modelle. Nur die gr\u00f6\u00dften kommerziellen KI-Systeme wie das erste GPT-4-Modell erreichen diese beeindruckende Gr\u00f6\u00dfenordnung. Obwohl die ersten Trainingsexperimente bereits gestartet sind, wird es noch einige Wochen oder Monate dauern, bis das Training in vollem Umfang beginnt.<\/p>\n<p>Aber es gibt nicht nur Modelle mit einer Billion Parametern, die unsere Aufmerksamkeit verdienen. Ein bemerkenswertes KI-Modell, das von DeepMind, einem Unternehmen von Google, entwickelt wurde, ist Lyria. Lyria ist speziell f\u00fcr die Generierung von Musik konzipiert und soll den kreativen Prozess von Musikern und K\u00fcnstlern bereichern. Das Modell ist in der Lage, hochwertige Musik in verschiedenen Genres wie Heavy Metal und Oper zu erzeugen und komplexe Rhythmen, Melodien und Gesangsstimmen beizubehalten. Das ist definitiv ein beeindruckender Fortschritt in der KI-Musikgenerierung.<\/p>\n<p>Aber nicht nur f\u00fcr Musiker gibt es spannende Entwicklungen. DeepMind und YouTube haben gemeinsam zwei KI-Experimente gestartet: Dream Track und Music AI Tools. Dream Track ist ein Experiment auf YouTube Shorts, bei dem die Nutzer die M\u00f6glichkeit haben, ein Thema und einen K\u00fcnstler auszuw\u00e4hlen, um einen 30-sek\u00fcndigen Soundtrack f\u00fcr einen Kurzfilm zu erstellen. Music AI Tools sind Werkzeuge, die auf k\u00fcnstlicher Intelligenz basieren und Musiker unterst\u00fctzen, indem sie die Transformation von Musikstilen oder Instrumenten erm\u00f6glichen, instrumentale und vokale Begleitungen erstellen und neue Musik oder Instrumentalpassagen von Grund auf generieren. Das ist doch mal eine kreative Art, KI einzusetzen!<\/p>\n<p>Aber Google DeepMind hat noch mehr zu bieten. Sie haben auch Mirasol vorgestellt, ein KI-Modell, das in der Lage ist, Fragen zu Videos zu beantworten. Mirasol verarbeitet Video- und Audiosignale sowie kontextbezogenen Text in separaten neuronalen Netzwerken. Das KI-Modul Combiner zerlegt das Video mit Audiospur in separate Segmente und komprimiert sie. Im Vergleich zu anderen multimodalen Modellen ist Mirasol in der Lage, l\u00e4ngere Videoabschnitte zu verstehen, obwohl es nur etwa drei Milliarden Parameter hat. Bei Tests erzielte Mirasol neue Bestwerte bei Video-Question-Answering-Benchmarks. In Zukunft k\u00f6nnten Modelle wie Mirasol dazu beitragen, Chatbots wie den k\u00fcrzlich pr\u00e4sentierten KI-Assistenten f\u00fcr YouTube dabei zu unterst\u00fctzen, Fragen zu Videos zu beantworten oder Funktionen wie die automatische Kategorisierung und Kapitelmarkierung von Videos zu optimieren.<\/p>\n<p>Neben den spannenden Entwicklungen von Google gibt es auch Neuigkeiten von Microsoft. Auf der Ignite-Messe hat Microsoft seinen eigenen ARM-Prozessor und KI-Beschleuniger f\u00fcr die Azure-Cloud vorgestellt. Die ARM-CPU Microsoft Azure Cobalt 100 und der KI-Prozessor Microsoft Azure Maia 100 werden ab dem kommenden Jahr verwendet. Microsoft plant zun\u00e4chst, die Chips f\u00fcr seine eigenen Dienste zu nutzen und sie vorerst nicht als Grundlage f\u00fcr mietbare Cloud-Instanzen anzubieten. Sie k\u00f6nnen jedoch auch f\u00fcr die OpenAI-Dienste genutzt werden. Der Maia-Prozessor ist sowohl f\u00fcr das Training von K\u00fcnstlicher Intelligenz als auch f\u00fcr Inferencing geeignet. Das bedeutet, dass er sowohl f\u00fcr das Lernen als auch f\u00fcr das Anwenden von KI-Modellen genutzt werden kann.<\/p>\n<p>Auf der Ignite-Konferenz pr\u00e4sentierte Microsoft eine Vielzahl neuer Anwendungen und Funktionen f\u00fcr seinen KI-Assistenten Copilot und \u00e4nderte zudem den Namen des Bing Chats. CEO Satya Nadella betonte die Wichtigkeit von Copilot und gab bekannt, dass Bing Chat nun in Copilot umbenannt wird. Der Chatbot in Microsofts Suchmaschine ist ab sofort unter der neuen Domain copilot.microsoft.com verf\u00fcgbar. Dank Microsofts Copilot Studio besteht die M\u00f6glichkeit, Low-Code-Tools zu erstellen und diese im OpenAI GPT-Store anzubieten. Der Copilot wird auch in verschiedene Anwendungen im Unternehmensbereich integriert. Entwickler k\u00f6nnen in einer gesch\u00fctzten Umgebung des Azure AI Studios arbeiten. Zus\u00e4tzlich zur Rundum-Versicherung f\u00fcr Copilot-Nutzer wird eine neue Dokumentationsfunktion eingef\u00fchrt, die einen zus\u00e4tzlichen Schutz bei Copyright-Klagen bietet. Das sind aufregende Neuigkeiten f\u00fcr Entwickler und Unternehmen, die von den M\u00f6glichkeiten von KI profitieren m\u00f6chten.<\/p>\n<p>Und zu guter Letzt gibt es noch eine interessante Entwicklung im Gesundheitssektor. Das neu entstehende Forschungszentrum CAIMed in Niedersachsen hat das Ziel, die Gesundheitsversorgung durch den Einsatz von k\u00fcnstlicher Intelligenz und kausalen Methoden in der Medizin zu revolutionieren. Das ist ein ehrgeiziges Vorhaben, das mit 15 Millionen Euro aus dem zukunft-niedersachsen Programm vom Ministerium f\u00fcr Wissenschaft und Kultur sowie der Volkswagenstiftung unterst\u00fctzt wird. Informatik- und Medizinforscher arbeiten daran, KI-Methoden und -Anwendungen zu entwickeln, die potenziell neue Pr\u00e4ventions- und Therapiem\u00f6glichkeiten f\u00fcr Krankheiten wie Krebs, Herz-Kreislauf-Erkrankungen, Diabetes und Alzheimer erm\u00f6glichen k\u00f6nnten. Das ist ein vielversprechender Ansatz, um die Gesundheitsversorgung zu verbessern und Menschen weltweit zu helfen.<\/p>\n<p>Das waren einige der neuesten Entwicklungen im Bereich der K\u00fcnstlichen Intelligenz. Es ist erstaunlich zu sehen, wie sich diese Technologie weiterentwickelt und immer mehr Bereiche unseres Lebens beeinflusst. Von Musikgenerierung \u00fcber Videoanalyse bis hin zur Gesundheitsversorgung &#8211; KI hat das Potenzial, unsere Welt zu ver\u00e4ndern. Es wird spannend sein zu sehen, welche weiteren Innovationen in Zukunft auf uns warten.<\/p>\n<p>Schlagw\u00f6rter: Trillion Parameter Consortium TPC + Lyria KIModell zur Musikgenerierung + CAIMed Forschungszentrum f\u00fcr KI in der Medizin<\/p>\n","protected":false},"excerpt":{"rendered":"<p>In einem Podcast stellt The Decoder das KI-Update vor, das die wichtigsten Neuigkeiten im Bereich der K\u00fcnstlichen Intelligenz kompakt pr\u00e4sentiert. Eine bedeutende Entwicklung in diesem Bereich ist das Trillion Parameter Consortium (TPC), eine globale Allianz von Wissenschaftlern, Forschungsinstituten und Industriepartnern. Das Konsortium hat es sich zum Ziel gesetzt, wissenschaftliche KI-Modelle&#46;&#46;&#46;<\/p>\n","protected":false},"author":4,"featured_media":1715,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-1716","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/1716","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=1716"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/1716\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/1715"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=1716"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=1716"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=1716"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}