Sarvam AI hat mit der Ver\u00f6ffentlichung von zwei ma\u00dfgeschneiderten Reasoning-Modellen, Sarvam 30B und Sarvam 105B, einen wichtigen Schritt in Richtung eines souver\u00e4nen indischen KI-\u00d6kosystems unternommen. Entwickelt und trainiert vollst\u00e4ndig in Indien mithilfe der Ressourcen der IndiaAI-Mission, zielen diese Modelle darauf ab, Indiens Rolle im Bereich k\u00fcnstliche Intelligenz zu st\u00e4rken und Anwendungen in lokalen Sprachen zu erm\u00f6glichen. Sarvam 30B, effizient und f\u00fcr Echtzeitanwendungen geeignet, treibt bereits das konversationelle Agentensystem Samvaad an. Sein gr\u00f6\u00dferes Pendant, Sarvam 105B, ist auf komplexere Aufgaben wie Codierung und Reasoning ausgerichtet und bildet die Grundlage f\u00fcr Indus, Sarvams mehrstufigen KI-Assistenten.<\/p>\n
Beide Modelle setzen auf eine Expertenarchitektur mit 128 Experten, um hohe Leistungsf\u00e4higkeit bei geringerer Rechenleistung zu erreichen. Sarvam 30B nutzt Grouped Query Attention (GQA) zur effektiven Reduzierung des Speicherbedarfs, w\u00e4hrend Sarvam 105B durch eine breite Palette an Trainingsdaten gl\u00e4nzt \u2013 von allgemeinen Wissensquellen bis hin zu spezialisierten Datens\u00e4tzen und einem starken Fokus auf Daten in 22 indischen Sprachen. Dieses vielf\u00e4ltige Datenset ist entscheidend f\u00fcr die Entwicklung von Modellen, die lokal relevante Herausforderungen adressieren k\u00f6nnen.<\/p>\n
Trotz des Potenzials sto\u00dfen die Modelle jedoch auf erste H\u00fcrden im \u00d6kosystem. Fehlende Standards zur Bereitstellung (GGUF) erschweren die lokale Ausf\u00fchrung mit g\u00e4ngigen Tools wie llama.cpp. Die Integration in verbreitete Inferenz-Frameworks wie vLLM bleibt ebenfalls begrenzt. Diese L\u00fccken k\u00f6nnen die breite Akzeptanz durch Entwicklerinnen und Entwickler behindern, was Branchenexperten zufolge h\u00e4ufig ein Faktor bei der Open-Source-Nutzung ist. Experten betonen die Notwendigkeit einer vorverpackten Form, um den Nutzwert f\u00fcr ein gr\u00f6\u00dferes Publikum zu maximieren.<\/p>\n
Die Ver\u00f6ffentlichung von Sarvam AI stellt dennoch einen wichtigen Meilenstein dar \u2013 ein Zeichen f\u00fcr die ambitionierte Entwicklung einer lokalen Open-AI-Infrastruktur in Indien. Es liegt nun an Sarvam, ein starkes Entwickler-\u00d6kosystem aufzubauen, um dem Wettbewerb globaler Akteure mit mehrsprachigen Modellen zuvorzukommen und das Potenzial dieser Modelle voll auszusch\u00f6pfen.<\/p>\n
Schlagw\u00f6rter: Sarvam AI + Sarvam 105B + Indien<\/p>\n","protected":false},"excerpt":{"rendered":"
Sarvam AI hat mit der Ver\u00f6ffentlichung von zwei ma\u00dfgeschneiderten Reasoning-Modellen, Sarvam 30B und Sarvam 105B, einen wichtigen Schritt in Richtung eines souver\u00e4nen indischen KI-\u00d6kosystems unternommen. Entwickelt und trainiert vollst\u00e4ndig in Indien mithilfe der Ressourcen der IndiaAI-Mission, zielen diese Modelle darauf ab, Indiens Rolle im Bereich k\u00fcnstliche Intelligenz zu st\u00e4rken und...<\/p>\n","protected":false},"author":4,"featured_media":15970,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-15971","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/15971","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=15971"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/15971\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/15970"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=15971"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=15971"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=15971"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}