{"id":5131,"date":"2024-02-29T14:24:11","date_gmt":"2024-02-29T14:24:11","guid":{"rendered":"https:\/\/byte-bucket.com\/2024\/02\/29\/on-device-ai-ki-kumpels-direkt-auf-unseren-geraeten-kein-warten-mehr-auf-die-cloud\/"},"modified":"2024-02-29T14:24:11","modified_gmt":"2024-02-29T14:24:11","slug":"on-device-ai-ki-kumpels-direkt-auf-unseren-geraeten-kein-warten-mehr-auf-die-cloud","status":"publish","type":"post","link":"https:\/\/byte-bucket.com\/?p=5131","title":{"rendered":"On-Device AI: KI-Kumpels direkt auf unseren Ger\u00e4ten \u2013 kein Warten mehr auf die Cloud!"},"content":{"rendered":"<p>Die Bedeutung von k\u00fcnstlicher Intelligenz war auf dem Mobile World Congress (MWC) 2024 allgegenw\u00e4rtig &#8211; fast so allgegenw\u00e4rtig wie die St\u00e4nde, an denen man kostenlose Stifte und Schl\u00fcsselanh\u00e4nger abstauben konnte. Aber zur\u00fcck zur KI. Sie betrifft nicht nur Mobilfunkantennen und Kommunikationssatelliten, sondern auch Backend-Software. Klingt spannend, oder? Aber was ist eigentlich dieser &#8222;On-Device AI&#8220; -Begriff?<\/p>\n<p>On-Device AI bedeutet im Grunde genommen, dass unsere KI-Kumpels direkt auf unseren Ger\u00e4ten arbeiten. Keine langen Wege \u00fcber die Cloud, sondern KI in der Hosentasche und auf dem Schreibtisch. Das klingt doch nach einer gro\u00dfartigen Idee, oder? Kein Warten mehr auf eine Internetverbindung, um unsere KI-Fragen zu beantworten.<\/p>\n<p>Aber Moment mal, gibt es da nicht auch Nachteile? Richtig geraten. Wenn wir keine Online-Verbindung haben, k\u00f6nnen wir uns von unseren geliebten KI-Anwendungen verabschieden. Und dann besteht auch noch die M\u00f6glichkeit, dass unsere sensiblen Daten im Internet landen. Ups! Aber die Anbieter behaupten nat\u00fcrlich, dass On-Device AI die Cloud \u00fcberfl\u00fcssig macht. Die Berechnungen finden direkt auf unseren Ger\u00e4ten statt und die Daten bleiben sch\u00f6n da, wo sie hingeh\u00f6ren.<\/p>\n<p>Auf dem MWC 2024 gab es unterschiedliche Meinungen dar\u00fcber, wie viel Hardware wir f\u00fcr On-Device AI ben\u00f6tigen. Einige behaupteten, dass sogar der leistungsschw\u00e4chste CPU-Kern eines 100-Euro-Smartphones in der Lage ist, KI-Berechnungen durchzuf\u00fchren. ARM zeigte uns das in einer Demonstration und lie\u00df die CPU die ganze Arbeit machen. Die Botschaft dahinter ist klar: Spezielle KI-Beschleuniger sind nett, aber nicht unbedingt notwendig. Aber hey, sie k\u00f6nnen die Effizienz steigern und die Akkulaufzeit verl\u00e4ngern. Und wer will das nicht?<\/p>\n<p>Qualcomm hingegen hatte da eine andere Meinung. Sie pr\u00e4sentierten auf dem MWC ihre neuen Funkplattformen mit integrierter KI-Hardware und -Funktionen. Sie erkennen den Bedarf an On-Device AI und wollen gro\u00dfe Sprachmodelle lokal auf Smartphones und Notebooks zum Laufen bringen. Mit speziellen Neural Processing Units (NPUs) sollen die Prozessoren des Unternehmens die Verarbeitung \u00fcbernehmen. Klingt nach einem Wettstreit zwischen ARM und Qualcomm. Wer gewinnt wohl?<\/p>\n<p>Die anf\u00e4ngliche Intelligenz von On-Device AI mag nicht viel besser sein als die Sprachassistenten von Amazon, Apple und Google, die wir ohnehin schon auf unseren Ger\u00e4ten haben. Aber hey, KI im Ger\u00e4t bietet klare Vorteile, besonders bei Text- und Bildgeneratoren sowie Foto- und Videobearbeitung. Die spezielle Hardware ist oft schneller und effizienter. Das ist doch was!<\/p>\n<p>Ach ja, und bevor ich es vergesse: Qualcomm hat meine Reisekosten f\u00fcr den MWC \u00fcbernommen. Also, vielen Dank daf\u00fcr! Vielleicht sollte ich ihnen mal eine nette E-Mail schreiben.<\/p>\n<p>Schlagw\u00f6rter: MWC + On-Device AI + Qualcomm<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Die Bedeutung von k\u00fcnstlicher Intelligenz war auf dem Mobile World Congress (MWC) 2024 allgegenw\u00e4rtig &#8211; fast so allgegenw\u00e4rtig wie die St\u00e4nde, an denen man kostenlose Stifte und Schl\u00fcsselanh\u00e4nger abstauben konnte. Aber zur\u00fcck zur KI. Sie betrifft nicht nur Mobilfunkantennen und Kommunikationssatelliten, sondern auch Backend-Software. Klingt spannend, oder? Aber was ist&#46;&#46;&#46;<\/p>\n","protected":false},"author":4,"featured_media":5130,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-5131","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/5131","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=5131"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/5131\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/5130"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=5131"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=5131"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=5131"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}