On-Device AI: KI-Kumpels direkt auf unseren Geräten – kein Warten mehr auf die Cloud!

Die Bedeutung von künstlicher Intelligenz war auf dem Mobile World Congress (MWC) 2024 allgegenwärtig – fast so allgegenwärtig wie die Stände, an denen man kostenlose Stifte und Schlüsselanhänger abstauben konnte. Aber zurück zur KI. Sie betrifft nicht nur Mobilfunkantennen und Kommunikationssatelliten, sondern auch Backend-Software. Klingt spannend, oder? Aber was ist eigentlich dieser “On-Device AI” -Begriff?

On-Device AI bedeutet im Grunde genommen, dass unsere KI-Kumpels direkt auf unseren Geräten arbeiten. Keine langen Wege über die Cloud, sondern KI in der Hosentasche und auf dem Schreibtisch. Das klingt doch nach einer großartigen Idee, oder? Kein Warten mehr auf eine Internetverbindung, um unsere KI-Fragen zu beantworten.

Aber Moment mal, gibt es da nicht auch Nachteile? Richtig geraten. Wenn wir keine Online-Verbindung haben, können wir uns von unseren geliebten KI-Anwendungen verabschieden. Und dann besteht auch noch die Möglichkeit, dass unsere sensiblen Daten im Internet landen. Ups! Aber die Anbieter behaupten natürlich, dass On-Device AI die Cloud überflüssig macht. Die Berechnungen finden direkt auf unseren Geräten statt und die Daten bleiben schön da, wo sie hingehören.

Auf dem MWC 2024 gab es unterschiedliche Meinungen darüber, wie viel Hardware wir für On-Device AI benötigen. Einige behaupteten, dass sogar der leistungsschwächste CPU-Kern eines 100-Euro-Smartphones in der Lage ist, KI-Berechnungen durchzuführen. ARM zeigte uns das in einer Demonstration und ließ die CPU die ganze Arbeit machen. Die Botschaft dahinter ist klar: Spezielle KI-Beschleuniger sind nett, aber nicht unbedingt notwendig. Aber hey, sie können die Effizienz steigern und die Akkulaufzeit verlängern. Und wer will das nicht?

Qualcomm hingegen hatte da eine andere Meinung. Sie präsentierten auf dem MWC ihre neuen Funkplattformen mit integrierter KI-Hardware und -Funktionen. Sie erkennen den Bedarf an On-Device AI und wollen große Sprachmodelle lokal auf Smartphones und Notebooks zum Laufen bringen. Mit speziellen Neural Processing Units (NPUs) sollen die Prozessoren des Unternehmens die Verarbeitung übernehmen. Klingt nach einem Wettstreit zwischen ARM und Qualcomm. Wer gewinnt wohl?

Die anfängliche Intelligenz von On-Device AI mag nicht viel besser sein als die Sprachassistenten von Amazon, Apple und Google, die wir ohnehin schon auf unseren Geräten haben. Aber hey, KI im Gerät bietet klare Vorteile, besonders bei Text- und Bildgeneratoren sowie Foto- und Videobearbeitung. Die spezielle Hardware ist oft schneller und effizienter. Das ist doch was!

Ach ja, und bevor ich es vergesse: Qualcomm hat meine Reisekosten für den MWC übernommen. Also, vielen Dank dafür! Vielleicht sollte ich ihnen mal eine nette E-Mail schreiben.

Schlagwörter: MWC + On-Device AI + Qualcomm

Wie bewerten Sie den Schreibstil des Artikels?