AI Overview von Google gerät auf Social Media in die Kritik

Das neue KI-Produkt AI Overview von Google hat in den sozialen Medien für Aufregung gesorgt. Es gibt zahlreiche Beispiele von merkwürdigen Aussagen des Systems, wie zum Beispiel die Aufforderung an Benutzer, Kleber auf ihre Pizza zu geben oder Steine zu essen. Aufgrund dieser ungewöhnlichen und teilweise skurrilen Antworten hat Google AI Overviews für spezifische Suchanfragen manuell deaktivieren müssen, da sie sonst zu Memes wurden. Viele dieser Memes verschwinden jedoch schnell nach ihrer Veröffentlichung in den sozialen Netzwerken.

Diese Situation ist ungewöhnlich, da das KI-Produkt AI Overview von Google bereits seit einem Jahr getestet wird. Im Mai 2023 wurde die Funktion unter dem Namen „Search Generative Experience“ in der Beta-Version eingeführt. CEO Sundar Pichai gab an, dass in dieser Zeit über eine Milliarde Suchanfragen mit AI Overview bearbeitet wurden. Gleichzeitig betonte Pichai, dass Google die Kosten für die Bereitstellung von KI-Antworten um 80 Prozent gesenkt hat, dank Fortschritten in Hardware, Ingenieurwesen und Technologie.

Ein anonymer Gründer von KI äußerte gegenüber The Verge Bedenken darüber, dass diese Art der Optimierung möglicherweise zu früh erfolgt ist, bevor die Technologie bereit war. Das einst für seine Spitzenposition und die Bereitstellung qualitativ hochwertiger Produkte bekannte Unternehmen ist nun für eine minderwertige Version seines KI-Systems bekannt, das zum Meme wird.

Google behauptet jedoch weiterhin, dass AI Overview den Benutzern größtenteils qualitativ hochwertige Informationen liefert. Meghann Farnsworth, Sprecherin von Google, erklärte in einer E-Mail an The Verge, dass viele der beobachteten Beispiele ungewöhnliche Suchanfragen waren. Es gab auch Fälle, in denen die Suchergebnisse manipuliert wurden oder nicht reproduzierbar waren. Farnsworth bestätigte, dass Google schnell handelt, um AI Overviews bei bestimmten Suchanfragen gemäß den Inhaltsrichtlinien zu deaktivieren. Diese Beispiele werden genutzt, um umfassendere Verbesserungen an den Systemen zu entwickeln, von denen bereits einige eingeführt wurden.

Gary Marcus, ein Experte für künstliche Intelligenz und ehemaliger Professor für neuronale Wissenschaften an der New York University, betonte, dass viele KI-Unternehmen den Traum verkaufen, dass diese Technologie von 80 Prozent Genauigkeit auf 100 Prozent kommen wird. Laut Marcus ist es relativ einfach, die anfänglichen 80 Prozent zu erreichen, da es darum geht, eine große Menge an menschlichen Daten anzunähern. Die letzten 20 Prozent hingegen sind äußerst herausfordernd. Marcus ist der Meinung, dass diese verbleibenden 20 Prozent möglicherweise die schwierigste Herausforderung von allen sind. Es ist wichtig, vernünftig zu sein und zu entscheiden, ob etwas plausibel ist und ob die Quelle vertrauenswürdig ist. Marcus betonte, dass Handlungen ausgeführt werden müssen, die ein menschlicher Faktenchecker durchführen könnte, möglicherweise sogar unter Einsatz von künstlicher allgemeiner Intelligenz.

Marcus und Yann LeCun, der KI-Chef von Meta, sind sich einig, dass die großen Sprachmodelle, die derzeitige KI-Systeme antreiben, nicht das sind, was zum Schaffen einer AGI führen wird.

Google befindet sich in einer herausfordernden Lage. Bing hat vor Google auf KI gesetzt und sich dabei auf Satya Nadellas berühmtes Zitat „Wir haben sie tanzen lassen“ bezogen. OpenAI soll angeblich an einer eigenen Suchmaschine arbeiten, während ein neues KI-Suchstartup bereits einen Wert von 1 Milliarde erreicht hat. Zusätzlich wechseln immer mehr junge Benutzer, die das beste Erlebnis suchen, zu TikTok. Google steht unter großem Druck, sich mit anderen zu messen, und dieser Druck führt zu unkoordinierten Veröffentlichungen von KI-Technologien.

Marcus betont, dass Meta im Jahr 2022 ein KI-System namens Galactica veröffentlicht hat, das kurz nach dem Start aufgrund verschiedener Probleme wieder offline genommen werden musste. Das klingt vertraut.

Google hat große Pläne für AI Overviews – die derzeitige Funktion ist nur ein kleiner Teil dessen, was das Unternehmen letzte Woche angekündigt hat. Es gibt ehrgeizige Pläne für mehrstufiges Denken bei komplexen Suchanfragen, die Generierung einer von KI organisierten Ergebnisseite und die Integration der Videosuche in Google Lens. Es steckt viel Ambition dahinter. Allerdings hängt der Ruf des Unternehmens im Moment davon ab, die Grundlagen richtig umzusetzen, und das sieht nicht gut aus. Diese Modelle sind von Natur aus nicht in der Lage, ihre eigene Arbeit auf Vernunft zu überprüfen, und das ist das Problem, dem diese Branche jetzt gegenübersteht, sagte Marcus.

Schlagwörter: Google AI Overviews + Gary Marcus + Sundar Pichai

Wie bewerten Sie den Schreibstil des Artikels?