Gemini Trifecta: Sicherheitsrisiken durch Schwachstellen in Googles KI-Modell

Sicherheitsforscher haben drei Schwachstellen in Googles KI-Modell Gemini entdeckt, die unter dem Namen Gemini Trifecta zusammengefasst werden. Diese Verwundbarkeiten könnten zu erheblichen Sicherheitsrisiken führen und gefährden sowohl cloudbasierte Dienste als auch den Datenschutz der Nutzer. Ein zentraler Punkt dieser Bedrohungen liegt im Prompt-Injection-Verfahren, das es Angreifern ermöglicht, schädliche Anweisungen in die Eingaben an Gemini einzuschleusen. Besonders kritisch ist ein solcher Fehler in Gemini Cloud Assist, einem Tool zur Verarbeitung von Protokollen für Cloud-Dienste. Durch die Ausnutzung der Fähigkeit des Tools, direkt aus Rohprotokollen zusammenfassende Texte zu generieren, könnten Angreifer über einen manipulierten User-Agent-Header in HTTP-Anfragen bösartige Eingaben verstecken. Dadurch könnten sie Zugriff auf und Kontrolle über diverse Cloud-Dienste wie Cloud Run, App Engine, Compute Engine sowie die Cloud Asset API, die Cloud Monitoring API und die Recommender API erlangen und diese kompromittieren. Ein weiterer Angriffspunkt ist das Gemini Search Personalization-Modell, das für die individuelle Anpassung von Suchergebnissen zuständig ist. Hier lauert eine Search-Injection-Schwachstelle, die es Angreifern ermöglicht, gezielt Eingabeaufforderungen einzuschleusen und das Verhalten des KI-Chatbots zu manipulieren. Sie könnten beispielsweise den Chrome-Suchverlauf mit JavaScript beeinflussen und so ausspionieren, welche Informationen und Standortdaten ein Benutzer gespeichert hat. Das Modell selbst ist aufgrund seiner Funktionsweise anfällig für die Unterscheidung zwischen legitimen Nutzerwünschen und manipulierten Eingaben von außen. Auch das Gemini Browsing Tool birgt eine indirekte Prompt-Injection-Gefahr. Angreifer könnten den internen Aufruf des Tools zum Zusammenfassen von Webseiteninhalten ausnutzen, um gespeicherte Benutzerdaten wie Informationen und Standort auf einen externen Server zu transferieren. Durch diese Verschränkung von KI-Funktionalität und Datenübertragung entsteht ein komplexes Sicherheitsrisiko. Die Schwachstellen der Gemini Trifecta verdeutlichen die Herausforderungen, die mit der Implementierung leistungsstarker KI-Systeme einhergehen. Sie unterstreichen die Notwendigkeit kontinuierlicher Sicherheitsüberprüfungen und Schutzmaßnahmen, um potenzielle Angriffe zu minimieren und den Schutz von Nutzerdaten sowie die Integrität von Cloud-Infrastrukturen zu gewährleisten.

Schlagwörter: Googles KI-Modell Gemini + Gemini Trifecta + Gemini Cloud Assist

Wie bewerten Sie den Schreibstil des Artikels?