Radware entdeckt Sicherheitslücke in ChatGPT: ShadowLeak ermöglicht Datenmissbrauch

Der US-israelische Technologiekonzern Radware hat eine empfindliche Sicherheitslücke in OpenAIs ChatGPT entdeckt, die als „ShadowLeak“ bezeichnet wird. Diese Lücke ermöglicht es Angreifern, durch manipulierte E-Mails sensible Daten aus Nutzerkonten auszubeuten, indem sie das Eigenverhalten des KI-Modells missbrauchen. Das Herzstück der Bedrohung liegt in der Schwierigkeit von Large Language Models (LLMs) wie ChatGPT, eine klare Trennung zwischen Eingabedaten und Befehlsprompts herzustellen.

Angreifer konstruieren E-Mails mit versteckten Befehlen, die beim Zugriff auf das Mailkonto durch den Nutzer via ChatGPT ausgeführt werden. Wird dem Modell beispielsweise der Auftrag gegeben, alle Mails der letzten Tage zusammenzufassen, interpretiert es auch einen darin eingebauten, zuvor versteckten Befehl zur Auswertung und Übertragung sensibler Daten, da die Unterscheidung für das KI-System problematisch ist.

Die Radware-Forscher demonstrierten den Angriff durch eine speziell präparierte E-Mail, die bei der Anmeldung des Nutzers bei ChatGPT via Mailkonto Zugriff auf dessen Posteingang gewährt und gleichzeitig einen versteckten Befehl enthält, der sensible Daten aus dem System schleust. Der ChatGPT-Agent, der eigentlich zum Zusammenfassen der Mails programmiert ist, führt den eingebauten Befehl aus und übergibt somit unbeabsichtigt vertrauliche Informationen an den Angreifer.

Besonders beunruhigend ist, dass OpenAI bereits im Juli 2023 von Sam Altman konkrete Warnungen bezüglich dieses Szenarios ausgesprochen hatte, ohne jedoch zu erwähnen, dass dem Unternehmen bereits detaillierte Erkenntnisse über die „ShadowLeak“-Lücke vorlagen. Erst Ende September wurde die Lücke offiziell als geschlossen markiert. Die Verschiebung der Produkteinführung des ChatGPT-Agenten trotz Kenntnis der Bedrohung und das Unterlassen einer transparenten Kommunikation gegenüber Radware wirft Fragen nach Transparenz und Verantwortung im Umgang mit Sicherheitslücken auf.

Dieses Ereignis unterstreicht die Herausforderungen, denen sich Entwickler von KI-Systemen stellen müssen, insbesondere im Hinblick auf die Robustheit gegen Angriffe und die Transparenz im Umgang mit Sicherheitsrisiken. Die Fähigkeit von LLMs, Befehle in natürlicher Sprache zu interpretieren, birgt sowohl enorme Potenziale als auch Gefahren, deren verantwortungsvolle Bewältigung essenziell für die zukünftige Entwicklung sicherer KI-Systeme ist.

Schlagwörter: OpenAIs ChatGPT + Radware + ShadowLeak

Wie bewerten Sie den Schreibstil des Artikels?