Sicherheitslücken in KI-Software: Schwachstellen in Machine-Learning-Frameworks entdeckt

Wer hätte gedacht, dass auch KI-Software anfällig für Sicherheitslücken ist? Ja, selbst unsere geliebten KI-Werkzeuge sind nicht immun gegen Probleme wie Codeschmuggel, Cross-Site Scripting und unerlaubte Dateioperationen. Es scheint, als ob selbst die künstliche Intelligenz nicht vor den Tücken der Cyberwelt sicher ist.

Kürzlich veröffentlichten die Organisatoren eines speziellen KI-Programms zur Belohnung von Sicherheitslücken eine Zusammenfassung der Entdeckungen des letzten Monats. Und es gab einige bemerkenswerte Funde. Gleich drei besonders gravierende Sicherheitslücken wurden von Sicherheitsforschern im auf Python basierenden Machine-Learning-Framework Ray aufgedeckt. Das ist eine ziemliche Schlappe für Ray, muss man sagen.

Ein Beispiel für eine gefährliche Sicherheitslücke besteht darin, dass Externe über den URL-Parameter „format=`echo test`“ beliebigen Code in das Dashboard von Ray einschleusen können. Das klingt nach einer simplen URL-Manipulation, aber das Ergebnis ist verheerend. Der übergebene Bash-Code wird nämlich mit Root-Rechten ausgeführt und der Ray-Server wird kompromittiert. Kein Wunder, dass diese Sicherheitslücke mit einem hohen CVSSv3-Wert von 10 von 10 möglichen Punkten bewertet wurde. Das ist wirklich keine gute Nachricht für Ray und seine Nutzer.

Aber Ray ist nicht alleine mit seinen Sicherheitsproblemen. Auch die Open-Source-Plattform MLflow, die den gesamten Lebenszyklus des maschinellen Lernens abdeckt, hat mit kritischen Sicherheitslücken zu kämpfen. Eine dieser Lücken ermöglicht es Angreifern, auf Dateien außerhalb des MLflow-Wurzelverzeichnisses zuzugreifen. Das ist natürlich alles andere als wünschenswert. Und als ob das nicht genug wäre, besteht auch das Risiko der Codeausführung durch den Upload beliebiger Dateien. Na toll.

Auch das Machine-Learning-Framework H2O bleibt von Sicherheitslücken nicht verschont. Angreifer können ohne vorherige Anmeldung präparierte Modelle hochladen und beliebige Kommandos auf einem H2O-Server ausführen. Das ist wirklich keine gute Nachricht für diejenigen, die H2O nutzen.

Glücklicherweise gibt es für die meisten dieser Sicherheitslücken Updates, die die Probleme beheben sollen. Betroffene Personen müssen lediglich von den fehlerhaften Versionen auf die bereinigten Versionen umsteigen. Das ist zwar etwas mühsam, aber immer noch besser, als Opfer eines Cyberangriffs zu werden.

Für diejenigen, die ihre KI-Infrastruktur auf Sicherheitslücken überprüfen möchten, gibt es sogar Github-Repositories mit Beispiel-Exploits und Vorlagen für Nuclei- und Metasploit-Module. Das ist wirklich eine tolle Sache. So können KI-Administratoren ihre Systeme auf Herz und Nieren testen und hoffentlich potenzielle Schwachstellen finden, bevor es jemand anderes tut.

Das Thema der Sicherheitslücken in KI-Anwendungen ist zu einer echten Herausforderung im Bereich der Informationssicherheit geworden. Besonders im Fokus stehen dabei Angriffe auf die Verarbeitungslogik von Sprachmodellen, bei denen über Prompt Injection unzulässige Anfragen ermöglicht werden. Es bleibt zu hoffen, dass die Entwickler von KI-Software zukünftig noch mehr Wert auf Sicherheit legen, um uns vor unliebsamen Überraschungen zu schützen.

Schlagwörter: Sicherheitslücken + AIWerkzeuge + Exploits

Wie bewerten Sie den Schreibstil des Artikels?