OpenAI und Microsoft schließen Konten von staatlichen Bedrohungsakteuren

OpenAI und Microsoft Threat Intelligence haben in einer gemeinsamen Aktion fünf Konten geschlossen, die im Zusammenhang mit staatlichen Bedrohungsakteuren standen. Diese Konten wurden entweder genutzt, um bösartige Cyberaktivitäten vorzubereiten oder um die Fähigkeiten durch den Einsatz von ChatGPT zu verbessern. Sowohl OpenAI als auch Microsoft haben in separaten Blogbeiträgen über diese Maßnahme berichtet.

Die Bedrohungsakteure wurden mit China, Russland, Nordkorea und dem Iran in Verbindung gebracht. Die Forschungsergebnisse, die kürzlich veröffentlicht wurden, sollen die aufkommenden Herausforderungen im Zeitalter der künstlichen Intelligenz verdeutlichen. Besonderes Augenmerk liegt dabei auf den erkannten Aktivitäten, die mit bereits bekannten Bedrohungsakteuren in Verbindung gebracht werden. Dazu gehören Prompt-Injections, der versuchte Missbrauch von großen Sprachmodellen (LLM) und betrügerische Aktivitäten.

Die Analyse zeigt, dass das Verhalten der Bedrohungsakteure bei der Nutzung des LLM Übereinstimmungen mit Angreifern aufweist, die ebenfalls Künstliche Intelligenz als Werkzeug verwenden. Konkret handelt es sich bei den Bedrohungsakteuren um die Gruppen Charcoal Typhoon und Salmon Typhoon, die mit China in Verbindung stehen. Sie haben die Dienste von OpenAI genutzt, um beispielsweise Cybersecurity-Tools zu untersuchen, Code zu debuggen, Skripte zu erstellen und Inhalte für Phishing-Kampagnen zu generieren, sowie Prozesse in Systemen zu verbergen.

Der russischen Gruppe Forest Blizzard wird hauptsächlich ein Fokus auf Satellitenkommunikation und Radartechnik zugeschrieben, die möglicherweise in Verbindung mit militärischen Operationen in der Ukraine stehen. Emerald Sleet, mit Verbindungen zu Nordkorea, hat unter anderem nach Fachleuten und Organisationen gesucht, die sich mit Verteidigung im asiatisch-pazifischen Raum beschäftigen. Die iranische Gruppe Crimson Sandstorm hatte das Ziel, die Erkennung von Malware zu umgehen und Inhalte für Spear-Phishing-Kampagnen zu erstellen, einschließlich der Entwicklung von Apps und Websites.

OpenAI stellt fest, dass alle Aktivitäten mit vorherigen Bewertungen übereinstimmen, die in Kooperation mit externen Experten für Cybersicherheit durchgeführt wurden. Es wurde auch festgestellt, dass GPT-4 nur begrenzte zusätzliche Fähigkeiten für bösartige Cybersicherheitsaufgaben bietet, die über die bereits öffentlich verfügbaren Informationen von nicht-KI-basierten Tools hinausgehen.

Ein Vertreter der chinesischen Botschaft in den USA hat die Anschuldigungen als unbegründete Verleumdungen und Beschuldigungen gegen China verurteilt. Gleichzeitig setzt er sich für einen sicheren, verlässlichen und kontrollierten Einsatz von KI-Technologie ein, um das allgemeine Wohlergehen der gesamten Menschheit zu fördern. Von russischen, nordkoreanischen und iranischen diplomatischen Vertretern liegt bisher keine unmittelbare Antwort auf eine Anfrage von Reuters vor.

Um angemessen auf potenzielle Bedrohungen reagieren zu können und die Risiken durch die Nutzung ihrer eigenen KI-Tools und APIs gegenüber böswilligen und staatlichen Akteuren zu minimieren, haben Microsoft und OpenAI gemeinsame Prinzipien eingeführt. Bei entsprechenden Erkenntnissen behalten sich die beiden KI-Partner das Recht vor, betroffene Konten zu deaktivieren, Dienste zu beenden und den Zugang zu Ressourcen einzuschränken. Darüber hinaus ist geplant, mit anderen Anbietern von KI-Diensten und weiteren Beteiligten zusammenzuarbeiten, um Informationen und Hinweise auszutauschen.

Microsoft und OpenAI haben angekündigt, ihre Sicherheitsvorkehrungen zu verbessern und mehr Transparenz zu gewährleisten, um ihre Erkenntnisse, die nun veröffentlicht wurden, zu verdeutlichen. Frühere Versionen von ChatGPT ermöglichten es in der Vergangenheit durch spezielle Prompts, die Sicherheitsvorkehrungen zu umgehen und Zugang zu Anleitungen und Bauplänen für chemische Waffen zu erhalten. Vor Kurzem haben Forscher von verschiedenen Universitäten sowie von OpenAI die Forderung nach einem Notausschalter für KI erhoben, um im Bedarfsfall eingreifen zu können.

Schlagwörter: Microsoft + OpenAI + China

Wie bewerten Sie den Schreibstil des Artikels?