OpenAI und Microsoft Threat Intelligence haben in einer gemeinsamen Aktion f\u00fcnf Konten geschlossen, die im Zusammenhang mit staatlichen Bedrohungsakteuren standen. Diese Konten wurden entweder genutzt, um b\u00f6sartige Cyberaktivit\u00e4ten vorzubereiten oder um die F\u00e4higkeiten durch den Einsatz von ChatGPT zu verbessern. Sowohl OpenAI als auch Microsoft haben in separaten Blogbeitr\u00e4gen \u00fcber diese Ma\u00dfnahme berichtet.<\/p>\n
Die Bedrohungsakteure wurden mit China, Russland, Nordkorea und dem Iran in Verbindung gebracht. Die Forschungsergebnisse, die k\u00fcrzlich ver\u00f6ffentlicht wurden, sollen die aufkommenden Herausforderungen im Zeitalter der k\u00fcnstlichen Intelligenz verdeutlichen. Besonderes Augenmerk liegt dabei auf den erkannten Aktivit\u00e4ten, die mit bereits bekannten Bedrohungsakteuren in Verbindung gebracht werden. Dazu geh\u00f6ren Prompt-Injections, der versuchte Missbrauch von gro\u00dfen Sprachmodellen (LLM) und betr\u00fcgerische Aktivit\u00e4ten.<\/p>\n
Die Analyse zeigt, dass das Verhalten der Bedrohungsakteure bei der Nutzung des LLM \u00dcbereinstimmungen mit Angreifern aufweist, die ebenfalls K\u00fcnstliche Intelligenz als Werkzeug verwenden. Konkret handelt es sich bei den Bedrohungsakteuren um die Gruppen Charcoal Typhoon und Salmon Typhoon, die mit China in Verbindung stehen. Sie haben die Dienste von OpenAI genutzt, um beispielsweise Cybersecurity-Tools zu untersuchen, Code zu debuggen, Skripte zu erstellen und Inhalte f\u00fcr Phishing-Kampagnen zu generieren, sowie Prozesse in Systemen zu verbergen.<\/p>\n
Der russischen Gruppe Forest Blizzard wird haupts\u00e4chlich ein Fokus auf Satellitenkommunikation und Radartechnik zugeschrieben, die m\u00f6glicherweise in Verbindung mit milit\u00e4rischen Operationen in der Ukraine stehen. Emerald Sleet, mit Verbindungen zu Nordkorea, hat unter anderem nach Fachleuten und Organisationen gesucht, die sich mit Verteidigung im asiatisch-pazifischen Raum besch\u00e4ftigen. Die iranische Gruppe Crimson Sandstorm hatte das Ziel, die Erkennung von Malware zu umgehen und Inhalte f\u00fcr Spear-Phishing-Kampagnen zu erstellen, einschlie\u00dflich der Entwicklung von Apps und Websites.<\/p>\n
OpenAI stellt fest, dass alle Aktivit\u00e4ten mit vorherigen Bewertungen \u00fcbereinstimmen, die in Kooperation mit externen Experten f\u00fcr Cybersicherheit durchgef\u00fchrt wurden. Es wurde auch festgestellt, dass GPT-4 nur begrenzte zus\u00e4tzliche F\u00e4higkeiten f\u00fcr b\u00f6sartige Cybersicherheitsaufgaben bietet, die \u00fcber die bereits \u00f6ffentlich verf\u00fcgbaren Informationen von nicht-KI-basierten Tools hinausgehen.<\/p>\n
Ein Vertreter der chinesischen Botschaft in den USA hat die Anschuldigungen als unbegr\u00fcndete Verleumdungen und Beschuldigungen gegen China verurteilt. Gleichzeitig setzt er sich f\u00fcr einen sicheren, verl\u00e4sslichen und kontrollierten Einsatz von KI-Technologie ein, um das allgemeine Wohlergehen der gesamten Menschheit zu f\u00f6rdern. Von russischen, nordkoreanischen und iranischen diplomatischen Vertretern liegt bisher keine unmittelbare Antwort auf eine Anfrage von Reuters vor.<\/p>\n
Um angemessen auf potenzielle Bedrohungen reagieren zu k\u00f6nnen und die Risiken durch die Nutzung ihrer eigenen KI-Tools und APIs gegen\u00fcber b\u00f6swilligen und staatlichen Akteuren zu minimieren, haben Microsoft und OpenAI gemeinsame Prinzipien eingef\u00fchrt. Bei entsprechenden Erkenntnissen behalten sich die beiden KI-Partner das Recht vor, betroffene Konten zu deaktivieren, Dienste zu beenden und den Zugang zu Ressourcen einzuschr\u00e4nken. Dar\u00fcber hinaus ist geplant, mit anderen Anbietern von KI-Diensten und weiteren Beteiligten zusammenzuarbeiten, um Informationen und Hinweise auszutauschen.<\/p>\n
Microsoft und OpenAI haben angek\u00fcndigt, ihre Sicherheitsvorkehrungen zu verbessern und mehr Transparenz zu gew\u00e4hrleisten, um ihre Erkenntnisse, die nun ver\u00f6ffentlicht wurden, zu verdeutlichen. Fr\u00fchere Versionen von ChatGPT erm\u00f6glichten es in der Vergangenheit durch spezielle Prompts, die Sicherheitsvorkehrungen zu umgehen und Zugang zu Anleitungen und Baupl\u00e4nen f\u00fcr chemische Waffen zu erhalten. Vor Kurzem haben Forscher von verschiedenen Universit\u00e4ten sowie von OpenAI die Forderung nach einem Notausschalter f\u00fcr KI erhoben, um im Bedarfsfall eingreifen zu k\u00f6nnen.<\/p>\n
Schlagw\u00f6rter: Microsoft + OpenAI + China<\/p>\n","protected":false},"excerpt":{"rendered":"
OpenAI und Microsoft Threat Intelligence haben in einer gemeinsamen Aktion f\u00fcnf Konten geschlossen, die im Zusammenhang mit staatlichen Bedrohungsakteuren standen. Diese Konten wurden entweder genutzt, um b\u00f6sartige Cyberaktivit\u00e4ten vorzubereiten oder um die F\u00e4higkeiten durch den Einsatz von ChatGPT zu verbessern. Sowohl OpenAI als auch Microsoft haben in separaten Blogbeitr\u00e4gen \u00fcber...<\/p>\n","protected":false},"author":4,"featured_media":4828,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-4829","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/4829","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=4829"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/4829\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/4828"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=4829"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=4829"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=4829"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}