OpenAI führt neuen Verifikationsprozess ein, um den Zugang zu KI-Modellen zu regulieren und Missbrauch zu verhindern
OpenAI hat in Reaktion auf vermeintliche Missbrauchsfälle durch Unternehmenskunden einen neuen Verifikationsprozess eingeführt, um den Zugriff auf kommende KI-Modelle zu regulieren. Dieses Vorgehen zielt darauf ab, unsichere Nutzungspraktiken einzudämmen und die von OpenAI vorgegebenen Nutzungsbedingungen konsequenter anzuwenden, nachdem zuvor einige Entwickler gegen diese verstoßen hatten. Die bereits veröffentlichten Sprachmodelle sind von dieser Änderung allerdings nicht betroffen. Der neue Verifikationsprozess ermöglicht Unternehmenskunden den Zugang zu neuen KI-Modellen und zusätzlichen Funktionen innerhalb der OpenAI-Plattform, wobei konkrete Details über diese Neuentwicklungen allerdings noch nicht offengelegt wurden. Um diesen Zugriff zu erhalten, müssen Firmenvertreter einen amtlichen Ausweis ihres Landes vorlegen, etwa einen Personalausweis oder Reisepass, und sich verifizieren lassen. Pro Person ist innerhalb eines 90-tägigen Zeitraums lediglich eine Verifikation zulässig. Derzeit steht diese Möglichkeit noch nicht allen Organisationen weltweit zur Verfügung, wobei OpenAI die spezifischen Länder, in denen die Verifikation aktuell nutzbar ist, nicht explizit angibt. Mit dieser Maßnahme reagiert OpenAI auf Erkenntnisse aus einer eigenen Analyse, in der das Unternehmen die bösartige Nutzung seiner Sprachmodelle beleuchtet hat. Dabei wurden Fälle aufgedeckt, in denen ChatGPT für die Generierung von Inhalten in Bewerbungen angeblicher IT-Mitarbeiter aus Nordkorea eingesetzt wurde. Zudem wurden Accounts mit mutmaßlichen Verbindungen zur nordkoreanischen Regierung beobachtet, die ChatGPT zur Recherche und zum Debugging von Code nutzten, um potenziell Remote-Desktop-Verbindungen anzugreifen. Ob nordkoreanische Hacker allerdings an der Hürde Verifizierung scheitern werden, darf bezweifelt werden. Während OpenAI somit den Zugang von Firmenkunden zu seinen Sprachmodellen weiter einschränkt, fordert das Unternehmen gleichzeitig von der Europäischen Union weniger Restriktionen im Umgang mit künstlicher Intelligenz, insbesondere beim Datenschutz. OpenAI plädiert für eine Vereinfachung von KI-Gesetzen und die Harmonisierung der Regelwerke innerhalb der EU. Darüber hinaus betont das Unternehmen die Notwendigkeit von mehr Investitionen in die Infrastruktur, wie zum Beispiel den Bau von Rechenzentren, Glasfasernetzen sowie Anlagen zur Gewinnung erneuerbarer Energien, um die Entwicklung und Anwendung von künstlicher Intelligenz zu fördern. Gleichzeitig sieht OpenAI einen Bedarf an finanziellen Mitteln für KI-Forschung und -Ausbildung, um diesen wichtigen Bereich weiter voranzutreiben.
Schlagwörter: OpenAI + ChatGPT + Nordkorea
(pz)
