Kalifornischer Anwalt bestraft: 10.000 Dollar für falsche Quellen durch KI generiert

In Kalifornien hat ein Anwalt aufgrund falscher Quellenangaben in einem Gerichtsantrag eine empfindliche Strafe in Höhe von 10.000 US-Dollar zahlen müssen. Dieser Vorfall, der laut dem Nachrichtenportal CalMatters als der höchste je verhängte Strafbetrag für ein solches Vergehen gegen einen einzelnen Anwalt in Kalifornien gilt, ereignete sich im Sommer 2023 und sorgte für Aufsehen, da er nur wenige Wochen nach der Behauptung von OpenAI stattfand, dass ihr KI-Modell ChatGPT sogar eine juristische Abschlussprüfung bestehen könne. Der Anwalt selbst bestätigte, dass er zwar seinen Berufungsantrag zunächst selbst verfasst hatte, jedoch ChatGPT zur Verbesserung des Textes einbezogen hatte. Allerdings räumte er ein, den generierten Text vor seiner Einreichung beim Gericht nicht gelesen zu haben und wusste somit nicht, dass die KI möglicherweise erfundene Inhalte erzeugt. 21 von 23 zitierten Quellen im Antrag erwiesen sich als frei erfunden, was das Gericht als Verstoß gegen die Gerichtsregeln sowie als Verschwendung von Zeit und Steuergeldern einstufte. Die Strafe wurde schließlich wegen eines unseriösen Berufungsantrags verhängt.

Der Fall illustriert die Herausforderungen, die mit dem Einsatz von Künstlicher Intelligenz in juristischen Kontexten einhergehen. Der Anwalt betonte zwar, dass KI bereits ein wichtiges Werkzeug im Rechtswesen sei und es unrealistisch sei, ihren Einsatz komplett zu verbieten, mahnt er jedoch gleichzeitig zur Vorsicht bei der Benutzung dieser Technologie. Ähnliche Vorfälle, in denen KI für erfundene Quellenverweise in Gerichtsdokumenten verantwortlich war, wurden in diversen Projekten bereits hunderte Male dokumentiert. Rechtsexperten wie Mark McKenna von der University of California, Los Angeles, sehen Universitäten und Anwaltskanzleien in dieser Entwicklung mitverantwortlich, da sie Anwälte stark zu KI-Anwendungen drängen, ohne die potenziellen Risiken ausreichend zu reflektieren. McKenna befürchtet daher, dass das Problem noch weiter eskalieren wird, bevor nachhaltige Lösungen gefunden werden können. Der Fall aus Kalifornien dient als alarmierendes Beispiel und unterstreicht die Notwendigkeit für eine verantwortungsvolle und überlegte Integration von KI im Rechtswesen sowie für verstärkte Aufklärung und Schulung in diesem sensiblen Bereich.

Schlagwörter: Kalifornien + KI + ChatGPT

Wie bewerten Sie den Schreibstil des Artikels?