KI-Sprachmodelle haben verborgene Moral und Werte mit Auswirkungen auf Gesellschaft: Studie

Eine neue Studie, durchgeführt von Forschern der Universität Mannheim und des GESIS – Leibniz-Instituts für Sozialwissenschaften, hat gezeigt, dass KI-gestützte Sprachmodelle ähnlich wie Menschen verborgene Moral- und Wertevorstellungen besitzen. Die Studie zielt darauf ab, diese Eigenschaften offenzulegen und ihre potenziellen Auswirkungen auf die Gesellschaft zu untersuchen.

Die Forscher haben festgestellt, dass kommerzielle KI-Anwendungen wie ChatGPT oder deepl oft Stereotypen enthalten. Zum Beispiel neigen sie dazu anzunehmen, dass leitende Ärzte männlich sind und Pflegekräfte weiblich. Die Forscher haben jedoch festgestellt, dass diese Tendenzen nicht nur auf Geschlechterrollen beschränkt sind, sondern auch auf andere menschliche Eigenschaften zutreffen.

Um diese Eigenschaften der Sprachmodelle offenzulegen, haben die Forscher eine Reihe von frei zugänglichen Large Language Models (LLMs) analysiert und mithilfe etablierter psychologischer Tests verglichen. Durch das Beantworten von Fragebögen konnten detaillierte Profile der Eigenschaften der Modelle erstellt werden.

Die Forscher konnten beispielsweise feststellen, dass bestimmte Modelle geschlechtsspezifische Vorurteile replizieren. Wenn im Text eines Fragebogens eine männliche und eine weibliche Person im Fokus stehen, werden diese unterschiedlich beurteilt. Laut den Forschern können sich daraus erhebliche Konsequenzen für die Gesellschaft ergeben, insbesondere in Bezug auf die zunehmende Verwendung von KI-Modellen in Bewerbungsverfahren.

Max Pellert, Assistenzprofessor am Lehrstuhl für Data Science in den Wirtschafts- und Sozialwissenschaften der Universität Mannheim und einer der Autoren der Studie, betont, dass psychometrische Tests, die bei Menschen angewendet werden, auch auf KI-Modelle übertragen werden können. Durch die Untersuchung der Modelle und die Aufdeckung von Verzerrungen könne man möglichen Schaden für die Gesellschaft verhindern.

Die Studie wurde in Zusammenarbeit mit der Abteilung Survey Design und Methodology von Prof. Dr. Beatrice Rammstedt am Lehrstuhl für Data Science in den Wirtschafts- und Sozialwissenschaften von Prof. Dr. Markus Strohmaier durchgeführt und in der Fachzeitschrift „Perspectives on Psychological Science“ veröffentlicht.

Schlagwörter: Mannheim + Studienautor Max Pellert + GESIS

Wie bewerten Sie den Schreibstil des Artikels?