Gro\u00dfe Sprachmodelle (LLMs) wie ChatGPT faszinieren mit ihrer F\u00e4higkeit, koh\u00e4rente Texte zu generieren. Allerdings neigen sie auch dazu, sogenannte Halluzinationen hervorzubringen \u2013 also Informationen zu liefern, die nicht auf tats\u00e4chlichen Fakten beruhen, obwohl ihnen die n\u00f6tigen Daten fehlen. Um dieses Problem anzugehen, entstehen innovative Projekte, die KI gezielt zur Unterst\u00fctzung menschlicher Faktenchecker einbeziehen.<\/p>\n
Im Gegensatz zu einem klassischen Faktencheck, der scheitert, wenn das Modell selbst die fehlende Informationsbasis nicht erkennt, fokussieren diese neuen Ans\u00e4tze auf den Vergleich der verwendeten Quellen mit dem generierten Textoutput. Entdecken sie Ungereimtheiten \u2013 also zitierte Informationen, die nicht im tats\u00e4chlichen Quellentext vorkommen oder Falschdarstellungen von Fakten \u2013 wird dies als Alarmsignal erkannt.<\/p>\n
MITs Source-Linked Output : Ein Beispiel hierf\u00fcr ist das Projekt Source-Linked Output der MIT-Forscher. Dieses System versieht Fakten direkt im Ausgabetext mit Verweisen auf ihre Quellen \u2013 konkret auf Textstellen in Dokumenten oder Datenbanken. Demn\u00e4chst wird es gen\u00fcgen, mit einem Mauszeiger \u00fcber hervorgehobene Stellen zu fahren, um die verwendete Datenquelle zu \u00fcberpr\u00fcfen, anstatt m\u00fchsam ganze Dokumente durchzulesen. Nicht hervorgehobene Passagen signalisieren dem Nutzer hingegen Ausdr\u00fccke, die besondere Aufmerksamkeit f\u00fcr eine Verifikation erfordern.<\/p>\n
Second Opinion: Fokus auf Textzusammenfassungen : Ein weiteres Beispiel ist Second Opinion, ein Open-Source-Projekt des deutschen AI for Media Networks. Hier steht der Vergleich von Langtexten mit ihren Kurzfassungen im Mittelpunkt. Abweichungen werden farblich markiert; ein Klick auf die Passage liefert eine detaillierte Erkl\u00e4rung der Diskrepanz. Diese Methode erleichtert signifikant die Kontrolle, da Verf\u00e4lschungen in Zusammenfassungen direkt sichtbar werden.<\/p>\n
Es ist wichtig zu betonen: Weder Source-Linked Output noch Second Opinion ersetzen den menschlichen Faktencheck vollst\u00e4ndig. Fehler in der Ausgangsquelle k\u00f6nnen in die Zusammenfassung \u00fcbernommen und unentdeckt bleiben. Dennoch bieten beide Systeme effektive Werkzeuge, um die Arbeit von Faktencheckern zu unterst\u00fctzen, Unstimmigkeiten schneller zu identifizieren und so die Qualit\u00e4t und Zuverl\u00e4ssigkeit von generierten Inhalten deutlich zu verbessern.<\/p>\n
Schlagw\u00f6rter: KI + MIT + AI<\/p>\n","protected":false},"excerpt":{"rendered":"
Gro\u00dfe Sprachmodelle (LLMs) wie ChatGPT faszinieren mit ihrer F\u00e4higkeit, koh\u00e4rente Texte zu generieren. Allerdings neigen sie auch dazu, sogenannte Halluzinationen hervorzubringen \u2013 also Informationen zu liefern, die nicht auf tats\u00e4chlichen Fakten beruhen, obwohl ihnen die n\u00f6tigen Daten fehlen. Um dieses Problem anzugehen, entstehen innovative Projekte, die KI gezielt zur Unterst\u00fctzung...<\/p>\n","protected":false},"author":4,"featured_media":10800,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-10801","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/10801","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=10801"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/10801\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/10800"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=10801"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=10801"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=10801"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}