Ein Forschungsteam der Hochschule Darmstadt hat sich einem \u00e4u\u00dferst wichtigen Thema gewidmet: der Erkennung von Hasskommentaren im Internet. Aber keine Sorge, hier geht es nicht um Botox f\u00fcr die Stirn, sondern um das Projekt BoTox, das K\u00fcnstliche Intelligenz (KI) einsetzt, um beleidigende und gewaltt\u00e4tige Inhalte in Social-Media-Beitr\u00e4gen zu identifizieren und zu klassifizieren.<\/p>\n
Die Idee hinter BoTox ist, dass die Software automatisch Hasskommentare erkennt und analysiert, um sie dann an die Meldestelle HessenGegenHetze weiterzuleiten. Bereits zw\u00f6lf verschiedene strafbare Handlungen konnten von der Software identifiziert werden, was zeigt, dass das Team auf dem richtigen Weg ist.<\/p>\n
Um juristisches Fachwissen in das Projekt einzubringen, arbeitet das Team mit Dirk Labudde, einem Digitalforensiker von der Hochschule Fresenius in Idstein, zusammen. Schlie\u00dflich muss die Software nicht nur Hasskommentare erkennen, sondern auch zwischen einem Bot und einem menschlichen Verfasser unterscheiden k\u00f6nnen. Das ist besonders wichtig, da KI wie ChatGPT Inhalte generieren kann, die von Menschen stammen k\u00f6nnten.<\/p>\n
Eine weitere Herausforderung besteht darin, den Kontext zu analysieren, um festzustellen, ob es effektiver ist, Trolle zu ignorieren oder bewusst toxische Aussagen zu kritisieren. Hier geht es also auch darum, die besten Strategien im Umgang mit Hasskommentaren zu finden.<\/p>\n
Damit die Software optimal trainiert werden kann, sind umfangreiche Datens\u00e4tze erforderlich. Das Team nutzt dazu die Schnittstellen von Telegram, Facebook und YouTube. Fr\u00fchere Projekte, wie zum Beispiel DeTox, hatten auch Zugriff auf Twitter-Daten, aber aufgrund der hohen Kosten f\u00fcr Forschungslizenzen nach der \u00dcbernahme von Twitter durch Elon Musk, musste das Team in diesem Fall darauf verzichten.<\/p>\n
Das Forschungsprojekt BoTox l\u00e4uft bis 2025 und wird vom hessischen Innenministerium mit 292.000 Euro gef\u00f6rdert. Nat\u00fcrlich sind aktuelle Themen wie die Corona-Pandemie oder der Krieg in der Ukraine noch nicht in den Daten enthalten, aber das Team arbeitet daran, die \u00dcbertragbarkeit der Daten zu verbessern.<\/p>\n
Bei den Themen, die behandelt werden, stehen vor allem Antisemitismus, Holocaust-Leugnung, Ausl\u00e4nderfeindlichkeit, Migration, Rassismus und Diskriminierung von Minderheiten im Fokus. Da M\u00e4nner Hate Speech h\u00e4ufiger als Frauen verbreiten, sind die Anforderungen an das \u00dcbungsmaterial hoch. Es ist wichtig, dass die Realit\u00e4t in den Datens\u00e4tzen widergespiegelt wird.<\/p>\n
Um die Bewertung der Kommentare zu gew\u00e4hrleisten, werden sie von drei studentischen Hilfskr\u00e4ften bewertet. Dabei wird festgestellt, ob es sich um eine extremistische Meinung, eine akzeptable Beleidigung oder eine strafrechtlich relevante \u00c4u\u00dferung handelt. Anschlie\u00dfend werden die Ergebnisse mit denen der KI verglichen, um festzustellen, ob Menschen und Maschinen \u00e4hnliche Einsch\u00e4tzungen haben.<\/p>\n
BoTox ist ein wichtiger Schritt im Kampf gegen Hass im Internet. Mit Hilfe von KI k\u00f6nnen Hasskommentare schneller erkannt und gemeldet werden, um eine sicherere Online-Umgebung f\u00fcr alle zu schaffen. Es bleibt zu hoffen, dass das Projekt erfolgreich ist und in Zukunft noch mehr Menschen vor Hass und Diskriminierung sch\u00fctzen kann.<\/p>\n
Schlagw\u00f6rter: BoTox + Melanie Siegel + Darmstadt<\/p>\n","protected":false},"excerpt":{"rendered":"
Ein Forschungsteam der Hochschule Darmstadt hat sich einem \u00e4u\u00dferst wichtigen Thema gewidmet: der Erkennung von Hasskommentaren im Internet. Aber keine Sorge, hier geht es nicht um Botox f\u00fcr die Stirn, sondern um das Projekt BoTox, das K\u00fcnstliche Intelligenz (KI) einsetzt, um beleidigende und gewaltt\u00e4tige Inhalte in Social-Media-Beitr\u00e4gen zu identifizieren und...<\/p>\n","protected":false},"author":4,"featured_media":5422,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-5423","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/5423","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=5423"}],"version-history":[{"count":0,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/posts\/5423\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=\/wp\/v2\/media\/5422"}],"wp:attachment":[{"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=5423"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=5423"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/byte-bucket.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=5423"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}