Spätestens mit Beginn der Flüchtlingskrise sind die Netzdebatten um Ausländer und Muslime in den Fokus der Öffentlichkeit gerückt. Es ist bekannt, dass Nachrichtenartikel über Flüchtlinge viele Hasskommentare im Internet hervorgerufen haben. Aktuell filtern Online-Redaktionen mit hohem manuellem Moderationsaufwand die schlimmsten Beiträge heraus - und werden dafür nicht selten der unlauteren Zensur angeklagt. Andere haben längst kapituliert. Bereits mehr als die Hälfte der journalistischen Nachrichtenportale in Deutschland beschränken inzwischen die Kommentarfunktion auf ihrer Internetseite und in den sozialen Medien. Es ist offensichtlich, dass viele Redaktionen mit der Flut an Kommentaren zu kontroversen Themen überfordert sind.

Da liegt es nahe, automatische Analysen einzusetzen, um die Kommentare automatisch zu bewerten. Das Projekt Cyberhate-Mining hat untersucht, welchen Beitrag automatische Textanalysen bei der Moderation von Online-Diskussionen leisten können. Ziel des Projektes ist es dabei, Hass im Internet automatisch zu erkennen und letztlich einzudämmen. Die Erkennung mit Hilfe von Textanalyse-Techniken ist schwierig, aber nicht unmöglich. Bei der Auswahl der Methoden orientierten sich die Forscher an einer kürzlich veröffentlichten Studie von Forschern im Yahoo-Lab. Dabei kommen sowohl Wörterbuch-basierte als auch durch Deep-Leaning inspirierte Verfahren zum Einsatz. Trotz zahlreicher Einschränkungen bei Datensammlung und –bewertung kann im Projekt eine Vorhersagegenauigkeit von circa 70% erreicht werden.

Das Projekt Cyberhate-Mining ist ein studentisches Projekt im Rahmen des Master-Seminars Cyberhate-Mining am Lehrstuhl für Wirtschaftsinformatik und Informationsmanagement von Prof. Jörg Becker. Das Seminar wurde in freundlicher Kooperation mit dem IFK Münster und MineMyText durchführt. Zur Realisierung der Analyseumgebung kamen zahlreiche weitere Web-Tools und Technologien zum Einsatz. Für das Erlernen und Ausprobieren der Text-Analyse-Algorithmen, hat das Team über 350.000 Nutzerkommentare auf Nachrichtenseiten während der Flüchtlingskrise ausgewertet.

Ein wesentliches Ziel  des Projekts war es dabei, die verwendeten Techniken und Algorithmen für ein breiteres Publikum verständlich zu machen, um die Verfahren zur Hasserkennung möglichst transparent darzustellen. Das Forscherteam hat daher eine ausführliche Projektwebseite erstellt,  auf der Methoden und Ergebnisse vorgestellt und erklärt werden. Zudem werden viele weiterführende Links zum Forschungsthema zusammengestellt. Besonderer Clou: Am Ende dieser Webseite können die Besucher selbst ausprobieren, wie gut die verschiedenen Verfahren funktionieren.

Weiterführende Information:

• Projektwebseite Cyberhate-Mining: http://www.hatemining.de
• Forschungspapier Yahoo Labs: Abusive Language Detection in Online Content