Hate Speech

Von der automatischen Klassifizierung zum Verständnis der emotionalen Dynamik

Hate Speech, d. h. verbale Aggressionen gegen Mitglieder verschiedener sozialer Gruppen, sind im Alltag weit verbreitet. Sie hat nachteilige Folgen für jeden, der ihr ausgesetzt ist. Unser Ziel ist es, sowohl die zugrundeliegenden Eigenschaften von Hate Speech als auch ihre Auswirkungen auf die Zuhörer zu verstehen.

Die bisherigen Arbeiten zum Thema Hate Speech beziehen sich überwiegend auf Texte wie Beiträge oder Kommentare auf Social-Media-Plattformen. Unser Ziel ist es, die Effizienz von Audioaufnahmen zu untersuchen, um eine emotionale Reaktion hervorzurufen, wobei wir uns besonders auf die Desensibilisierung des Zuhörers im Vergleich zu textlichen Darstellungen konzentrieren. Wir werden eine Audiodatenbank erstellen und akustische, linguistische und paralinguistische Merkmale analysieren, die für die vollautomatische Identifizierung von Hassreden relevant sind. 

Das Projekt verbindet zwei wichtige methodologische Ansätze. Erstens werden in experimentellen Studien der Inhalt der Stimuli, ihre Modalität und die Antwortmöglichkeiten der Teilnehmer manipuliert. Zweitens werden Methoden der Signalverarbeitung und des maschinellen Lernens eingesetzt, um Hassrede zu identifizieren und von anderen Arten von Sprache zu unterscheiden, sowohl für Sprecher als auch für Zuhörer. Schließlich werden wir in einer Reihe von psychologischen Studien untersuchen, wie die Auswirkungen von Hassreden auf die Zuhörer verringert werden können. Zum Beispiel, indem man aufhört, sie zu hören, oder indem man aktiv Gegenargumente zu Hassreden entwickelt.

Wir erwarten, dass andere Forscher in den Sozialwissenschaften großes Interesse daran haben werden, die Ergebnisse des vorgeschlagenen Projekts für ihre eigene Arbeit zu nutzen. Umgekehrt wird die manuell kommentierte Datenbank für die Sprachgemeinschaft in der Informatik eine sehr nützliche Grundlage für die Untersuchung und Klassifizierung von extremen Emotionen im Internet darstellen.

Förderstellen: Deutsche Forschungsgemeinschaft (DFG) (Gepris) und National Science Centre, Polen

Projektpartner: Center for Research on Prejudice, University of Warsaw http://cbu.psychologia.pl/ 

Ansprechpartner: Rathi Adarshi Rammohan, Dennis Küster