Gegenrede: Hass-Detektor soll Wutbürgern das Leben schwer machen
Publiziert

GegenredeHass-Detektor soll Wutbürgern das Leben schwer machen

Ein Algorithmus sucht ab Herbst nach Hassrede im Netz. Engagierte können so «Haters» in die Schranken weisen und mit Gegenargumenten bombardieren.

von
Pascal Michel
1 / 8
30’000 Bewertungen haben 400 Nutzer in der App von Alliance F abgegeben.

30’000 Bewertungen haben 400 Nutzer in der App von Alliance F abgegeben.

Alliance F
Sie mussten entscheiden, ob ein Kommentar für Sie unter Hassrede fällt oder nicht,

Sie mussten entscheiden, ob ein Kommentar für Sie unter Hassrede fällt oder nicht,

Screenshot App
Mit diesen Daten baut Alliance F nun einen Algorithmus.

Mit diesen Daten baut Alliance F nun einen Algorithmus.

Screenshot App

Darum gehts

  • Ein Algorithmus sucht ab Oktober nach Hassrede im Netz.
  • Programmiert wird er derzeit von Alliance F.
  • Er kategorisiert Hasskommentare, auf die Nutzer reagieren können.
  • Ein Leitfaden zeigt, wie Gegenrede funktionieren kann.
  • Ein SVPler warnt, der Algorithmus müsse gut eingestellt sein.

«Faule und hinterlistige Frauen», Homosexuelle seien «abstossend», und SVP-Nationalrat Roger Köppel sei eine «Memme», die sich nicht in italienische Corona-Spitäler traue: Solche Kommentare legte Bot Dog, eine Web-App des Frauendachverbands Alliance F, in den letzten sechs Wochen Freiwilligen vor. Sie mussten entscheiden, ob diese beleidigend sind. Mit den Resultaten von 30’000 Bewertungen will Alliance F nun einen Algorithmus trainieren.

Das bisherige Fazit der App: Sieben Prozent der eingespeisten Kommentare aus Newsplattformen und Social Media wurden im Testlauf von rund 400 Nutzern eindeutig als Hasskommentare klassifiziert. Ein kurzer Durchlauf bei der Bewertungsplattform durch 20 Minuten zeigt: Viele Hasskommentare richten sich gegen Frauen oder die LGBTQI-Community (siehe oben).

Algorithmus sucht nach «Hate Speech»

Nachdem die rund 30’000 Bewertungen analysiert sind, will Alliance F im Oktober den Algorithmus grossflächig ausrollen, wie Co-Projektleiterin Sophie Achermann zu 20 Minuten sagt. Bot Dog wird dann die Kommentarspalten von Newsplattformen und Social Media wie Twitter nach Hasskommentaren durchsuchen und den App-Nutzern als Links zur Verfügung stellen. «Diese können dann gezielt kontern», sagt Achermann. Denn es sei wichtig, dass beleidigende Kommentare nicht unwidersprochen blieben. Einloggen müssen sich die Gegenredner dann jeweils selbst und unter ihrem eigenen Namen.

Dabei geht es Alliance F nicht primär darum, strafbare Kommentatoren zu identifizieren und anzuzeigen. Darauf fokussiert etwa der Verein Netzcourage von Jolanda Spiess-Hegglin. «Wir möchten vielmehr der Perspektive der Hasskommentierenden die Mehrheitsmeinung der stillen Zuschauerinnen und Zuschauer entgegensetzen», sagt Achermann. Gleichzeitig mit dem Start des Algorithmus wird Alliance F deshalb ein Handbuch aufschalten, das zeigt, wie man Hasskommentierer kontern soll (siehe Box).

Achermann ist überzeugt, dass Hater mit den Gegenreden vermehrt über ihre Aussagen nachdenken. Doch gibt man ihnen dadurch nicht noch mehr Aufmerksamkeit? «Nein. Bisher haben wir einfach zugeschaut, und wir sehen, wohin das führt.»

Was Hassrede ist, ist nicht ganz klar

Dass ein Algorithmus Hassreden klassifiziert und eine Gemeinschaft zur Gegenrede mobilisiert, birgt auch Knackpunkte. So gibt es keine exakte Definition davon, was Hassrede ist – gerade wenn es um Beiträge geht, die nicht klar strafrechtlich verfolgbar sind.

SVP-Nationalrat Franz Grüter begrüsst den Kampf gegen Hassrede, sagt aber auch: «Der Algorithmus muss sehr genau arbeiten. Er muss verhindern, dass aufgrund der linken Ideologie von Alliance F und den Nutzern der App auch nicht genehme politische Meinungen als Hassrede kategorisiert werden.» Man müsse aufpassen, nicht in eine Zensur hineinzugeraten.

Als Form von «Hate Speech» führt Alliance F auch die «Verschwörungstheorie» an. Für Grüter ist klar: «Hier wird es besonders heikel. Es muss möglich sein, auch abstruse Meinungen kundzutun, ohne dass der Alliance-F-Bot den Verfasser sofort an den Pranger stellt.» Achermann beruhigt: «Unser Algorithmus wird nur ‹Hate Speech› finden und keine Fake News.»

Was Gegenrede nützt

Was Gegenrede im Netz bringt, ist wissenschaftlich in der Schweiz noch wenig untersucht. «Organisierte Gegenrede kann aber offenbar Hassrede entgegenwirken», sagt Nina Hobi von Jugend und Medien und verweist auf eine Untersuchung in Deutschland. Gegenrede sei zudem wichtig, um Betroffene von «Hate Speech» zu unterstützen. «Zum Beispiel nützt es, wenn man einen Hass-Post in einem Kommentar mit dem Label ‹Rassismus› versieht», sagt Hobi. «Wenn Betroffene Solidarität erfahren, kann das eine grosse psychologische Hilfe dabei sein, mit Onlineangriffen umzugehen.»

Für die Schweiz untersuchten Forscher auch, ob sogenannte Gegennarrative zur Bekämpfung von radikal-islamischer Propaganda beitragen können. Im Unterschied zur «einfachen Gegenrede» liegen dort die Hürden höher: Damit die Gegenbotschaften ankommen, müssen gezielt die Argumente und Themen der Radikalisierten aufgegriffen werden – was grosse Kenntnisse über die betreffende Szene voraussetzt.

Mit «Hatern» reden

Wie kann man Hassredner kontern? Ein Auszug aus dem Leitfaden, den die Organisation bereits auf ihrer Homepage führt, stellt mögliche Strategien vor. Eine heikle Möglichkeit, welche teilweise aber funktionieren könne, sei Humor. Auf den Kommentar, Homosexualität sei etwas Unnatürliches, könne man antworten: «Im Gegenteil. Homosexualität ist etwas ganz Natürliches. Sie wurde auch bei vielen Tieren beobachtet, beispielsweise auch bei Löwen.» Oder: «Du beleidigst Leute, die anders sind als du? Du musst einen superaufregenden Freundeskreis haben.» Auf den Kommentar «die Nationalrätin muss mal richtig durchgevögelt werden» könne man antworten: «Schön, sorgst du dich um ihr Sexleben. Das hat aber nichts mit ihrer politischen Leistung zu tun.» Der Leitfaden wird in den nächsten Wochen noch aktualisiert.

Das tut 20 Minuten gegen Hass

20 Minuten toleriert keinerlei Hassrede in den Kommentarspalten. Ein Team von Freischaltern prüft täglich Hunderte Kommentare vor der Publikation. Seit kurzem ist zudem ein komplett neuer Algorithmus im Einsatz, der unzulässige Kommentare noch zuverlässiger aussortieren soll. Er wird stetig verbessert. 20 Minuten appelliert an alle, die an einem gepflegten Meinungsaustausch interessiert sind, die Anstandsregeln und die Kommentarrichtlinien zu beachten.

Deine Meinung

167 Kommentare