20.11.2020 16:37

Gefahr unerkanntInstagram entfernt während Corona-Krise 80 Prozent weniger Inhalte

Auf Instagram rutschten während der Monate April bis Juni viele Inhalte, die selbstverletzendes Verhalten zeigen oder das Thema Suizid behandeln, durch die Maschen. Dies wird von einer Wohltätigkeitsstiftung für Kinder scharf kritisiert.

von
Dominique Zeier
1 / 8
Während der Corona-Krise im Frühjahr hat Instagram deutlich weniger Inhalte entfernt, die selbstverletzendes Verhalten zeigen oder das Thema Suizid behandeln. 

Während der Corona-Krise im Frühjahr hat Instagram deutlich weniger Inhalte entfernt, die selbstverletzendes Verhalten zeigen oder das Thema Suizid behandeln.

Foto: Getty Images
Das kritisiert die Wohltätigkeitsstiftung für Kinder NSPCC scharf.

Das kritisiert die Wohltätigkeitsstiftung für Kinder NSPCC scharf.

Foto: Getty Images/iStockphoto
Denn so seien Kinder und Jugendliche in einer ohnehin schon instabilen und schwierigen Zeit deutlich mehr potenziell schädlichen Inhalten ausgesetzt gewesen.

Denn so seien Kinder und Jugendliche in einer ohnehin schon instabilen und schwierigen Zeit deutlich mehr potenziell schädlichen Inhalten ausgesetzt gewesen.

Foto: Getty Images

Darum gehts

  • Währen der Monate April bis Juni wurden auf Facebook rund 80 Prozent weniger potenziell schädliche Inhalte entfernt.

  • Hauptsächlich geht es dabei um Inhalte, die selbstverletzendes Verhalten zeigen oder das Thema Suizid behandeln.

  • Grund dafür ist, dass viele Content-Moderatoren während dieser Zeit nicht im Büro arbeiten konnten.

  • Nun möchte Facebook dem entgegenwirken und hat die Moderatoren wieder zurück ins Büro beordert.

  • Diese wehren sich aber dagegen.

Insbesondere in Zeiten von Lockdowns und Quarantäne sind Social-Media-Plattformen für ihre Nutzer so wichtig wie nie zuvor, stellen sie doch ein kleines, digitales Fenster zur Aussenwelt dar. Um diese Erfahrung so sicher wie möglich zu gestalten, haben Unternehmen wie Instagram oder Tiktok schon seit längerer Zeit Content-Moderatoren angestellt, deren Job es ist, potenziell gefährliche Inhalte anzusehen und wenn nötig, zu löschen. Wie Zahlen, die am Donnerstag veröffentlicht wurden, zeigen, wurden während der Monate April bis Juni allerdings beinahe 80 Prozent weniger schädliche Inhalte von der Plattform Instagram entfernt als normal.

Insbesondere betroffen sind Inhalte, die selbstverletzendes Verhalten zeigen oder das Thema Suizid behandeln, wie BBC berichtet. Dies kritisiert die Wohltätigkeitsstiftung für Kinder NSPCC scharf. Denn so seien Kinder und Jugendliche in einer ohnehin schon instabilen und schwierigen Zeit deutlich mehr potenziell schädlichen Inhalten ausgesetzt gewesen. Tatsächlich wurden in den Monaten Januar bis März rund 1,3 Millionen solcher Posts entfernt. Während der Monate April bis Juni waren es nur 277’400.

Algorithmen übersehen schädliche Posts

Ein ehemaliger Content-Moderator von Facebook, zu dem auch Instagram gehört, sagt gegenüber der BBC: «Das überrascht mich überhaupt nicht. Sie haben ja alle aus dem Büro nach Hause geschickt. Wer soll denn dann noch die Arbeit erledigen?»

Tatsächlich hat Facebook in der Zeit der Corona-Krise vermehrt auf Algorithmen und AI-unterstützte Moderation ihrer Inhalte gesetzt. Wie sich nun zeigt, haben diese aber viele Posts, die normalerweise als schädlich gekennzeichnet worden wären, übersehen. In einigen Fällen sei dies sogar bei Posts geschehen, bei welchen der Absender selbst eine Trigger-Warnung hinzugefügt habe.

Facebook scheint sich dessen bewusst zu sein, denn mittlerweile wurde ein Grossteil der Moderatoren wieder ins Büro zurückbeordert. Dies stiess bei den Mitarbeitern aber auf heftigen Widerstand. Mehr als 330 Content-Moderatoren haben am Mittwoch gemeinsam einen offenen Brief an Mark Zuckerberg veröffentlicht, in welchem sie darum bitten, nicht dazu gezwungen zu werden, ins Büro zurückzukehren. Denn sie fühlten sich dabei unsicher.

Neue Software

Das Unternehmen würde ihre Leben unnötigerweise in Gefahr bringen, heisst es im Brief weiter. Facebook versichert allerdings, dass die Arbeitsbedingungen in den Büros äusserst sicher seien und sogar mehr Vorsichtsmassnahmen als nötig getroffen worden seien.

Instagram hat ausserdem erst letzte Woche angekündigt, dass in der EU eine neue Software in der Entwicklung sei, die zu einer verbesserten automatischen Moderation von Inhalten führen soll. Facebook hält auch fest, dass die Anzahl blockierter Inhalte nach Juni wieder zugenommen habe und sich nun wieder auf einem Niveau wie vor den Corona-Zeiten befände.

Hast du oder jemand, den du kennst, Suizidgedanken? Oder hast du jemanden durch Suizid verloren?

Hier findest du Hilfe:

Pro Mente Sana, Tel. 0848 800 858

Seelsorge.net, Angebot der reformierten und katholischen Kirche

Muslimische Seelsorge, Tel. 043 205 21 29

Pro Juventute, Tel. 147

Hast du oder jemand, den du kennst, eine Depression?

Hier findest du Hilfe:

Pro Mente Sana, Tel. 0848 800 858

Kinderseele, Onlineberatung für Kinder psychisch kranker Eltern

Pro Juventute, Tel. 147

Digital-Push

Wenn du den Digital-Push abonnierst, bis du über News und Gerüchte aus der Welt von Whatsapp, Snapchat, Instagram, Samsung, Apple und Co. informiert. Auch erhältst du Warnungen vor Viren, Trojanern, Phishing-Attacken und Ransomware als Erstes. Weiter gibt es Tricks, um mehr aus deinen digitalen Geräten herauszuholen.

So gehts: Installiere die neuste Version der 20-Minuten-App. Tippe unten rechts auf «Cockpit», dann «Einstellungen» und schliesslich auf «Push-Mitteilungen». Beim Punkt «Themen» tippst du «Digital» an – et voilà!

Deine Meinung

Fehler gefunden?Jetzt melden.
12 Kommentare
Kommentarfunktion geschlossen

LieberGott

21.11.2020, 15:37

Sinnvoller wäre es, Kindern den Zugang zu Instagram und Co. zu verbieten. Was, das geht gar nicht? Oh, zeigen sich hier dann vielleicht abartige Abgründe der tollen neuen Technik?

Entfernt weniger Komentaren

21.11.2020, 11:37

Instagram ENTFERNT während Corona-Krise 80 Prozent WENIGER Komentaren. Also hat es jetzt mehr Komentare?

Ewig Gestrige

21.11.2020, 07:59

Hä was, gibts immer noch Menschen welche Istagram nutzen?