Nippel-Zensur

20. Februar 2012 10:44; Akt: 23.02.2012 06:41 Print

Facebooks heimliche Wächter

von Daniel Schurter - Das soziale Netzwerk kämpft mit externen «Moderatoren» gegen illegale und unerwünschte Inhalte. Ein vertrauliches Dokument zeigt die Checkliste der «Anti-Porno- und Blut-Brigade».

Bildstrecke im Grossformat »
Die 800 Millionen Nutzer stossen bei Facebook immer wieder auf problematische Bilder, Videos und Texte. Das US-Magazin «Gawker» hat die internen Richtlinien publik gemacht, nach denen die beanstandeten Beiträge beurteilt und gelöscht werden. Facebook hat das Bearbeiten der «Reklamationen» ausgelagert. Sogenannte «Inhalte-Moderatoren», die von einer Drittfirma angestellt sind, prüfen die Flut der täglichen Meldungen. Dazu steht ihnen ein Handbuch mit detaillierten Anweisungen zur Verfügung. Nur in ganz bestimmen Fällen schalten die externen «Moderatoren» einen Facebook-Mitarbeiter ein. Etwa dann, wenn es um Holocaust-Leugner geht. Facebook schreitet auch bei ernst zu nehmenden Drohungen gegen Privatpersonen, Politiker oder Polizisten ein. Die bei Facebook nicht geduldeten Abbildungen und Äusserungen sind in mehrere Kategorien aufgeteilt, von «Sex und Nackheit» über «Selbst-Gefährdung» bis «Mobbing und Belästigung». Alle Anweisungen für die Inhalte-Moderatoren wurden als vertraulich eingestuft. Gewalttätige Sprache («Ich liebe das Geräusch gespaltener Schädel») wird nicht toleriert. Hingegen sind Körperflüssigkeiten (ausser Sperma) ok, solange niemand damit blossgestellt wird. Nackte Haut und anstössige Positionen sind laut Handbuch nicht erlaubt. Das gilt auch für Bilder mit stillenden Müttern, deren Brust entblösst ist. Ein absolutes «No Go» sind weibliche Brustwarzen. Hier schreiten die Facebook-Zensoren unweigerlich ein. Im Gegensatz zu männlichen Nippeln, die laut interner Anweisung auf Nutzer-Bildern toleriert werden. Sexuelle Fetische sind in jeder Form unerwünscht - und werden gesperrt. Immerhin ist Vorspiel erlaubt, solange es nur Küssen und Grapschen in Kleidern ist (nicht wie auf dem Bild!). Darstellungen mit Minderjährigen in Unterwäsche sind tabu, auch wenn die Nutzer-«Postings» Cartoon-Figuren zeigen. Tiefe Fleischwunden dürfen laut Regelung gezeigt werden. Auch Schädelbrüche («ohne Innereien») werden toleriert, oder wenn viel Blut fliesst. Nicht gestattet sind Vibratoren oder anderes Spielzeug, das in Zusammenhang mit sexuellen Aktivitäten gezeigt wird. Leute, die das Badezimmer benutzen, dürfen nicht gezeigt werden. Jagdszenen sind ok, auch wenn getötete Tiere gezeigt werden. Wilderei ist tabu, bei bedrohten Tierarten will Facebook informiert werden. Marijuana und Haschisch werden toleriert in Postings. Eingeschritten wird nur bei Verdacht auf Handel oder Verkauf. Bei harten Drogen wird immer dann eingegriffen, wenn kein wissenschaftlicher oder medizinischer Kontext besteht. Im Zweifelsfall sollen die externen «Inhalte-Moderatoren» den Fall zur weiteren Prüfung an einen Facebook-Mitarbeiter weiterleiten. Es gibt auch bei verbotenen Inhalten Ausnahmen, die toleriert werden. Die «Beweislast» liegt beim Nutzer. Es muss also beispielsweise aus dem Beschrieb zu einem Hakenkreuz-Bild hervorgehen, dass es nicht um nationasozialistische Propaganda geht.

Zum Thema
Fehler gesehen?

Mit schönen Worten bereitet Facebook-Gründer Mark Zuckerberg den Börsengang seines Unternehmens vor. Doch hinter den Kulissen herrschen andere Zustände. Das macht das amerikanische Nachrichten-Portal «Gawker» publik. Die Journalisten konnten via Skype mit jungen Leuten sprechen, die für Facebook einen dreckigen Job erledigen.

Es handelt sich um sogenannte Inhalte-Moderatoren. Das sind Leute, die gegen Bezahlung als menschliche «Schmutz-Filter» funktionieren und problematische Web-Inhalte begutachten. Facebook beschäftige eine ausgelagerte «Anti-Porno- und Blut-Brigade», berichtet «Gawker» süffisant.

Der 21-jährige Marokkaner Amine Derkaoui gehörte für kurze Zeit dazu. Er wurde von einer Drittfirma engagiert, um fragwürdige Facebook-Postings zu sichten und wenn nötig zu sperren. Dabei gilt: Die Betreiber des sozialen Netzwerks geben die genauen Regeln vor, halten sich aber dezent im Hintergrund.

Schlimme Dinge

Die Inhalte-Moderatoren werden aktiv, wenn ein Facebook-Nutzer einen problematischen Beitrag meldet. Der zu prüfende Beitrag wird in einem Web-Tool beurteilt und gesperrt, falls er gegen die Facebook-internen Richtlinien verstösst (siehe Bildstrecke).

«Es ist erniedrigend», beklagte sich der zornige junge Marokkaner bei «Gawker». Für seine Arbeit habe er nur einen lausigen Dollar pro Stunde erhalten. Er benötigte einen PC mit Internet-Anschluss – und starke Nerven. Denn während der vierstündigen Schicht bekam er schlimme Dinge zu Gesicht.

Derkaoui hielt nicht lange durch und suchte sich einen anderen Nebenjob. Offenbar um sich zu rächen, hat er «Gawker» vertrauliche Dokumente seines Arbeitgebers ausgehändigt. Es handelt sich um die konkreten Anweisungen für die Inhalte-Moderatoren. So erfährt die Öffentlichkeit erstmals bis ins kleinste Detail, was Facebook den rund 800 Millionen Nutzern erlaubt, und wo das US-Unternehmen die Grenzen zieht. «Gawker» zeigt das vor kurzem aktualisierte Dokument online.

Mehrstufige Kontrolle

Ob sexueller Missbrauch von Tieren, Leichenschändung oder rassistische Hetze: Täglich veröffentlichen die Facebook-Nutzer unzählige Bilder, Kommentare und Videos, die gegen die Community-Regeln oder gar gegen die geltenden Gesetze verstossen. Dass solche Beiträge so schnell wie möglich entfernt werden, ist für Facebook auch aus wirtschaftlicher Sicht enorm wichtig. Das Geschäftsmodell basiert auf dem Verkauf von Online-Werbung – die Inserenten wollen ein möglichst «sauberes» Netzwerk.

Was das Aufspüren problematischer Inhalte betrifft, setzt Facebook auf automatische Filter-Software, ein eigenes Anti-Missbrauchs-Team – und vor allem auf die Nutzer. Sie sollen fragwürdige Beiträge melden, worauf diese unter die Lupe genommen werden. Die meisten gemeldeten Beiträge können von den externen Inhalte-Moderatoren bearbeitet werden. Es gibt aber auch klar definierte Fälle, die zur Weiterbearbeitung an Facebook-Mitarbeiter übergeben werden müssen. Etwa dann, wenn Hinweise auf einen Suizid vorliegen oder Drohungen gegen Personen geäussert werden.

Problematische Auslagerung

Die Inhalte-Moderatoren werden von der auf Outsourcing spezialisierten Firma oDesk in Kalifornien vermittelt. Gegenüber «Gawker» bestätigte eine Facebook-Sprecherin die Zusammenarbeit. Der Online-Jobvermittler oDesk beschäftigt laut «Gawker» ein Team von 50 meist jungen Leuten, die aus allen Ecken der Welt stammen, aus der Türkei, den Philippinen, Mexiko, Indien. Das ist angesichts der Vielsprachigkeit der Facebook-Nutzer auch sinnvoll.

Wer als Moderator effizient arbeitet, kann bis zu vier Dollar pro Stunde verdienen. Laut dem Bericht setzen auch andere Internet-Konzerne wie Google auf die Dienste von externen Online-Dienstleistungs-Firmen, um fragwürdige Inhalte zu bekämpfen.

Das Auslagern solcher Überwachungs-Aufgaben ist heikel. Denn dadurch erhalten Angestellte von Drittfirmen Zugriff auf hochsensible Nutzerdaten. Die Bilder, Videos und Texte müssen zudem übers Internet verschickt werden, weil die Moderatoren von zuhause aus arbeiten. Offenbar müssen sie sich zu absoluter Verschwiegenheit verpflichten. Zudem werden technische Vorkehrungen getroffen, um die Datensicherheit zu gewährleisten.

20 Minuten Online hat Facebook um eine Stellungnahme gebeten. Die Antwort steht aus.

Kommentarfunktion geschlossen
Die Kommentarfunktion für diese Story wurde automatisch deaktiviert. Der Grund ist die hohe Zahl eingehender Meinungsbeiträge zu aktuellen Themen. Uns ist wichtig, diese möglichst schnell zu sichten und freizuschalten. Wir bitten um Verständnis.

Die beliebtesten Leser-Kommentare

  • DieFeuerlilie am 20.02.2012 14:43 via via Mobile Report Diesen Beitrag melden

    Geiz ist halt immer noch geil.. 

    Userdaten kommerziell nutzen, damit Millionen verdienen, an die Börse gehen und noch mehr verdienen und dann Hungerlöhne zahlen.

    einklappen einklappen
  • Thorsten am 20.02.2012 10:47 Report Diesen Beitrag melden

    kann..

    ..man sich dort bewerben? Klingt nach einem chilligen Beruf .. Facebook nach solchen dingen zu durchstöbern

    einklappen einklappen
  • gstar am 20.02.2012 11:33 Report Diesen Beitrag melden

    nichts falsch daran

    Von der Entlöhnung abgesehen ist doch nichts falsch daran. Zensur kann man das nicht nennen, denn in jedem Forum gibt es Netiquetten die es zu beachten gibt, schon nur zum Schutz des Forumbetreibers und natürlich der menschlichkeits Willen. Ich gehe mal davon aus das auch ein Portal wie 20min keine Tierschändungs und pornografischen äusserungen akzeptiert.

Die neusten Leser-Kommentare

  • Peter Stettler am 20.02.2012 20:16 Report Diesen Beitrag melden

    die machen aber einen lausigen job...

    ...denn ich habe schon unzählige seiten mit pornografie gemeldet..die laufen immer noch weiter!...nicht das es mich stören würde, aber es hat nun auch mal minderjährige user...hingegen werden (unblutige) bilder von tierschützern gelöscht. aber man weiss ja langsam, dass fb 100% gegen tierschützer ist. typisch amerikanisch!! ansonsten finde ich es eine gute sache, dass es solche wächter gibt. aber eben, sie sollten dann auch die wirklich üblen sachen löschen...

    • Sandra.h am 22.02.2012 12:16 via via Mobile Report Diesen Beitrag melden

      Richtig

      Genau so ist es !!!

    einklappen einklappen
  • Rita am 20.02.2012 16:06 via via Mobile Report Diesen Beitrag melden

    FB ixt clean

    Also FB reagiert jeweils innert Minuten, wenn man ein bild beanstandet, jedenfalls meldete ich schon viele Male Nackbilder, die sogleich verschwanden. Für Busen, Mösen und Schwänze kann man ja auch youporn oder redtube glotzen gehen.

    • david roth am 20.02.2012 17:32 Report Diesen Beitrag melden

      Mann, sind Sie aber prüde!

      Das finde ich ehrlich gesagt eher rückständig, dass Sie sich an derartigen Lappalien entsetzen. Wenn Sie Probleme mit der Nacktheit des Menschen habe, bitte ich Sie sich zu überlegen einen Psychiater aufzusuchen - das meine ich ganz im Ernst.

    • Helvetier am 21.02.2012 04:01 Report Diesen Beitrag melden

      Der grösste Lump im ganzen Land...

      Solche Blockwarte wie dich nennt man eigentlich "Denunziant".

    einklappen einklappen
  • Smokey Bill am 20.02.2012 15:48 Report Diesen Beitrag melden

    1 Dollar pro Stunde

    Wow, 1 Dollar pro Stunde. Das deckt die ganzen Kosten für PC-Strom und Zigis, die man in dieser Zeit raucht.... Netto arbeitet man also gratis :-) Wo kann ich mich bewerben?

  • DieFeuerlilie am 20.02.2012 14:43 via via Mobile Report Diesen Beitrag melden

    Geiz ist halt immer noch geil.. 

    Userdaten kommerziell nutzen, damit Millionen verdienen, an die Börse gehen und noch mehr verdienen und dann Hungerlöhne zahlen.

    • WeisheitSiegt am 20.02.2012 17:48 Report Diesen Beitrag melden

      Kaufkraftparität???

      Das hat weniger mit Geiz zu tun als mit der unterschiedlichen Kaufkraft in den verschiedenen Länder. Mit 1 Franken lässt sich in Senegal eine Familie ernähren, in der Schweiz ist es nicht genug für ein Glas Mineralwasser.

    • Bruce Wayne am 21.02.2012 10:25 via via Mobile Report Diesen Beitrag melden

      Typisch!

      Das ist Typisch Mark Zuckerberg.

    einklappen einklappen
  • Ein Nicht-Facebook-Nutzer am 20.02.2012 11:57 Report Diesen Beitrag melden

    Interessante Details

    Ich finde es interessant, das die richtlinien für blut augenscheinlich viel weniger streng sind als die für nacktheit. warum ist das wohl so?

    • Sumpfhuhn am 20.02.2012 12:59 via via Mobile Report Diesen Beitrag melden

      Facebook:

      "We're all living in Amerika....."

    • alain am 20.02.2012 13:00 Report Diesen Beitrag melden

      das selbe

      es sind die selben verhältnisse wie sie auch in den us-amerikanischen medien zu finden sind.. gewalt ist ok, sex geht gar nicht!

    einklappen einklappen