Facebooks heimliche Wächter

Mit schönen Worten bereitet Facebook-Gründer Mark Zuckerberg den Börsengang seines Unternehmens vor. Doch hinter den Kulissen herrschen andere Zustände. Das macht das amerikanische Nachrichten-Portal «Gawker» publik. Die Journalisten konnten via Skype mit jungen Leuten sprechen, die für Facebook einen dreckigen Job erledigen.

Es handelt sich um sogenannte Inhalte-Moderatoren. Das sind Leute, die gegen Bezahlung als menschliche «Schmutz-Filter» funktionieren und problematische Web-Inhalte begutachten. Facebook beschäftige eine ausgelagerte «Anti-Porno- und Blut-Brigade», berichtet «Gawker» süffisant.

Der 21-jährige Marokkaner Amine Derkaoui gehörte für kurze Zeit dazu. Er wurde von einer Drittfirma engagiert, um fragwürdige Facebook-Postings zu sichten und wenn nötig zu sperren. Dabei gilt: Die Betreiber des sozialen Netzwerks geben die genauen Regeln vor, halten sich aber dezent im Hintergrund.

Schlimme Dinge

Die Inhalte-Moderatoren werden aktiv, wenn ein Facebook-Nutzer einen problematischen Beitrag meldet. Der zu prüfende Beitrag wird in einem Web-Tool beurteilt und gesperrt, falls er gegen die Facebook-internen Richtlinien verstösst (siehe Bildstrecke).

«Es ist erniedrigend», beklagte sich der zornige junge Marokkaner bei «Gawker». Für seine Arbeit habe er nur einen lausigen Dollar pro Stunde erhalten. Er benötigte einen PC mit Internet-Anschluss – und starke Nerven. Denn während der vierstündigen Schicht bekam er schlimme Dinge zu Gesicht.

Derkaoui hielt nicht lange durch und suchte sich einen anderen Nebenjob. Offenbar um sich zu rächen, hat er «Gawker» vertrauliche Dokumente seines Arbeitgebers ausgehändigt. Es handelt sich um die konkreten Anweisungen für die Inhalte-Moderatoren. So erfährt die Öffentlichkeit erstmals bis ins kleinste Detail, was Facebook den rund 800 Millionen Nutzern erlaubt, und wo das US-Unternehmen die Grenzen zieht. «Gawker» zeigt das vor kurzem aktualisierte Dokument online.

Mehrstufige Kontrolle

Ob sexueller Missbrauch von Tieren, Leichenschändung oder rassistische Hetze: Täglich veröffentlichen die Facebook-Nutzer unzählige Bilder, Kommentare und Videos, die gegen die Community-Regeln oder gar gegen die geltenden Gesetze verstossen. Dass solche Beiträge so schnell wie möglich entfernt werden, ist für Facebook auch aus wirtschaftlicher Sicht enorm wichtig. Das Geschäftsmodell basiert auf dem Verkauf von Online-Werbung – die Inserenten wollen ein möglichst «sauberes» Netzwerk.

Was das Aufspüren problematischer Inhalte betrifft, setzt Facebook auf automatische Filter-Software, ein eigenes Anti-Missbrauchs-Team – und vor allem auf die Nutzer. Sie sollen fragwürdige Beiträge melden, worauf diese unter die Lupe genommen werden. Die meisten gemeldeten Beiträge können von den externen Inhalte-Moderatoren bearbeitet werden. Es gibt aber auch klar definierte Fälle, die zur Weiterbearbeitung an Facebook-Mitarbeiter übergeben werden müssen. Etwa dann, wenn Hinweise auf einen Suizid vorliegen oder Drohungen gegen Personen geäussert werden.

Problematische Auslagerung

Die Inhalte-Moderatoren werden von der auf Outsourcing spezialisierten Firma oDesk in Kalifornien vermittelt. Gegenüber «Gawker» bestätigte eine Facebook-Sprecherin die Zusammenarbeit. Der Online-Jobvermittler oDesk beschäftigt laut «Gawker» ein Team von 50 meist jungen Leuten, die aus allen Ecken der Welt stammen, aus der Türkei, den Philippinen, Mexiko, Indien. Das ist angesichts der Vielsprachigkeit der Facebook-Nutzer auch sinnvoll.

Wer als Moderator effizient arbeitet, kann bis zu vier Dollar pro Stunde verdienen. Laut dem Bericht setzen auch andere Internet-Konzerne wie Google auf die Dienste von externen Online-Dienstleistungs-Firmen, um fragwürdige Inhalte zu bekämpfen.

Das Auslagern solcher Überwachungs-Aufgaben ist heikel. Denn dadurch erhalten Angestellte von Drittfirmen Zugriff auf hochsensible Nutzerdaten. Die Bilder, Videos und Texte müssen zudem übers Internet verschickt werden, weil die Moderatoren von zuhause aus arbeiten. Offenbar müssen sie sich zu absoluter Verschwiegenheit verpflichten. Zudem werden technische Vorkehrungen getroffen, um die Datensicherheit zu gewährleisten.

20 Minuten Online hat Facebook um eine Stellungnahme gebeten. Die Antwort steht aus.