Ist Youtube eine «Radikalisierungsmaschine»?

Auf harmlose Büsi-Clips auf Youtube folgen Verschwörungsclips? Das stimmt laut einer Studie aus den USA nicht. Sie widerspricht dem Verdacht, dass die Videoplattform häufig sexistische, rassistische oder extremistische Inhalte vorschlägt. Die Forschungsgruppe um Annie Chen von der City University of New York hatte für die im Fachjournal «Science Advances» veröffentlichte Arbeit Umfrage- und Browserdaten von 1181 Amerikanerinnen und Amerikanern aus dem Jahr 2020 ausgewertet und festgestellt, dass nur eine kleine, aber sehr aktive Gruppe von Nutzerinnen und Nutzern solche Inhalte konsumiert.

Sie zeigt, dass nur drei Prozent der Userinnen und User, die keinen Kanal mit extremistischen oder ähnlichen Inhalten abonniert hatten, solche Videos anschauten, weil Youtube sie ihnen empfohlen hatte. Wer aber schon vorher alternativen und extremistischen Kanälen folgte oder Videos mit solchen Inhalten sah, bekam mit hoher Wahrscheinlichkeit auch entsprechende Vorschläge für weitere derartige Videos. Als alternativ bezeichnet die Studie solche Videos, die die Absicht haben, diskreditierende Ansichten zu legitimieren. Wenn diejenigen Teilnehmenden ein alternatives Video sahen, war das nächste vorgeschlagene und angesehene Video in 54 Prozent der Fälle ein anderes alternatives oder ein extremistisches Video. Bei extremistischen Videos folgten sogar in fast 74 Prozent der Fälle solche Inhalte.

Allerdings machten diese Teilnehmenden nur einen geringen Anteil aus: Insgesamt sahen nur 15,4 Prozent der Teilnehmenden im Untersuchungszeitraum überhaupt alternative Videos und nur 6,1 Prozent extremistische Videos, die vor allem Vertreter der rassistischen «White Supremacy» (siehe Box) eingestellt hatten. Dazu zählen auch die Aufrufe, die nicht von Youtube vorgeschlagen wurden.

«Der Empfehlungsalgorithmus von Youtube spielt nur eine untergeordnete Rolle bei der Erleichterung des Kontakts mit potenziell schädlichen Inhalten», so die Forschenden. Laut ihnen deuten die Ergebnisse darauf hin, dass die Algorithmen von Youtube die Menschen – zumindest während des Beobachtungszeitraums – nicht radikalisiert. Weiter habe es nicht dazu verleitet, sich durch ständiges Weiterklicken auf extremistische oder ähnlich geartete Seiten zu verirren und so in ein sogenanntes «rabbit hole» (Kaninchenbau, siehe Box) zu locken. Diejenigen, die entsprechende Inhalte angezeigt bekamen, hatten sich vorher bereits als offen für diese erklärt.

Ist also alles gut? Nein, denn Youtube gibt extremistischen und menschenfeindlichen Themen weiterhin eine Bühne. Das «fördert das Wachstum problematischer Gemeinschaften», schreiben die Forschenden. Sie weisen darauf hin, dass viele Kanalaufrufe aus Empfehlungen von alternativen Plattformen entstehen, auf denen sich Nutzer mit einem hohen Mass an sexistischen und rassistischen Ressentiments versammeln können. «Das ermöglicht es den Urheberinnen und Urhebern alternativer und extremer Inhalte, von geteilten Youtube-Werbeeinnahmen oder indirekt über angeschlossene Shops und Spendenkampagnen zu profitieren.»

Weiter weist das Team um Chen darauf hin, dass «selbst sehr niedrige Raten von ‹Rabbit Hole›-Empfehlungen ausreichen, um eine grosse Anzahl gefährdeter Personen einem Schaden auszusetzen, insbesondere wenn man sie auf die gesamte Youtube-Zuschauerschaft und über Jahre hinweg hochrechnet». Die Plattform wird weltweit von rund 2,56 Milliarden Menschen genutzt. Zudem ist nach wie vor offiziell unklar, wie der Youtube-Algorithmus tatsächlich funktioniert. Es ist nur bekannt, dass er im Jahr 2019 geändert wurde. Laut den Betreibern hat das dazu geführt, dass etwa 50 Prozent weniger Zeit mit extremistischen und menschenfeindlichen Videos verbracht wurde. Überprüfen lässt sich das jedoch nicht.

Ein anderes Problem nennt Josephine Schmitt vom Center for Advanced Internet Studies in Bochum gegenüber dem Redaktionsnetzwerk Deutschland: «Selbst wenn nur ein kleiner, aber überzeugter Kreis an Personen durch die Algorithmen an noch mehr problematische Inhalte herangeführt wird, ist auch das eine grosse Herausforderung für die Demokratie.»

Die Studie hat Einschränkungen, wie die Forschenden selbst festhalten: Unter anderem, weil die Probanden und Probandinnen der Nutzung ihrer Daten zustimmen mussten. Das könnte die Stichprobe des Teilnehmerfelds verzerrt haben. Zudem leben alle Teilnehmenden in den USA. Ob die Resultate auch für Europa oder Deutschland gelten können, ist daher unklar. Ein weiterer Punkt ist, dass die Erkenntnisse sich ausschliesslich auf den Untersuchungszeitraum beziehen.