01.07.2015 18:43

Machine LearningGoogle Fotos bezeichnet Schwarze als «Gorillas»

Von wegen Künstliche Intelligenz: Dem Fotodienst von Google+ ist ein fataler Fehler unterlaufen. Der Konzern zeigt sich entsetzt.

von
pst
Als ob die USA derzeit nicht schon genug Probleme mit Rassismus hätten: Google Fotos betitelt Schwarze als «Gorillas».

Als ob die USA derzeit nicht schon genug Probleme mit Rassismus hätten: Google Fotos betitelt Schwarze als «Gorillas».

Peinliche Panne bei Google Fotos: Der App – an sich eine praktische Ergänzung zu den anderen Anwendungen des Suchmaschinen-Giganten – ist ein Riesenfehler unterlaufen. Die Gesichtserkennungs-Technologie des sogenannten Auto-Tagging-Features (siehe Infobox) hat Menschen schwarzer Hautfarbe als «Gorillas» bezeichnet.

Nun ist es ja leider nicht so, dass die USA derzeit keine Probleme mit der Diskriminierung nicht-europäischer Volksgruppen hätten. In Zeiten, in denen US-amerikanische Polizisten fast täglich mit dem Vorwurf von Rassismus konfrontiert werden und ein weisser Jugendlicher wahllos in eine schwarze Glaubensgemeinschaft schiesst, kommt eine solche Panne bei einer der grössten US-Firmen einem Skandal gleich.

Google kriecht zu Kreuze

Bemerkt hatte den diskriminierenden Fehler der New Yorker Programmierer Jacky Acliné, der zusammen mit seiner Freundin dem Lapsus im Google-Erkennungssystem zum Opfer gefallen war:

«Google Fotos, Ihr habts verkackt. Meine Freundin ist kein Gorilla.»

Yonatan Zunger, Entwickler in leitender Position bei Google+, antwortete etwa 90 Minuten später auf Twitter und informierte den Geschädigten, das Fotos-Team alarmiert zu haben.

«Heilige Scheisse! Hier ist Google+ Kalifornien. Nein, so benennt man keine seiner Zielgruppen. Das ist 100 Prozent nicht o.k.»

Zunger versuchte zudem, den Fehler auf die Komplexität des sogenannten Machine Learning zurückzuführen. Oder, wie er etwas plump argumentierte:

«Bis vor Kurzem hat Google Fotos auch Weisse verwechselt, und zwar mit Hunden und Robben. Machine Learning ist kompliziert.»

Einen Tag später war der Fehler dann behoben. Zudem veröffentlichte der Konzern folgendes versöhnliches Statement, wie Recode.net schreibt: «Wir sind entsetzt und es tut uns aufrichtig leid, dass dies passiert ist. Wir haben umgehend die nötigen Schritte eingeleitet, damit diese Titel nicht mehr angezeigt werden. Es gibt noch viel mit der automatischen Bildbeschriftung zu tun und wir arbeiten daran, dass solche Fehler in Zukunft nicht mehr passieren.»

Dennoch dürfte der 29. Juni, als der Fehler entdeckt und via Twitter verbreitet wurde, zweifelsohne einer der schwärzesten Tage in der jüngeren Geschichte von Google+ gewesen sein.

Auto-Tagging:

Auto-Tagging ist eine Technologie, die Bildmotive (z. B. Essen, Orte, Tiere oder auch Menschen) erkennt und unter einem entsprechenden, übergeordneten Titel gruppiert. Im peinlichen Beispiel, das diesem Artikel zugrunde liegt, wurden Fotos von Menschen schwarzer Hautfarbe mit «Gorillas» betitelt.

Deine Meinung

Fehler gefunden?Jetzt melden.