Machine Learning

01. Juli 2015 20:43; Akt: 01.07.2015 20:43 Print

Google Fotos bezeichnet Schwarze als «Gorillas»

Von wegen Künstliche Intelligenz: Dem Fotodienst von Google+ ist ein fataler Fehler unterlaufen. Der Konzern zeigt sich entsetzt.

storybild

Als ob die USA derzeit nicht schon genug Probleme mit Rassismus hätten: Google Fotos betitelt Schwarze als «Gorillas». (Bild: Google Fotos/Montage)

Zum Thema
Fehler gesehen?

Peinliche Panne bei Google Fotos: Der App – an sich eine praktische Ergänzung zu den anderen Anwendungen des Suchmaschinen-Giganten – ist ein Riesenfehler unterlaufen. Die Gesichtserkennungs-Technologie des sogenannten Auto-Tagging-Features (siehe Infobox) hat Menschen schwarzer Hautfarbe als «Gorillas» bezeichnet.

Nun ist es ja leider nicht so, dass die USA derzeit keine Probleme mit der Diskriminierung nicht-europäischer Volksgruppen hätten. In Zeiten, in denen US-amerikanische Polizisten fast täglich mit dem Vorwurf von Rassismus konfrontiert werden und ein weisser Jugendlicher wahllos in eine schwarze Glaubensgemeinschaft schiesst, kommt eine solche Panne bei einer der grössten US-Firmen einem Skandal gleich.

Google kriecht zu Kreuze

Bemerkt hatte den diskriminierenden Fehler der New Yorker Programmierer Jacky Acliné, der zusammen mit seiner Freundin dem Lapsus im Google-Erkennungssystem zum Opfer gefallen war:


«Google Fotos, Ihr habts verkackt. Meine Freundin ist kein Gorilla.»

Yonatan Zunger, Entwickler in leitender Position bei Google+, antwortete etwa 90 Minuten später auf Twitter und informierte den Geschädigten, das Fotos-Team alarmiert zu haben.


«Heilige Scheisse! Hier ist Google+ Kalifornien. Nein, so benennt man keine seiner Zielgruppen. Das ist 100 Prozent nicht o.k.»

Zunger versuchte zudem, den Fehler auf die Komplexität des sogenannten Machine Learning zurückzuführen. Oder, wie er etwas plump argumentierte:


«Bis vor Kurzem hat Google Fotos auch Weisse verwechselt, und zwar mit Hunden und Robben. Machine Learning ist kompliziert.»

Einen Tag später war der Fehler dann behoben. Zudem veröffentlichte der Konzern folgendes versöhnliches Statement, wie Recode.net schreibt: «Wir sind entsetzt und es tut uns aufrichtig leid, dass dies passiert ist. Wir haben umgehend die nötigen Schritte eingeleitet, damit diese Titel nicht mehr angezeigt werden. Es gibt noch viel mit der automatischen Bildbeschriftung zu tun und wir arbeiten daran, dass solche Fehler in Zukunft nicht mehr passieren.»

Dennoch dürfte der 29. Juni, als der Fehler entdeckt und via Twitter verbreitet wurde, zweifelsohne einer der schwärzesten Tage in der jüngeren Geschichte von Google+ gewesen sein.

(pst)

Kommentarfunktion geschlossen
Die Kommentarfunktion für diese Story wurde automatisch deaktiviert. Der Grund ist die hohe Zahl eingehender Meinungsbeiträge zu aktuellen Themen. Uns ist wichtig, diese möglichst schnell zu sichten und freizuschalten. Wir bitten um Verständnis.

Die beliebtesten Leser-Kommentare

  • King Kong am 01.07.2015 21:02 via via Mobile Report Diesen Beitrag melden

    Gegenfrage

    Hat man sich auch bei den Weißen entschuldigt für die Verwechslung mit Robben?

    einklappen einklappen
  • Tom E. Gemcity am 01.07.2015 21:57 Report Diesen Beitrag melden

    Ja nee, ist klar...

    "Dennoch dürfte der 29. Juni (...) einer der schwärzesten Tage in der jüngeren Geschichte von Google+ gewesen sein.". Äusserst unpassender Schlusssatz von Euch ;-)

  • Michelle F. am 01.07.2015 22:04 via via Mobile Report Diesen Beitrag melden

    Ernsthaft jetzt?

    Im google gibt es soviel müll und falsch bezeichnungen aber dies ist ja so schlimm, dass man wieder ein riesen aufstand machen muss. Ist ja mal wieder typisch, aber wenn ein weisser im google als gorilla bezeichnet wird, ist es ja nicht schlimm. Mein gott. Man kanns ja auch übertreiben.

Die neusten Leser-Kommentare

  • Lars R. am 02.07.2015 13:41 Report Diesen Beitrag melden

    Beruhigt euch mal.

    Es ist eine Software die lernt. Was ist so schlimm daran? Wir haben weit grössere Probleme als ein Bild das fälschlicherweise falsch identifiziert wurde. Obwohl mann muss sagen, gewisse Ähnlichkeit besteht durchaus...

  • Hans Hofer am 02.07.2015 13:20 Report Diesen Beitrag melden

    Katastrophe ist etwas anderes

    Schwärzester Tag? Katastrophe? Wohl doch nicht! Die automatisierte Verwechslung ist sicher keine feine Sache; aber die Korrektur - nachdem Goggle es realisiert hat - ist sofort passiert. Es sind noch alle am Leben, Keiner trägt bleibende Schäden davon. Die Bezeichnung für eine Katastrophe ist bei mir für andere Ereignisse vorbehalten.

  • Dr. Achim am 02.07.2015 12:52 via via Mobile Report Diesen Beitrag melden

    offen und ehrlich

    Aber mal ehrlich, bin ich der einzige dem die Ähnlichkeit auffällt? Ich verstehe auch nicht warum man nicht sachlich darüber reden kann. Ich weiss schon, was ich da schreibe darf man auf keinen fall denken geschweige den ansprechen. Aber wäre es nicht sinnvoller dass man über solche Dinge spricht statt einem den Mund zu verbieten, ganz im Sinne der Meinungsfreiheit. Alle sehen es aber keiner darf darüber sprechen. Ist es nicht das was die Bürger am meisten aufbring, wenn man unangenehme Themen einfach totschweigt?

  • Susi Weber am 02.07.2015 08:21 via via Mobile Report Diesen Beitrag melden

    Peinlich

    Das ist wirklich ein PR GAU. Dass eine Bild Erkennung Software (noch) nicht perfekt ist sollte jedem klar sein. Aber auch dass die abgebildete Dame eher einem Primaten ähnlich sieht als Claudia Schiffer. Software funktioniert auf technische Weise mit Algorithmen und nicht Moralisch.

  • Hugo am 02.07.2015 08:17 via via Mobile Report Diesen Beitrag melden

    Wäre ich ein Nilpferd?

    Vermutlich würde ich als Nilpferd gehen;-) Da ich Dick bin und eine Glatze habe