Sexistischer Algorithmus

17. Oktober 2018 17:49; Akt: 17.10.2018 18:48 Print

Amazon-Roboter stellt lieber Männer ein

Der Onlineversand-Riese Amazon wollte mit Hilfe künstlicher Intelligenz neue Mitarbeiter rekrutieren. Weibliche Bewerber kamen dabei zu kurz.

Bildstrecke im Grossformat »

Zum Thema
Fehler gesehen?

Eigentlich hätte das Recruiting-Tool von Amazon den internen Bewerbungsprozess vereinfachen sollen. «Jeder wollte diesen heiligen Gral», sagt ein Angestellter gegenüber der Nachrichtenagentur Reuters. «Sie wollten buchstäblich eine Maschine, die 100 Bewerber analysiert und dann fünf davon ausspuckt, die schliesslich engagiert werden.»

Im Jahr 2015 stellte das Unternehmen jedoch fest, dass sein neues System die Kandidaten für Software-Entwickler-Jobs und andere technische Positionen nicht gender-neutral bewertete.

Hauptsächlich männliche Bewerber

Um den Algorithmus zu erstellen, nutzte Amazon grösstenteils Bewerbungen der vergangen zehn Jahre als Lernmaterial. Diese stammten jedoch vorwiegend von Männern. In einer Skala von eins bis fünf wurden männliche Bewerber grundsätzlich besser eingestuft, weil die Eigenschaft «männlich» als sehr hoch bewertet wurde.

Das System schloss also daraus, dass eine Bewerbung weiblichen Ursprungs als schlechter zu beurteilen ist. Die Entwickler versuchten dem System beizubringen, das Wort Frau neutraler zu bewerten, doch die Erfolge waren mässig.

Männerdominierte Branche

Anfang 2017 stoppte Amazon das Projekt. Die Rekrutierter hätten zwar die Empfehlungen des Programms berücksichtigt, sich aber nie ausschliesslich auf dessen Auswertung verlassen. Die Probleme mit der Software wollte der Onlinehändler auf Anfrage von Reuters nicht näher kommentieren.

Dass die Technologie-Branche von Männern dominiert wird, zeigt ein von Reuters abgebildetes Zahlendiagramm: Der Frauenanteil bei Amazon beträgt 40 Prozent in den USA, in den Führungspositionen sind sie mit einem Viertel vertreten. Bei den Technologie-Jobs gibt es keine Angaben. Bei Facebook sind sogar nur 36 Prozent der US-Angestellten weiblich, bei Google sind es 31 Prozent.

(kat)

Kommentarfunktion geschlossen
Die Kommentarfunktion für diese Story wurde automatisch deaktiviert. Der Grund ist die hohe Zahl eingehender Meinungsbeiträge zu aktuellen Themen. Uns ist wichtig, diese möglichst schnell zu sichten und freizuschalten. Wir bitten um Verständnis.

Die beliebtesten Leser-Kommentare

  • Bazzani am 17.10.2018 18:16 Report Diesen Beitrag melden

    Willkommen im 2018

    Jetzt werden sogar Algorithmen als sexistisch bezeichnet..Ich weiss ernsthaft nicht mehr ob ich lachen oderi weinen soll.

  • Talan Uring am 17.10.2018 18:02 Report Diesen Beitrag melden

    Falsche Terminologie

    Ein Algorithmus ist ein Algorithmus, also etwas, das nach einem exakten Rezept aufgrund eingegebener Daten vorgeht. Der kann nicht diskriminieren. Meine Güte!

    einklappen einklappen
  • Flora am 17.10.2018 18:24 via via Mobile Report Diesen Beitrag melden

    Gender

    Ja klar, und bei der Kinderbetreuung und als Floristin werden eindeutig Frauen bevorzugt. Warum wohl?

Die neusten Leser-Kommentare

  • Michel am 18.10.2018 13:14 Report Diesen Beitrag melden

    Nerv hoch 2

    So , jetzt nervt das ganze nur noch. Liebe Frauen , achtet darauf das die bereits erzielten Erfolge zunichte gemacht werden aufgrund nicht endender unsinniger Forderungen für das ach so schwache Geschlecht.. ups .. ist das jetzt auch sexistisch ? Ich als Mann muss nach wie vor meinen Mann stehen .. Frau kann sich Heutzutage aussuchen .. mal Powerfrau , mal schwaches Geschlecht das beschützt werden will. Ambivalenter geht ja kaum noch. In der Regel geht meine Kritik aber dann nicht an die Manuela oder der Samantha.. sondern den Clickgeilen Medien die solches immer wieder aufbauschen

  • S.G am 18.10.2018 11:40 via via Mobile Report Diesen Beitrag melden

    So einfach ist es

    Algorythmen können nicht sexistisch sein, so wie sie auch keine gefühle entwickeln oder auf Menschlicher ebene vorzeigen könnten. Somit bestätigt der Algorythmus nur eines, und zwar das unter den gesamt Bewerbern die Männer schlicht und einfach besser abschneiden. Punkt, Ende und aus.

    • leser am 18.10.2018 12:52 Report Diesen Beitrag melden

      ach wie einfach die welt doch ist?!

      falsch. wenn man algorithmen "voreingenommen" füttert, z.B. hauptsächlich mit Körpergrössen >185cm oder Präferenz Bier & Steak, dann gewichten diese das Kriterium auch entsprechend, wenn es signifikante Verbindungen zu tatsächlich relevanten Kriterien gibt. Das hat dann aber nichts mit sexistisch oder diskriminierend zu tun, denn diese Wertung kennt das System nicht. Ausser es wird explizit eingearbeitet.

    einklappen einklappen
  • Walt1 am 18.10.2018 10:55 Report Diesen Beitrag melden

    Komisch

    Wenn man die Maschine neutral halten wollte, hätte man doch einfach 50%+50% Bewerbungen einspeisen können und nicht alle (60+40%?). Kein Wunder kam es soweit, aus meiner Sicht.

    • leser am 18.10.2018 13:47 Report Diesen Beitrag melden

      absolut nicht komisch

      Du weisst aber schon, wie KNN funktionieren? Das Set an Trainingsdaten muss repräsentativ sein, und zwar in allen Bereichen. Bei 50w/50m beeinflusst Du genauso das Modell durch diese Vorauswahl, wie wenn Du 50/50 Hosen-/Rockträger oder Gleichverteilung der Augenfarbe forderst. Man will Algorithmen (nicht Maschine!) nicht neutral halten, sondern realitätsnah. Entweder um Entscheidungen zu automatisieren oder aber um Muster zu zeigen, die nicht unmittelbar ersichtlich sind, und daraus Empfehlungen abzuleiten.

    einklappen einklappen
  • Christ am 18.10.2018 10:39 via via Mobile Report Diesen Beitrag melden

    Logis

    Ich finde es auch schade aber es Ist doch ein rationales Vorgehen.

    • Claude am 18.10.2018 12:34 Report Diesen Beitrag melden

      @Christ

      Das denke ich nicht. Es geht hier um den Lernvorgang, der etwas hinter her hinkt. Wollen wir eine Entscheidung aus rein wirtschaftlichen Gründen? Wurde die Datenmenge aus wirklich neutraler Sicht eingelesen? was ist neutral überhaupt? Hier kratzen wir am Fundament unseres menschlichen Daseins.

    einklappen einklappen
  • SL;S am 18.10.2018 09:57 Report Diesen Beitrag melden

    ArbeitgererIN

    Kein Wunder - geht man nach Zahlen, Fakten und Statistiken kommt man zum Schluss, das Männer pro effektive Arbeitsstunde günstiger sind als Frauen (Weniger krank, weniger Tratsch, keine Schwangerschaft und meist viel umgänglicher) Sorry