Privatsphäre

29. Oktober 2019 07:12; Akt: 29.10.2019 07:12 Print

Forscher tricksen Gesichtserkennung aus

Gesichtserkennung birgt Gefahren. Bei Missbrauch kann sie zum Verlust der Privatsphäre führen. Jetzt gibt es einen Weg, die Technologie in Echtzeit zu täuschen.

Bildstrecke im Grossformat »
Facebook AI Research hat ein Tool entwickelt, um Gesichter in Videos zu deidentifizieren. Mit anderen Worten: Das Tool soll verhindern, dass Gesichtserkennungsprogramme Personen identifizieren. Das erreicht sie, indem sie eine leicht verzerrte Version (Generated) auf dem Gesicht der gefilmten Person abbildet. Im Video ist dieser Unterschied kaum zu erkennen. Ähnlich wie bei Deepfake-Videos wird dazu eine künstliche Intelligenz (KI) benötigt. Die KI verwendet dabei eine Encoder-Decoder-Architektur, um sowohl eine Maske als auch ein Bild zu erzeugen. Das Gesicht der Person wird verzerrt und kann anschliessend in das Video eingebettet werden. Solche Methoden zur Anonymisierung können gefährdeten Personen, etwa Dissidenten, eine öffentliche Rede ermöglichen, die für Menschen erkennbar bleibt, nicht aber für KI-Systeme. Im öffentlichen Raum finden sich haufenweise Kameras. Meist sind sie zu Sicherheitszwecken installiert oder dienen der allgemeinen Überwachung. Die Ausstattung mit Gesichtserkennungssoftware ist jedoch umstritten. Auf der Pro-Seite steht die Sicherheit, so zum Beispiel bei Zutritts- oder Grenzkontrollen oder wenn gefährliche und gesuchte Personen sich im öffentlichen Raum aufhalten. Auf der anderen Seite ... ... steht die Befürchtung, dass die Gesichtserkennung einem die Möglichkeit nimmt, frei von ständiger Beobachtung durch die Regierung zu leben, wie es beispielsweise in China der Fall ist. Wäre so etwas auch bei uns denkbar? In Chinas Städten beispielsweise ist das Überwachungssystem allgegenwärtig. Mithilfe künstlicher Intelligenz und Gesichtserkennung werden die Videobilder von Tausenden Überwachungskameras ausgewertet. Der BBC-Reporter John Sudworth versuchte Ende 2017, diesem System von Überwachungskameras mit automatischer Gesichtserkennung in der Millionenstadt Guiyang zu entkommen. Dazu besuchte er die Überwachungszentrale und liess ein Bild von seinem Gesicht ins System einspeisen. Die Live-Bilder der Überwachungskameras laufen alle in einem grossen Kontrollzentrum zusammen. Wenn das System ein Gesicht erkennt, werden Beamte, die sich in der Nähe des Verdächtigen befinden, alarmiert. Bei seinem Test dauerte es nur sieben Minuten, bis Sudworth vom System erkannt und von Beamten gefunden wurde.

Zum Thema
Fehler gesehen?

Von der Entsperrung des Smartphones über animierte Emojis, Überwachungskameras im öffentlichen Raum bis hin zur Sicherheitskontrolle an Flughäfen: Software und Technologien zur Gesichtserkennung werden immer allgegenwärtiger.

Umfrage
Was halten Sie von Gesichtserkennungsstools?

Jetzt hat Facebook Artificial Intelligence Research (Fair) – eine Organisation mehrerer Forschungslabors für künstliche Intelligenz – ein maschinelles Lernsystem zur sogenannten Deidentifikation von Personen entwickelt. Also eine Technologie, die es Gesichtserkennungssoftwares schwermacht, eine Person zu identifizieren.

In Echtzeit und Live

Für Standbilder wurden in der Vergangenheit bereits Deidentifizierungs-Technologien entwickelt, diejenige von Fair ist jedoch die erste, die auch auf Videos angewendet werden kann, berichtet Venturebeat.com. Eine künstliche Intelligenz bildet dabei eine leicht verzerrte Version auf dem Gesicht der gefilmten Person ab, um so eine Identifikation zu verhindern.

Das Ganze sei laut Fair in Echtzeit möglich und könne sowohl bei vorab gefilmtem Videomaterial als auch bei Live-Videos angewendet werden. Dieses Video auf Youtube zeigt eindrücklich, wie klein der Unterschied vom realen Bild zum deidentifizierten Bild ist. Im Unterschied dazu wurden Standbilder in der Regel meist nachträglich bearbeitet.

Von Missbrauch und Verlust der Privatsphäre

Für die Branche stellt diese Technologie eine wichtige Premiere dar. Denn laut einer offiziellen Mitteilung seien auch Gesichtserkennungssoftwares nicht vor Missbrauch geschützt. Unter gewissen Umständen könne die Technologie zum Verlust der Privatsphäre führen oder missbraucht werden, um irreführende Videos zu erstellen.

Letzteres meint sogenannte Deepfakes – täuschend echte Bilder oder Videos, die mit Hilfe von künstlicher Intelligenz (Algorithmen) hergestellt werden, aber nicht echt sind. Deshalb sei es notwendig, solche Formen zur Deidentifikation zu untersuchen.

Ob Facebook die Technologie auf einem Teil der seiner Appfamilie (Whatsapp, Instagram) anwenden wird, ist unklar. Facebook selbst ist derzeit wegen seiner eigenen Gesichtserkennungspraktiken in eine 35 Millionen Dollar schwere Klage verwickelt. Das scheint Fair aber nicht davon abgehalten zu haben, eine Technologie zur Bekämpfung jener Missbräuche zu entwickeln, deren Facebook beschuldigt wird.

(vhu)

Kommentarfunktion geschlossen
Die Kommentarfunktion für diese Story wurde automatisch deaktiviert. Der Grund ist die hohe Zahl eingehender Meinungsbeiträge zu aktuellen Themen. Uns ist wichtig, diese möglichst schnell zu sichten und freizuschalten. Wir bitten um Verständnis.

Die beliebtesten Leser-Kommentare

  • Kay.S. am 29.10.2019 07:24 Report Diesen Beitrag melden

    Kontolle SM

    Das Problem liegt bei Facebook. Was so lapidar als Social Media bezeichnet wird ist nichts Anderes wie ein Linkes überwachungskonstrukt. Durch Datensammlung und angeblicher Optimierung und Anpassung wird nur eine Spionage und Kontrolle mit Beeinflussung und Steuerung bis hin zur Denunzierung bewirkt. Sowas zwischen Stasi und Scientology.

    einklappen einklappen
  • Tamtam am 29.10.2019 07:47 via via Mobile Report Diesen Beitrag melden

    Kein Vertrauen

    Meine beiden Töchter (keine Zwillinge) können beidseitig ihre FaceID öffnen. Ich habe kein Vertrauen an die Gesichtserkennung

    einklappen einklappen
  • peter am 29.10.2019 07:41 Report Diesen Beitrag melden

    zukunft

    grundsaetzlich bin ich ein freund von technologie. aber technologie wird IMMER missbraucht. es geht keinen was an was die menschen machen (denke das system bei verdacht das dann ueberwachung hochgefahren werden kann, mit richterlicher anordnung, gibt noch ein kontrollmechanismuss) aber ohne kontroll mechanismuss sind wir dem staat ausgeliefert. lass einen satz der jemanden nicht gefaellt, dein datensatz wird geloscht und du kannst nicht mal mehr ein brot kaufen. und da geht es leider hin. wenn nicht alle aufstehen, und die fueher den koenig aufhaengen, wird sich nichts aendern.

    einklappen einklappen

Die neusten Leser-Kommentare

  • Vroni am 30.10.2019 10:08 Report Diesen Beitrag melden

    Biometrie Unsinn

    Biometrie einmal im Netz = lebenslänglich unsicher. Und die Daten sind im Netz. Nur ein PW/PIN kann kann im Gegensatz zum Fingerabdruck etc. geändert werden.

    • Reni am 30.10.2019 14:20 via via Mobile Report Diesen Beitrag melden

      @Vroni

      Darum sind Biometriedaten auch mit einem Gerät verknüpft. Ohne das entsprechende Gerät also Nutzlos. Dazu sind Biometrische Daten wie Gesicht und Fingerabdruck leicht in der Öffentlichkeit zu bekommen. Kameras für Gesicht und Fingerabdrücke hinterlassen wir überall.

    einklappen einklappen
  • Urs am 30.10.2019 06:50 via via Mobile Report Diesen Beitrag melden

    Sicherheit ist gefährlich

    Wir werden früher oder später, genau wie China, zur totalen Überwachung übergehen. Schrittweise werden wir unsere Privatsphäre preisgeben. Ich finde das beängstigend, aber es wird sich nicht aufhalten lassen. Ich hatte schon vor 20 Jahren in der Firma festgestellt, dass man gegen Sicherheit keine Argumente vorbringen konnte bzw. durfte. Der Begriff Sicherheit öffnet der Justiz und dem Staat alle Tore, früher sogar die Erlaubnis für Kriege.

  • Markus Derungs am 29.10.2019 16:57 Report Diesen Beitrag melden

    Biometrische Daten sind unsicher

    Biometrische Authentifizierungen werden sich meiner Meinung nicht wirklich durchsetzen können, denn Biometrische Daten können immer kopiert werden. Sei das Fingerabdruck, Iris, Gesichtserkennung oder Venenscanner - völlig egal.

  • E. Schweizer am 29.10.2019 13:27 Report Diesen Beitrag melden

    ex-Facebookler

    Ich bin seit einem Jahr Facebook-frei. Herrlich :-) Und auf dem Natel habe ich noch Pincode.

    • toni_gallagher am 29.10.2019 14:06 Report Diesen Beitrag melden

      scheicer

      wow. gratuliere. ein wahrer Meilenstein in Sachen Selbstdisziplin. aber denkst du nur weil du nicht auf Facebook bist, bist du davor sicher!?

    • webarch am 29.10.2019 14:49 Report Diesen Beitrag melden

      alles nur scheinheilig

      @E.Schweizer, und? was willst du damit sagen? meinst du jetzt, du wärst was besseres? ehrlich gesagt, ob du bei Facebook bist oder nicht, interessiert die wenigsten. wieso haben jetzt soviele leute das gefühl, sie wären jetzt besser als andere, nur weil sie auf etwas verzichten? richtiger verzicht, wäre es auch, wenn man darüber nicht sprechen muss.

    • Informatiker am 29.10.2019 15:50 Report Diesen Beitrag melden

      Guter Anfang

      Ich habe kein Smartphone wegen der totalen Überwachung in der Schweiz seit 2018. Facebook, Windows 10 oder Alexa usw. kommen bei mir nicht ins Haus, auch wegen der Überwachung.

    • Reni am 29.10.2019 17:34 via via Mobile Report Diesen Beitrag melden

      @Informatiker

      Dank dem Gesetz darf ihre Wohnung/Haus verwanzt werden. Am besten ziehen sie sich in den Wald zurück. Viel spass beim Rauchsignal verschlüsseln.

    einklappen einklappen
  • Marc Suckerberg am 29.10.2019 12:21 via via Mobile Report Diesen Beitrag melden

    Ein schlechter Scherz!

    Billige Täuschung! Wer naiv ist soll's glauben! Der grösste Datensammler entwickelt ein Deidentifikationsprogramm? Ist heute schon der 1. April!

    • Gurkensalat am 30.10.2019 09:57 Report Diesen Beitrag melden

      Informieren vor reden

      Natuerlich haben sie das. Man kann von Facebook halten, was man will. Fakt ist aber, dass sie ganz vorne mit dabei sind in der Forschung um Computer Vision und Machine Learning. Die Angestellten der Forschungslabs haben uebrigens kaum etwas mit dem social media-Teil zu tun. Aber davon bekommt der Otto-Normalverbraucher kaum etwas mit, wie man sieht.

    einklappen einklappen