Etats-Unis

07 août 2017 18:10; Act: 07.08.2017 18:10 Print

Voiture autonome bernée par des panneaux trafiqués

Une équipe de chercheurs de l'Université de Washington a trompé un système de pilotage automatique avec de simples autocollants.

storybild

A cause des autocollants, le panneau Stop est mal interprété par le système de reconnaissance de la voiture autonome. (Université de Washington)

Sur ce sujet
Une faute?

Appelés à écrire l’avenir de l’automobile, les véhicules autonomes doivent encore prouver leur fiabilité en matière de sécurité. En analysant la manière dont le système de reconnaissance d’images en temps réel de l’une de ces voitures fonctionnait, des chercheurs de l’Université de Washington ont découvert qu’il était facile de le leurrer. Il suffit d’altérer des panneaux de signalisation avec de simples autocollants.

Ce procédé peut amener les algorithmes à «se comporter de manière inattendue et potentiellement dangereuse», expliquent les chercheurs. Par exemple, en ajoutant les mots «Love» et «Hate» (amour et haine, en français) sur un panneau Stop, ce dernier a été interprété comme une limitation de vitesse. De quoi causer de potentiels accidents. Dans un autre cas, modifier la couleur de la flèche d’un panneau d’obligation de tourner à droite, avec des stickers, a provoqué son interprétation comme un Stop.

Pour éviter ces attaques, l’équipe suggère que le système prenne en compte des infos contextuelles afin de s’assurer qu’un panneau est légitime ou pas, comme par exemple l’étrange présence d’un Stop sur une autoroute.

Ce n’est pas la première fois que des chercheurs ont réussi à tromper les capteurs des véhicules autonomes. En 2015, en utilisant un pointeur laser et un micro-ordinateur Raspberry Pi, il a été possible de simuler de faux obstacles à éviter.

(man)