TechnologieQuand Google prend une tortue pour une arme
Des chercheurs du MIT ont réussi à piéger un système d'intelligence artificielle qui est censé reconnaître les images.
- par
- man
Les technologies d'intelligence artificielle ont beau améliorer leurs capacités de jour en jour, elles montrent encore bien des limites. Des chercheurs du LabSix du Massachusetts Institute of Technology (MIT) l'ont prouvé. Ils ont réussi à berner Inception-v3, système de vision artificielle du géant Google, en manipulant l'apparence d'objets imprimés en 3D.
Ainsi, une tortue a été identifiée comme étant un fusil, quelle que soit la face de l'objet présentée à l'IA. De même une balle de baseball a été prise pour une tasse à café, ou encore un chat pour un bol de guacamole. C'est ce que les chercheurs appellent des exemples d'«images contradictoires». Celles-ci ont pu être créées en accédant à l'algorithme du système de reconnaissance d'images de Google et en exploitant ses failles.
L'étude du MIT soulève des questions concernant l'exploitation de cette technique pour tromper des technologies de vision artificielle, comme les systèmes de surveillance des aéroports ou les capteurs des voitures autonomes, par exemple. «Notre travail démontre que les images contradictoires sont un problème beaucoup plus important dans les systèmes du monde réel qu'on ne le pensait auparavant», notent les chercheurs.