IA biaisée - Twitter récompense un chercheur de l’EPFL
Publié

Réseaux sociauxIA biaisée: Twitter récompense un chercheur de l’EPFL

L’étudiant Bogdan Kulynych a remporté le premier prix d’un concours pour avoir déterminé que l’algorithme de recadrage du réseau social favorisait les visages plus minces, jeunes et clairs.

Les visages plus minces, jeunes et clairs attirent davantage l’attention de l’IA.

Les visages plus minces, jeunes et clairs attirent davantage l’attention de l’IA.

Nous ne sommes pas tous égaux face à l’algorithme de recadrage de Twitter. L’intelligence artificielle (IA) du réseau social favorise les visages des personnes plus jeunes, minces, à la peau plus claire et aux traits féminins, selon le gagnant d’un concours organisé par le service de microblogging. Lancé à fin juillet, il proposait aux experts externes à l’entreprise d’identifier des biais de son IA.

Arrivé à la première place du récent concours, Bogdan Kulynych, étudiant de l’EPFL dans le domaine de la sécurité, de la vie privée et de l’intelligence artificielle, a reçu la somme de 3500 dollars. Son travail a consisté à tester l’algorithme de Twitter avec des images originales de personnes, ainsi qu’une série de versions modifiées.

En début d’année, Twitter avait présenté des excuses après le constat que son algorithme de recadrage d’images favorisait les visages blancs au détriment des visages noirs. Les chercheurs du groupe avaient trouvé une différence de 4% en faveur des personnes blanches en général, et de 7% en faveur des femmes blanches par opposition aux femmes noires. Mais le chercheur de l’EPFL a découvert d’autres problèmes que ceux détectés par le réseau social lui-même dans la façon dont l’algorithme recadre les images pour mettre en avant ce qu’il estime plus important, rapporte Cnet.

«Le modèle cible a tendance à considérer comme plus saillantes les représentations de personnes qui semblent minces, jeunes, de couleur de peau claire ou chaude et de texture de peau lisse, et qui représentent des traits stéréotypés féminins», a écrit Bogdan Kulynych. «Ce biais pourrait entraîner l’exclusion des populations minorisées et la perpétuation de normes de beauté stéréotypées dans des milliers d’images», ajoute-t-il.

(man)

Ton opinion

4 commentaires