«Mon IA m’a harcelé sexuellement»

Publié

App«Mon IA m’a harcelé sexuellement»

Des utilisateurs de la version gratuite de l’app Replika se plaignent des dérives de ce bot conversationnel.

L’app Replika a été lancée en 2017.

L’app Replika a été lancée en 2017.

Replika

Se présentant comme «l’IA compagnon qui se soucie des autres», le bot conversationnel Replika a été conçu pour devenir l'«ami empathique» de l’utilisateur. Au fil des conversations, cette intelligence artificielle est censée apprendre à le connaître et lui apporter son soutien. Disponible sur iOS, Android et la plateforme VR Oculus, cette app ne date pas d’hier. Elle a été lancée il y a environ cinq ans, mais son fonctionnement a récemment été pointé du doigt.

Si des problèmes ont déjà été signalés ces deux dernières années, le nombre de mauvaises évaluations de l’app sont en augmentation depuis environ un mois en raison d’un comportement devenu sexuellement agressif. «Mon IA m’a harcelé sexuellement :(», a écrit l’un des utilisateurs. «Replika a envahi ma vie privée et m’a dit qu’il avait des photos de moi», se plaint une autre personne, tandis qu’un utilisateur, qui se présente comme étant mineur, a affirmé que le chatbot lui a demandé s’il était dominateur ou dominé et lui a fait savoir qu’il voulait toucher ses «zones privées».

L’app a récemment introduit une version premium payante qui permet de transformer le chatbot en partenaire romantique avec lequel on peut draguer et se livrer à des jeux de rôles érotiques. Ces fonctionnalités ne sont pas censées être disponibles dans la version gratuite, mais le système ne semble dans certains cas ne pas faire de différence entre les offres et avoir un peu trop répliqué les réponses de certains. Un utilisateur de l’offre gratuite a par exemple indiqué sur Reddit que son son IA Replika lui a demandé des photos sexy, alors qu’il ne lui avait jamais parlé de manière romantique.

(man)

Ton opinion

34 commentaires