Harcèlement et sexisme en ligne : le soulèvement des machines

Dans Her, film de Spike Jonze sorti en mars 2014, Joaquin Phoenix tombe sous le charme de Samantha, jeune femme pétillante à la voix entêtante. Sauf que Samantha n'existe pas vraiment. C'est "en réalité" un programme informatique, capable de s'adapter à la personnalité de son utilisateur et de réagir en conséquence. Comme souvent, la réalité a dépassé la fiction et une certaine Cortana est récemment entrée dans la vie de nombreux internautes. Cortana n'est pourtant pas plus réelle que Samantha puisqu'il s'agit du service d'assistance vocale de Windows 10, l'équivalent de Siri pour Apple.
Lancé en 2014, il peut répondre aux requêtes des internautes, blaguer ou tenir une conversation. Mais cette interface, qui utilise une voix féminine dans sa version anglophone, a rapidement été confrontée aux commentaires déplacés des internautes, bien loin de son objectif de départ. Deborah Harrison, une éditorialiste de Microsoft a confié à CNN qu'une "bonne partie des requêtes initiales concernait sa vie sexuelle".

Attaques virtuelles, sexisme réel

Les intelligences artificielles cachent ainsi une réalité bien tangible : celle du sexisme et du harcèlement, malheureusement ancrés dans notre quotidien, et qui gangrènent désormais le Net. Une dérive que le géant de l'informatique ne tolère pas : "Nous voulions être très prudents sur le fait que [Cortana] ne paraisse pas subordonnée d'une quelconque façon… ou d'éviter de mettre en place une dynamique que nous ne voulons pas perpétuer socialement."
Hors de question donc que les internautes reportent sur une interface virtuelle les comportements et frustrations qu'ils ne peuvent assouvir dans la vie réelle. Microsoft veut que Cortana soit respectée comme une vraie femme et donc lui permettre de remettre à leur place les utilisateurs à la curiosité malsaine. L'application peut exprimer son mécontentement ou son indignation par rapport aux questions jugées choquantes. "Si vous lui parlez comme le dernier des connards, elle s'énervera", assure Deborah Harrison.
Mais cette technique de défense, aussi essentielle soit-elle, soulève de nombreuses interrogations car elle fait entrer dans l'équation des considérations d'ordre morale. Chaque pays ayant son propre système de valeurs, comment juger du potentiel caractère sexiste d'une requête ? Cortana pourra-t-elle interpréter chaque demande ? Pourrait-on imaginer de paramètrer l'interface pour qu'elle se défende également face aux commentaires racistes ?
Cette initiative de Microsoft fait en tout cas écho à un autre long-métrage : comme dans I, Robot, la rébellion des androïdes est bel et bien en marche.