FaceApp, l'application mobile pour retoucher les photos, est raciste

L'application FaceApp qui retouche automatiquement les selfies pour rendre les visages plus jeunes, plus vieux, ou plus « sexy » a fait l'objet de nombreuses plaintes. L'application ferait en effet preuve de racisme.

Le filtre « sexy » mis en cause

L'application mobile FaceApp permet de retoucher automatiquement les selfies grâce à plusieurs filtres proposant de rendre le visage plus jeune, plus vieux ou encore plus « sexy » . C'est cette dernière option qui fait aujourd'hui polémique et qui vaut à l'application d'être accusée de racisme. En effet, plusieurs utilisateurs ayant utilisé le filtre « hot » (ou « sexy ») de FaceApp, ont constaté que leur visage avait blanchi, que leur nez s'était « européanisé » ou encore que leurs yeux avaient été « débridés ».

"J'ai téléchargé cette appli et j'ai choisi le filtre « hot » sans savoir que ça allait me rendre blanc. On est en 2017 les gars" a ainsi tweeté Shahquelle, en accompagnant son tweet du selfie mis en cause. Ils sont plusieurs à s'être plaint et à et partagé leur mauvaise expérience avec FaceApp.

L'intelligence artificielle peut reproduire les préjugés humains

Le PDG et créateur de l'application, Yaroslav Goncharov, a présenté ses excuses et a promis de travailler à résoudre ce sérieux problème. Selon lui, il serait dû à la manifestation d'un effet secondaire du réseau neuronal qui fait fonctionner l'application. L'intelligence artificielle intégrée à FaceApp aurait été entraînée avec trop de photos de personnes blanches, ce qui aurait induit un biais dans les algorithmes et associé le filtre « sexy » à un visage blanc.

Pour l'heure, ce filtre a changé de nom et s'appelle désormais « spark » (« étincelle ») afin d'éviter toute connotation positive liée au filtre qui pose problème.

Ce n'est pas la première fois qu'une application de retouche photo est accusée à juste titre de racisme. Dernièrement Meitu, basée sur le même principe de retouche automatique, proposait un filtre censé gommer les défauts du visage mais qui en réalité rendait le visage extrêmement clair...

L'intelligence artificielle n'est pas à l'abri de ce genre de déviance, car sa programmation implique un entraînement (machine learning) qui peut induire un biais discriminatoire dans les codes. Ce sont justement les clichés avec lesquels FaceApp a été entraîné qui ont poussé le filtre mis en cause à associer « sexy » avec « visage blanc ». Les technologies sont donc capables de reproduire des préjugés inventés par les humains, c'est pourquoi un encadrement strict pourrait être nécessaire afin de pouvoir assurer une éthique à l'intelligence artificielle.

Crédit Photo : SBS