Facebook et Periscope tentent de nouvelles méthodes de modération

La modération de contenus sur internet est un sujet de plus en plus sensible. Microsoft, YouTube, Facebook et Twitter ont cette semaine signé un code de conduite pour la modération. Facebook dévoile sa stratégie pour réduire le nombre de contenus controversés et Periscope, une appli appartenant à Twitter, met en avant sa nouvelle méthode de modération.

L’Intelligence Artificielle serait la solution selon Facebook

Pour Facebook, l’Intelligence Artificielle serait la solution. Selon le responsable de l’apprentissage automatique appliqué de Facebook, Joaquin Candela, ce type de programme serait de plus en plus performant en ce qui concerne l’indentification des photos et des images. Lors d’une interview avec TechCrunch, il a expliqué : « Ce qui est intéressant, c’est qu’aujourd’hui nous avons plus de photos offensantes signalées par des algorithmes d’intelligence artificielle que par des humains. »

L’IA devrait permettre aux équipes de modération de réagir plus rapidement. Cette technologie permettrait aussi à Facebook de respecter la promesse faite lors de la signature du code de conduite sans devoir recruter massivement des modérateurs. Le gros point faible de l’IA est son manque de discernement quand il s’agit de contenus complexes ou grossièrement codés, particulièrement en ce qui concerne les textes.

Des utilisateurs modérateurs

L’application de Twitter prend un chemin radicalement différent. Qui pourrait mieux interpréter les commentaires de quelqu’un qu’un autre être humain ? Ainsi, la solution de Periscope est la suivante : quand elle reçoit un signalement par rapport à un commentaire, l’application sélectionnera au hasard plusieurs utilisateurs ; c’est alors ces utilisateurs qui voteront pour décider si le commentaire ne respecte pas la ligne de conduite de l’appli. Si plus de la moitié des utilisateurs contactés disent que le commentaire est abusif, alors la personne qui a posté le commentaire ne pourra plus commenter de vidéo, mais de manière temporaire. Si la personne récidive, elle sera bloquée et ne pourra plus laisser de commentaire tant que cette vidéo sera diffusée.

• Ces deux techniques ont leurs points forts et leurs points faibles. Il n’y a plus qu’à espérer qu’au moins l’une elle fasse ses preuves pour que les autres applis et sites puissent s’en inspirer.

Crédit Photo : Periscope