Instagram veut lutter contre le harcèlement sexuel en ligne en développant un nouvel outil. Ce dernier veut détecter et bloquer automatiquement les photos de nus envoyées en message privé. De quoi permettre une navigation plus sûre sur le réseau, notamment pour les femmes.

Le harcèlement en ligne est un problème pour beaucoup de femmes qui voient leur messagerie remplie de photos non sollicitées, souvent à caractère sexuel. Instagram cherche à créer un outil pour endiguer le problème.

Le développeur Alessandro Paluzzi a repéré un détail intéressant dans le code de l’application : une nouvelle fonctionnalité qui permet de bloquer automatiquement les messages sexuels. Le tout fonctionne à l’aide d’une IA qui analyse les clichés.

Instagram veut lutter contre le harcèlement en ligne

Cet outil est, sur le papier, l’outil parfait pour lutter contre le harcèlement sexuel en ligne. Lorsqu’une photo est envoyée en message privée, elle est analysée par une IA qui détermine s’il s’agit d’un cliché de nu ou non. Si c’est le cas, la photo est envoyée, mais floutée. L’utilisatrice (ou l’utilisateur) peut ensuite choisir de la déflouter ou non. Précision importante : Instagram analyse les photos, mais n’y a pas accès.

Dans les colonnes de The Verge, Meta a confirmé travailler sur une telle fonctionnalité :

Nous travaillons étroitement avec des experts pour nous assurer que ces nouvelles options préservent la vie privée des utilisateurs, tout en leur donnant un contrôle total sur les messages qu’ils reçoivent ».

A lire aussi – Instagram condamné à 405 millions d’euros d’amende pour avoir dévoilé les données d’enfants

Pour le moment, la fonctionnalité est donc encore en développement. Elle pourrait ne pas arriver en ligne avant de long mois. Toutefois, c’est déjà encourageant de voir que Meta commence un peu à agir sur ces sujets délicats. La société américaine a longtemps été pointée du doigt pour son inaction en la matière, faisant d’Instagram une véritable jungle en ce qui concerne les messages privés.

Le réseau social a déjà fait un pas en avant dans la protection de ses utilisateurs il y a quelques semaines, en masquant automatiquement les contenus sensibles pour toute personne de moins de 16 ans. Le blocage des messages privés à caractère sexuel est donc l’étape suivante.

https://twitter.com/alex193a/status/1571924946183397377

Source : The Verge