Le plan anti-sextorision d’Instagram avec l’IA
Instagram a récemment annoncé le déploiement de nouveaux outils visant à protéger les jeunes utilisateurs et à prévenir les comportements préjudiciables sur sa plate-forme. Ces mesures interviennent dans un contexte où les réseaux sociaux sont de plus en plus critiqués pour leur rôle dans la propagation de contenus inappropriés et dangereux, en particulier pour les mineurs.
L’une des principales nouveautés est la mise en place de filtres automatiques pour détecter et flouter la nudité dans les messages privés des utilisateurs de moins de 18 ans. Cette fonctionnalité vise à empêcher l’envoi et la réception de contenus inappropriés, tels que des photos ou des vidéos à caractère sexuel, souvent associés à des situations de sextorsion.
En effet, le phénomène de sextorsion, où des individus menacent de divulguer des images intimes en échange d’argent ou d’autres faveurs, a pris une ampleur inquiétante ces dernières années. En 2023, les signalements pour chantage ont explosé, avec plus de 12 000 cas recensés par l’Office des mineurs.
Pour sensibiliser les utilisateurs aux risques liés à la diffusion de contenus sensibles, Instagram affiche désormais un message d’alerte avant l’envoi de photos de corps, rappelant les conséquences potentiellement graves de telles actions. Cette approche vise à éduquer les jeunes sur les dangers de la publication de contenus intimes en ligne et à encourager des comportements responsables.
Parallèlement, Instagram utilise l’intelligence artificielle pour détecter et supprimer les faux profils et les comportements suspects associés à la sextorsion et à la pédocriminalité. Grâce à des algorithmes prédictifs, la plate-forme peut identifier les profils à risque et limiter leur interaction avec les adolescents en bloquant certaines fonctionnalités, telles que l’envoi de messages privés.
Ces mesures marquent un pas important dans la protection des jeunes utilisateurs sur les réseaux sociaux. En combinant la technologie de filtrage avec des campagnes de sensibilisation et des actions préventives, Instagram cherche à créer un environnement plus sûr et respectueux pour sa communauté en ligne.
