Au sein de la rédaction de "Sources", nous avons été interpellés par l’annonce d’une plainte contre Meta, la maison-mère d’Instagram, déposée en mars 2023 aux Etats-Unis. Plusieurs fonds de pension et d'investissement détenant des actions de Meta accusent la direction et le conseil d'administration du groupe d’avoir “fermé les yeux” sur le trafic d’êtres humains et la pédocriminalité sur ses réseaux sociaux.
Pourtant, Meta affirme que ses plateformes interdisent l’exploitation des humains et l’exploitation sexuelle des enfants.
Nous avons voulu savoir si Instagram pouvait en effet servir de lieu de rendez-vous à des prédateurs sexuels, et comprendre dans quelle mesure la plateforme laisserait proliférer des comptes problématiques dédiés à l’exploitation sexuelle d’enfants.
Pour cela, nous avons tout d’abord créé un compte d’enquête : celui de Max, 23 ans. C’est un profil parfaitement anonyme, sur lequel nous n’avons publié aucun contenu. Cependant, pour le rendre crédible, nous avons suivi plusieurs comptes d’acteurs, de sportifs ou d’influenceurs.
Nous avons cherché à comprendre quels étaient les mots-clés bannis sur la plateforme. Instagram opère bien une première phase de modération : il est ainsi impossible de chercher certains termes comme “sexy kids” (gamins sexy).
C’est donc en faisant des recherches avec d’autres mots-clés plus anodins, comme "sport boys" (garçons sportifs), ou tout simplement "gymnastique", que nous avons découvert l’ampleur du phénomène. Dans un tableau Excel, nous avons listé des centaines de comptes sexualisant des mineurs. Sur la base de nos recherches, nous avons ainsi pu établir des catégories :
- Les comptes d’agrégations : ce sont des comptes souvent anonymes, ils agrègent des photos et vidéos volées à des parents, ou aux enfants eux-mêmes. Ces images sont commentées par des prédateurs qui expriment leurs fantasmes sexuels.
- Les faux comptes de mineurs : ce sont des comptes qui se font passer pour des adolescentes pour attirer les prédateurs et échapper à la modération. Souvent, ils renvoient vers des chaînes Telegram de vente d’images pédocriminelles. Ils utilisent des images volées à de véritables adolescentes inscrites sur Instagram.
- Les comptes de vente de "liens" : tout comme les faux comptes de mineurs, ce sont des comptes qui renvoient vers des chaînes Telegram de vente d’images pédocriminelles. Mais ils s’en cachent beaucoup moins : il est parfois indiqué “CP”, soit “child pornography” (pornographie infantile) dans le nom d’utilisateur même du compte.
- Les comptes publiant des images explicites : sur ces comptes, on peut voir - parfois de façon masqué par des filtres - des images d’abus sexuel sur mineurs. Ce ne sont cependant pas les comptes que nous avons le plus vus sur Instagram.
Sur tous ces comptes, les pédocriminels utilisent un certain langage pour se reconnaître et échanger entre eux, tout en évitant la modération de la plateforme. Par exemple, ces derniers remplacent régulièrement les voyelles par des “x” : "nudes" devient ainsi "nxdes". Ils utilisent encore des emojis ou le “Leet Speak” qui consiste à remplacer des lettres par des chiffres : "rape" devient donc “r4p3”. Enfin, il existe des mots-clés encore plus codés comme “pizza links” (en référence au “pizzagate”).
Une fois cette liste de comptes établie, nous nous sommes principalement intéressés aux comptes qui semblaient être basés en Europe. Mais ce fléau concerne de nombreuses régions du monde : nous avons également trouvé des profils basés aux États-Unis, en Inde, aux Philippines ou au Brésil.
Parmi les profils que nous avons identifiés, nous avons dans un premier temps enquêté sur les faux comptes de mineurs francophones. Ils nous ont très rapidement permis de comprendre les rouages de la vente d’images pédocriminelles. Ces faux comptes Instagram de mineurs annoncent vendre du contenu sexuel, mais ils renvoient en réalité à des chaînes Telegram avec plusieurs centaines d’abonnés qui vendent des packs d’images et de vidéos d’abus sexuels sur des enfants.
Nous avons ensuite analysé les comptes de vente de "liens" d’images pédocriminelles. Nous en avons répertorié 1 000, puis nous avons noté dans un document le nom de la chaîne Telegram vers laquelle chacun de ces comptes renvoyaient dans leur "bio" ou en "story".
Enfin, nous avons “scrapé”, c’est-à-dire “aspiré”, à l’aide d’un plug-in, tous les abonnés des faux comptes de mineur et des comptes de vente de lien. Nous avons organisé ces données et nous les avons analysées avec des logiciels open source d’analyse de réseau, comme Gephi ou Cytoscape.
Tous les comptes d’exploitation sexuelle de mineurs identifiés au cours de notre enquête ont été signalés à Instagram ainsi qu’à Pharos, la plateforme française de lutte contre la pédocriminalité.
Sources et liens utiles :
- Lien de la plateforme Pharos : https://www.internet-signalement.gouv.fr/PharosS1/
- Le National Center for Missing & Exploited Children (NCMEC) est une organisation non lucrative basée aux États-Unis. Elle recense les signalements concernant l'exploitation sexuelle des mineurs en ligne. https://www.missingkids.org/content/dam/missingkids/pdfs/2022-reports-by-esp.pdf
- En mai 2022, citant les chiffres du NCMEC, la commissaire européenne aux Affaires intérieures, Ylva Johansson, s’est alarmée de l’explosion des contenus illicites en ligne, affirmant qu’ils avaient augmenté de 6 000% au cours des dix dernières années. https://twitter.com/EUHomeAffairs/status/1580205172155817984
- En 2023, le Wall Street Journal a publié une série d’enquête sur la protection des mineurs sur Instagram :
- Instagram Connects Vast Pedophile Network (WSJ, 7 juin 2023) https://www.wsj.com/articles/instagram-vast-pedophile-network-4ab7189
- Instagram’s Algorithm Delivers Toxic Video Mix to Adults Who Follow Children (WSJ, 27 novembre 2023) https://www.wsj.com/tech/meta-instagram-video-algorithm-children-adult-sexual-content-72874155?mod=Searchresults_pos3&page=6
- A ‘Recipe for Disaster’: Insiders Warned Meta’s Privacy Push Would Shield Child Predators (WSJ, 22 décembre 2023) https://www.wsj.com/tech/encryption-instagram-facebook-messages-a89ebe07?mod=Searchresults_pos1&page=1
- Enquête de juin 2023 de Stanford University sur la distribution d'images d'abus sexuels de mineurs en ligne :
- Addressing the distribution of illicit sexual content by minors online (SIO, 6 juin 2023) https://web.archive.org/web/20230608013821/https://cyber.fsi.stanford.edu/news/addressing-distribution-illicit-sexual-content-minors-online
- Rapport de l'Internet Watch Foundation (Royaume-Uni) sur les images d'abus sexuels d'enfants "auto-générées" : https://www.iwf.org.uk/news-media/news/20-000-reports-of-coerced-self-generated-sexual-abuse-imagery-seen-in-first-half-of-2022-show-7-to-10-year-olds/
Autres articles de presse :
- Instagram under fire over sexualised child images (The Guardian, 17 avril 2022) https://www.theguardian.com/society/2022/apr/17/instagram-under-fire-over-sexualised-child-images
- How Facebook and Instagram became marketplaces for child sex trafficking (The Guardian, 27 avril 2023) https://www.theguardian.com/news/2023/apr/27/how-facebook-and-instagram-became-marketplaces-for-child-sex-trafficking
- Europol Sought Unlimited Data Access in Online Child Sexual Abuse Regulation (Balkaninsight, 29 septembre 2023) https://balkaninsight.com/2023/09/29/europol-sought-unlimited-data-access-in-online-child-sexual-abuse-regulation/
- Adults or Sexually Abused Minors? Getting It Right Vexes Facebook (NYT, 31 mars 2022) https://www.nytimes.com/2022/03/31/business/meta-child-sexual-abuse.html
- Au Brésil, la chercheuse Carolina Christofoletti est une spécialiste de la lutte contre la pédocriminalité en ligne. Elle publie sur son compte LinkedIn de nombreux articles à ce sujet. https://www.linkedin.com/pulse/instagram-firewall-real-how-do-you-enforce-your-christofoletti?utm_source=share&utm_medium=member_android&utm_campaign=share_via
- Arturo Béjar est un ancien ingénieur chez Meta. Il a témoigné en novembre 2023 devant un sous-comité du Sénat sur l’impact des médias sociaux sur la santé mentale des adolescents.
- Le 11 mai 2022, la Commission européenne a adopté une proposition législative visant à prévenir et à combattre les abus sexuels sur enfants. Elle impose aux fournisseurs de services de signaler les abus sexuels sur enfants en ligne commis sur leurs plateformes et d'alerter les autorités.
- En France, l’Assemblée nationale a définitivement adopté, mardi 6 février 2024, une proposition de loi visant à mieux protéger le droit à l’image des enfants.
- Aux États-Unis, META fait l’objet de poursuites judiciaires :
- Engagements d'Instagram pour renforcer la sécurité des jeunes : https://about.instagram.com/fr-fr/blog/announcements/continuing-to-make-instagram-safer-for-the-youngest-members-of-our-community
- Le langage codé utilisé par les pédocriminels fait l’objet de quelques articles :
