Le Facebook et l’Instagram de Meta Platforms Inc. ont envoyé des milliers de publicités pour des applications “nudify” d’IA en violation des politiques de l’entreprise, envoyées par l’un de ses partenaires publicitaires en Chine, selon l’organisation à but non lucratif Technology Media Project.
GatherOne Inc., basée à Pékin, met en relation les entreprises chinoises souhaitant faire de la publicité sur les services de médias sociaux Meta et la société américaine, responsable ces derniers mois de quelque 7 600 publicités pour des applications mobiles capables d’attirer le regard des femmes sur des corps nus et de créer des vidéos sexuelles, a indiqué l’agence dans un nouveau rapport. Elle a identifié une application, développée en Chine, qui permet le partage de matériel que certains utilisateurs ont identifié comme étant des images de dessins animés pour enfants.
Les méta-règles interdisent les publicités sexuellement explicites ou celles destinées aux applications prétendant télécharger les personnes présentées. Mais les actions de TTP, qui visent à demander des comptes aux grandes entreprises technologiques, reflètent l’échec de sociétés comme Apple Inc. et Alphabet Inc. à bloquer de telles demandes. Les organisateurs, les victimes et leurs familles du monde entier ont appelé les entreprises technologiques à faire davantage pour lutter contre les soi-disant faux services pornographiques.
“Meta semble donner un laissez-passer gratuit à l’un de ses principaux partenaires publicitaires chinois en matière de publicité”, a déclaré Katie Paul, directrice générale de TTP.
Bien qu’Instagram et Facebook ne soient pas disponibles en Chine, ils constituent des outils promotionnels attrayants pour les entreprises chinoises à la recherche d’une audience mondiale. Paul a déclaré que les conclusions de son bureau contredisaient les affirmations de Meta concernant le blocage des publicités pour les applications approfondies et a déclaré que la société se concentrait sur les revenus publicitaires par souci pour ses utilisateurs.
“Nous n’autorisons pas les applications pornographiques ou nues non consensuelles sur notre plateforme, et nous allons lutter contre elles”, a déclaré Cindy Southworth, directrice du programme de sécurité des femmes de Meta.
“Tous les annonceurs doivent se conformer à nos normes publicitaires, et le non-respect de nos politiques et normes peut entraîner la suppression des annonces publiées, des sanctions financières et la résiliation des comptes publicitaires”, a déclaré un porte-parole de Meta.
GatherOne a déclaré se conformer aux politiques publicitaires de Meta et à tous les cadres juridiques internationaux applicables. La société maintient une politique pragmatique contre les escroqueries, le contenu réservé aux adultes, le contenu d’IA non autorisé, l’exploitation des enfants et la fraude, a-t-il déclaré. Selon son site Web, l’entreprise travaillera avec des clients des secteurs des jeux, du commerce électronique, du divertissement et de la finance, en les aidant à diffuser des publicités sur les réseaux de Meta, Google d’Alphabet, TikTok de ByteDance Ltd. et X d’Elon Musk.
GatherOne suspend la création de nouveaux comptes publicitaires pour les services liés à l’IA et aux services de reconnaissance faciale, a-t-il déclaré en réponse aux questions de Bloomberg News. Il a également déclaré qu’il procédait à une mise à jour complète de sa conformité pour tenir compte de l’évolution technologique des médias synthétiques.
TTP est la branche de recherche de la Société et l’organisme de surveillance fédéral à Washington, DC.
Le rapport, qui devrait être publié lundi, constitue un rare aperçu de la façon dont Meta gagne de l’argent dans un pays de 1,4 milliard d’habitants dont les services sont bloqués. Les entreprises chinoises qui vendent des produits et des services à l’étranger utilisent des intermédiaires comme GatherOne pour accéder et se faire connaître auprès des utilisateurs mondiaux.
Meta a déclaré 18,4 milliards de dollars de ventes en Chine pour l’année se terminant en 2024, soit 11 % de son chiffre d’affaires mondial. Les ventes y devraient plus que doubler d’ici 2022. Les bénéfices de la Chine n’ont pas chuté depuis lors.
Sarah Wynn-Williams, ancienne cadre de Meta devenue lanceuse d’alerte, a déclaré devant le Congrès l’année dernière que l’entreprise fournissait depuis des années des équipements antimissiles à la Chine et aidait le pays à progresser dans la course aux armements en matière de renseignement avec les États-Unis. Il a déclaré que la Chine reste un marché clé pour l’entreprise, comme en témoignent ses revenus en Chine. Les mémoires de 2025 de Wynn-Williams, Careless People, décrivent son passage en tant que directrice des politiques publiques dans l’entreprise.
Un porte-parole de Meta avait alors contesté les commentaires de Wynn-Williams.
Reuters a rapporté en décembre que des documents internes de Meta montraient que la société pourrait cesser d’ici 2024 qu’environ 19 % de ses revenus en Chine l’année dernière provenaient de publicités sur des sujets interdits tels que la pornographie, la fraude et les jeux illégaux. GatherOne, en tant qu’agence de publicité, a déclaré que ses tests avaient révélé des publicités pour des services frauduleux.
Meta avait alors contesté l’exactitude du rapport de Reuters. Il se consacre à éliminer les escroqueries et les fraudes qui sévissent sur Internet, et à agir lorsqu’il détermine que ses règles ont été violées.
Les publicités de cette année, repérées par TTP entre avril et juin, ont été supprimées par Meta après avoir été présentées aux utilisateurs. La plupart des publicités sont suggestives et présentent des images de jeunes femmes se livrant à des activités sexuelles avec le slogan « Faites un sourire avec un visage ».
GatherOne est répertorié sur le site Web commercial de Meta en Chine comme moyen de faire de la publicité sur ses services de médias sociaux à l’étranger, en tant que l’un des 11 clients autorisés. Le site Web de GatherOne montre une photo de ce qui semble être son directeur des opérations recevant un prix, debout à côté de deux dirigeants de Meta lors d’une conférence à Hong Kong en janvier. Le logo de Meta est affiché sur l’icône derrière eux.
Meta a déclaré l’année dernière qu’elle sévissait contre les applications profondément enracinées et avait intenté une action en justice contre un développeur d’applications de Hong Kong qui, selon lui, était à l’origine de ces services.
TTP a découvert qu’un groupe d’annonces dirigeait les utilisateurs vers une application Android appelée BAfter. Lors de l’ouverture, TTP a trouvé une section « ShareZone » proposant des options d’échange de visage qui ne mettaient pas en vedette des femmes engagées dans une activité sexuelle.
Plusieurs critiques ont souligné sur la page de la boutique d’applications Google Play de l’application ce qu’ils ont décrit comme de la « pédopornographie illégale » et des vidéos d’enfants IA. BAfter, dont le développeur est basé dans la province du Guangxi, dans le sud de la Chine, est répertorié comme adapté à tous les âges.
Le développeur de BAfter n’a pas pu être contacté pour commenter. L’application a disparu de Google Play le 21 juillet et GatherOne a déclaré avoir supprimé tout accès publicitaire pour l’affilié.
En réponse aux questions de Bloomberg, Meta a déclaré avoir interdit BAfter et ne propose plus de liens vers d’autres applications nues. Google, qui développe le système d’exploitation Android et exploite le Google Play Store, n’a pas répondu aux demandes de commentaires.
Plus de la moitié des 557 jeunes récemment interrogés aux États-Unis par l’Université George Mason ont déclaré avoir utilisé les médias sociaux pour créer une image d’eux-mêmes ou des autres. Plus d’un tiers déclarent avoir été victimes de ces appareils. De nombreux jeunes savent déjà comment accéder à ces services via la messagerie ou directement via leurs sites Web, a déclaré Chad MS Steel, chercheur en criminalistique numérique à George Mason qui a dirigé l’étude. Cela signifie que les mesures prises par les services de médias sociaux ou les magasins d’applications pour limiter leur propagation ont eu peu d’effet, a-t-il déclaré.
Le président Donald Trump a signé l’année dernière le Take It Down Act, qui interdit la publication de contenus à caractère sexuel non consensuel et oblige les opérateurs de réseaux sociaux et de sites Web à supprimer ces publications. La Federal Trade Commission a commencé à appliquer cette règle en mai.
TTP a découvert que les publicités étaient liées à GatherOne en vérifiant le contenu de la bibliothèque de publicités de Meta. Bien que l’on ne sache pas exactement combien d’installations d’applications les publicités ont généré, certaines des informations apprises par l’équipe ont été téléchargées plus de 2,5 millions de fois dans le monde, selon les données de l’étude de marché AppMagic fournies par TTP.
Purnell écrit pour Bloomberg.
