Meta a diffusé des publicités pour une IA de l'App Store qui promet de dénuder des femmes politiques

La plateforme Meta a diffusé, jusqu’à la mi-août, des publicités pour Kromix, une application de retouche d’images par intelligence artificielle. Dans l’une, une femme au visage proche de celui d’une personnalité politique américaine apparaît dénudée dans une vidéo pornographique produite par IA. Les publicités ont disparu après les questions du site WIRED , quelques jours avant le retrait de l’application par Apple.

Kromix se dit un styliste d’images par intelligence artificielle . Contre un abonnement payant, l’application invitait à uploader des photos pour fabriquer des scénarios allant de « amour Disney » au « viol dans une chambre à coucher », et proposait aussi des vidéos pornographiques générées automatiquement. Dans l’une des publicités repérées par notre confrère américain WIRED , une voix off présentait cette IA « sans restrictions » et a affirmait que « tous les personnages sont des personnes réelles ». Pourtant, les règles publicitaires de Meta interdisent ce type de publicités à caractère sexuel. Katie Paul, directrice du Tech Transparency Project, a découvert cette campagne. Diffusée sous le slogan « Libérez la magie de l'IA nouvelle génération », elle concernait uniquement des utilisateurs masculins.

Dans la publicité que WIRED a découverte, on voit apparaître une femme au visage proche de celui d’une personnalité politique américaine de premier plan devant le drapeau des États-Unis et celui du président. La légende, « Et si elle déménageait ? », précède un clin d’œil, puis une scène pornographique jouée par un visage identique. Grâce à la base de données publicitaire de Meta, WIRED a retracé l’origine de cette annonce. Trente-deux publicités ont été diffusées par ce compte, chacune en ligne entre cinq et 46 heures, la plupart avec dix impressions ou moins. Créée le 3 août sans le moindre abonné, la page a précédé de peu le lancement des annonces.

À l’aide d’outils automatisés, Meta affirme vérifier chaque publicité avant sa diffusion sur Facebook et Instagram . Selon Katie Paul, « toutes les publicités que nous avons vues jusqu'à présent concernant la nudité des femmes sont exclusivement sexualisées et dénudées, et les mettent en scène dans des contenus pornographiques générés par IA ». Après que WIRED a interrogé Meta à leur sujet, les publicités ont disparu. Le contact indiqué dans l’application n’a jamais répondu aux questions du magazine.

Le Tech Transparency Project a recensé 483 millions de téléchargements dès avril Le Tech Transparency Project a publié ce printemps un rapport sur 38 applications de manipulation d’images sexuelles réparties entre l’App Store et Google Play . Ces applications cumulaient 483 millions de téléchargements et environ 106 millions d’euros de revenus. Sur ce total, 31 applications étaient accessibles à des mineurs. Par leurs propres algorithmes de recherche et leurs espaces publicitaires, l' App Store et Google Play mettaient en avant ces outils, selon le rapport.