Apple bannit de l'App Store les fonctions cachées et les applis de nudification par IA

Apple a modifié son règlement d’examen des applications pour s’attaquer aux outils d’IA capables de déshabiller une personne réelle sur une photo. Les éditeurs qui présentent une appli anodine à ses équipes avant d’activer une fonction cachée risquent désormais le retrait de l’App Store et la résiliation de leur compte développeur.

Au tournant de l’année, des milliers d’internautes ont demandé à l’assistant Grok d’Elon Musk de dénuder des femmes et des mineures sur X. Apple n’a rien dit en public, mais a menacé xAI de retirer Grok de l’App Store en janvier, avant de valider une version corrigée de l’appli. La firme de Cupertino vient de réécrire ses règles. Les images intimes non consenties, y compris celles générées par IA, sont citées noir sur blanc à l’article 1.2, et un nouvel article 2.5.19 bannit toute fonction cachée. Apple durcit le texte, mais les éditeurs d’applis de « nudification » ont surtout profité des failles de son examen et de la vitrine de l’ App Store .

« N’incluez aucune fonctionnalité cachée, dormante ou non documentée dans votre application », exige désormais Apple dans son règlement . Les développeurs qui tentent de masquer ces fonctions dans le code de leur appli, par obfuscation ou par une autre méthode, risquent le retrait de l’App Store et la résiliation de leur compte. Avec l’obfuscation, un éditeur rend son code illisible et cache son véritable fonctionnement aux équipes d’examen. L’article 2.3.1 interdisait en réalité les fonctions cachées, mais Apple a voulu une règle plus explicite et nomme la « nudification » dans sa note aux développeurs.

L’éditeur soumet à l’examen une appli inoffensive et ne révèle sa fonction de « nudification » qu’après validation. Apple appelle cette tactique « bait-and-switch ». Ses équipes ont trouvé l’an dernier des fonctions cachées dans 22 000 soumissions, et Apple a retiré près de 59 000 applis validées en tant que jeux ou utilitaires, puis transformées en outils d’escroquerie après leur approbation.

Les éditeurs peuvent aussi jouer sur la localisation de leurs utilisateurs. 9to5Mac a ainsi découvert en juillet sur l’App Store brésilien des dizaines de plateformes de paris déguisées en jeux et en utilitaires , dont beaucoup étaient accessibles aux enfants. Hors du Brésil, ces applis fonctionnaient normalement, et la plateforme de paris n’apparaissait qu’aux internautes connectés depuis une adresse IP brésilienne.

Apple a également réécrit la section 5 de son règlement. Les applis qui facilitent la traite d’êtres humains ou l’exploitation d’enfants, interdites de longue date sur l’App Store, seront aussi bloquées sur les canaux de distribution alternatifs, ouverts en Europe par le DMA.

App Store Interface fluide et intuitive Sécurité des apps vérifiée Intégration avec iCloud Télécharger Apple laisse de côté son moteur de recherche À l’article 1.2, Apple demande aux éditeurs d’applis de création ou de partage de contenus d’empêcher la publication d’images intimes non consenties et de les retirer sans attendre de signalement.