Aux Etats-Unis, la glaçante histoire d’une mère de famille qui a découvert que Meta AI savait tout de ses fillettes, leur nom, âge et même leur localisation potentielle

"Qui est l'enfant au niveau du siège passager?". Une question en apparence anodine, suggérée par Meta AI, l'outil d'intelligence artificielle de l'entreprise , en regard d'une vidéo postée par une mère de famille. Une simple question qui permet aux utilisateurs d'en savoir plus sur ce qui se trouve dans une publication.

Kalie Robins habite dans l'Utah et partage régulièrement sa vie sur Instagram. En voyant cette question sur une vidéo qu'elle avait postée quelques heures plus tôt, elle a découvert à quel point les outils d'IA de Meta peuvent être intrusifs, y compris sur des vidéos en apparence "innocente", raconte Futurism .

Dans la vidéo, Kalie Robins est en voiture, elle chante au côté de l'une de ses deux filles. Son visage est visible, mais sa mère ne donne jamais son prénom ni ne donne d'informations supplémentaires sur leur localisation.

Pourtant, Meta AI va d'abord suggérer une question sur l'identité de l'enfant. En interagissant avec cette proposition, la mère de famille raconte que l'intelligence artificielle de Meta va lui fournir différentes informations personnelles, et notamment un rapport détaillé sur sa fille, mais également sur son second enfant non présent dans la vidéo: "Je me suis demandé pourquoi ces informations étaient accessibles, et puis (Meta AI) a continué à m'en dire plus."

Le prompt suggéré suivant concerne l'âge de ses filles. En le sélectionnant, la mères des fillettes accède à un calendrier, qui stipule leur date de naissance et affiche même une photo de la grand-mère des petites, qui tient l'une d'elles lorsqu'elle était bébé. Une photo tirée d'une ancienne publication Facebook.

Très vite, Kalie Robins se rend compte que Meta AI est en mesure de récupérer l'ensemble des publications publiques au sujet de ses enfants, et de s'en servir pour fournir des informations personnelles, voire intimes. L'IA va même plus loin, en permettant de réclamer des détails sur les centres d'intérêt de ses filles, et même leur localisation précise.

Après quelques minutes, Kalie Robins découvre avec horreur que l'IA suggère différents lieux où ses filles pourraient se trouver, s'appuyant sur une publication Facebook de 2018.

"Ça ne s'arrêtait pas," explique-t-elle dans une vidéo partagée sur Instagram. "J'ai ressenti de l'effroi."

Pour en savoir plus, vous pouvez également consulter notre politique de protection des données personnelles . Sans votre consentement, ce contenu ne peut pas être affiché

Même si un enquêteur humain peut réussir à effectuer les mêmes rapprochements, souligne Futurism, les capacités rapides de Meta AI pour connaître tous les détails de la vie d'une personne, a fortiori mineure, ont surpris cette maman.

Pourtant, ce n'est pas étonnant quand on découvre qu'elle utilise Facebook et les autres réseaux sociaux de Meta depuis leur lancement respectif. Éloignée de ses proches, elle a utilisé les outils du géant américain pour rester en contact avec sa famille, partageant des moments clés de sa vie, n'imaginant pas une seule seconde qu'une IA pourrait ensuite s'en servir.

Elle a donc demandé à ses proches de supprimer les publications où elle figure avec ses enfants.