Meta AI reconstitue le profil détaillé de deux fillettes

Kalie Robins, créatrice de contenu installée dans l'Utah, publie régulièrement des vidéos de voyage sur Instagram et Facebook. Après avoir mis en ligne un clip où elle chante en voiture avec l'une de ses filles, elle voit apparaître sous la publication une question suggérée par Meta AI : "Qui est l'enfant passager ?"

Par curiosité, elle clique. En quelques secondes, l'assistant identifie non seulement la fillette visible dans la vidéo, mais aussi sa seconde fille, absente des images. Le sujet touche directement à la vie privée des enfants, et la mère de famille raconte au média Futurism avoir ressenti "une véritable bouffée d'angoisse" en voyant l'IA enchaîner les questions.

« L'IA a commencé à dire, compte tenu de leur âge, dans quelle classe ils devraient être. Or, il n'y a qu'une seule école ici, donc ce ne serait pas difficile à trouver », Kalie Robins, mère de famille, créatrice de contenu.

Un profil reconstitué à partir d'années de publications

L'assistant ne s'arrête pas au nom des fillettes. Il propose ensuite des questions sur leur âge, leur poids de naissance, leur niveau scolaire probable, leurs centres d'intérêt et le lieu de résidence probable de la famille. Certaines réponses s'appuient sur une publication Facebook de 2018, selon BFM Tech, et sur une photo de naissance postée des années plus tôt par la grand-mère des enfants.

« Mais nous avons raté le coche car Meta AI n'aurait jamais dû inciter l'utilisateur à se poser ces questions et nous avons résolu ce problème », Meta, porte-parole de l'entreprise.

Robins assure n'avoir jamais mentionné elle-même le prénom de ses filles en ligne. Ses comptes Instagram et Facebook, bien que publics, ne comptaient que quelques centaines d'abonnés, loin du profil d'une influenceuse suivie massivement. L'IA a pourtant réussi à croiser des publications dispersées sur plusieurs années et publiées par différents membres de la famille pour bâtir ce que Meta AI présentait comme un portrait complet des deux enfants.

Meta reconnaît une erreur et corrige la fonctionnalité

Contactée par Futurism, l'entreprise confirme que Meta AI peut effectivement rechercher dans le contenu propre d'un utilisateur ainsi que dans les informations publiques disponibles sur le Web. Elle précise que les réponses générées reposent uniquement sur des données déjà accessibles, et non sur un accès à des comptes privés ou des publications supprimées.

La porte-parole de Meta, Dina El-Kassaby, a toutefois reconnu auprès de The Verge que l'entreprise s'était trompée. Selon elle, la fonctionnalité n'aurait jamais dû suggérer spontanément ce type de questions sur des mineurs. Meta affirme avoir corrigé le problème à l'origine de ces suggestions automatiques, sans pour autant modifier la capacité générale de l'IA à exploiter des informations publiques.

Un cadre réglementaire encore incomplet

L'incident survient alors que la régulation de l'intelligence artificielle se durcit sur plusieurs fronts, notamment concernant les mineurs, comme le montrent les trois paliers d'accès selon l'âge instaurés par l'EU Kids Act. En Europe, ces fonctionnalités ne sont pas disponibles, en partie parce qu'elles se heurtent au RGPD et au règlement sur les services numériques (DSA), selon BFM Tech.

Aux Etats-Unis, la loi californienne SB 1119 impose désormais des protocoles de crise et des contrôles parentaux aux chatbots IA compagnons, dans la continuité des treize lois contre l'addiction aux réseaux sociaux déjà signées par Gavin Newsom. En Europe, l'article 50 du règlement sur l'intelligence artificielle impose de révéler qu'un utilisateur échange avec un système d'IA, mais ne couvre pas directement ce type de profilage à partir de publications publiques.

Depuis cet épisode, Kalie Robins a demandé à ses proches de restreindre ou supprimer d'anciennes publications concernant ses filles. Elle décrit cette démarche comme émotionnellement difficile et conseille désormais aux autres parents de rendre plus difficile l'accès à ce type d'informations sur leurs enfants.

« J'ai eu une véritable bouffée d'angoisse », Kalie Robins, mère de famille, créatrice de contenu.