Manifestations : comment ces vêtements anti-IA déjouent

Une chemise aux motifs psychédéliques, qu'on croirait sortie d'une fripe des années 1970, cache en réalité un piège pour les algorithmes. Conçue par l'artiste allemand Simon Weckert, elle brouille les logiciels de détection censés reconnaître un corps humain. Ce type de vêtements anti-IA a refait surface à l'occasion de la journée de mobilisation du samedi 17 octobre, marquée par de fortes tensions dans plusieurs grandes villes françaises.

Reproduire le camouflage militaire pour tromper les caméras

« Les caméras de surveillance sont liées à un ordinateur et un logiciel chargé de reconnaître un humain », explique Geoffrey Dorne, designer et doctorant au laboratoire CEThics, auteur de l'ouvrage Hacking citoyen. Cette reconnaissance s'appuie sur la silhouette ou, plus souvent, sur des points clés du visage. Les vêtements anti-IA reprennent alors une logique ancienne, celle du camouflage militaire : zébrures, ajout ou masquage de points, formes évoquant des visages pour perturber l'algorithme.

« Les vêtements anti-IA vont reprendre le principe du camouflage militaire : zébrures, ajouts de points, masquer des points, ajouter des formes ressemblant à des visages… pour perturber l'algorithme », Geoffrey Dorne, designer, doctorant au laboratoire CEThics.

Pour mettre au point sa chemise, Simon Weckert a procédé par tâtonnements. Il a simulé un tee-shirt porté par une personne, l'a soumis à un algorithme open source, puis a fait varier rotation, recadrage et désaturation du motif jusqu'à ce que le score de confiance de l'identification commence à chuter. Des marques comme AntiAI, Yelopomelo ou Cap_able commercialisent aujourd'hui ce type de pièces, à des prix et des styles variables.

Une idée qui vient des manifestations de Hong Kong

Le procédé n'est pas nouveau. En 2019, à Hong Kong, des manifestants redoutant d'être identifiés par la police avaient multiplié les parades : masques, lunettes, parapluies déployés en carapace, pointeurs laser braqués sur les caméras. Les autorités avaient alors répliqué en interdisant toute couverture faciale susceptible d'empêcher l'identification, maquillage compris. Selon la chercheuse en design Alexia Mathieu, cette pratique est désormais « rentrée dans la discussion presque mainstream », portée aussi par les travaux antérieurs de l'Américain Adam Harvey, qui avait imaginé des coiffures destinées à piéger la reconnaissance faciale.

Une efficacité limitée dans le temps

Reste la question de fond : ces vêtements protègent-ils vraiment ? Pas longtemps, répond Geoffrey Dorne, pour qui l'efficacité dépend entièrement de l'évolution des modèles d'intelligence artificielle. À chaque mise à jour, ce type de faille est corrigé. La surveillance ne se limite plus, en outre, au seul visage : elle croise aussi la démarche, la signature thermique ou les signaux émis par un téléphone. « En manif, vous pouvez avoir une cagoule, si vous avez votre téléphone sur vous, vous êtes identifiable », avertit le designer. Simon Weckert reconnaît lui-même un effet pervers : porter ces motifs rend parfois plus repérable aux yeux des humains.

Le contexte de la journée du 17 octobre illustre l'ampleur de la surveillance déployée autour de ces rassemblements. Le ministère de l'Intérieur a dénombré 550 000 manifestants, contre 800 000 selon les organisateurs, et environ 400 interpellations sur l'ensemble du territoire.

Un geste autant politique qu'artistique

Malgré ces limites, Geoffrey Dorne ne range pas ces vêtements au placard. « Ces objets visuels, graphiques, agissent un peu comme des grigris », résume-t-il, en soulignant leur dimension protectrice incertaine mais réelle. Ils portent surtout un message : refuser la reconnaissance automatisée dans l'espace public.

« Ces objets visuels, graphiques, agissent un peu comme des grigris. Ça ne marche pas à tous les coups, mais ils ont un côté protecteur », Geoffrey Dorne, designer, doctorant au laboratoire CEThics.

Simon Weckert présente d'abord son travail comme « un projet artistique », une manière d'interroger les usages de ces technologies et les problèmes qu'elles prétendent résoudre. Il redoute qu'on s'y fie trop, jusqu'à les utiliser pour repérer des personnes sans domicile et les déplacer de force. « Quand on est constamment surveillé, on change de comportement », ajoute-t-il. En France, la vidéosurveillance algorithmique, expérimentée à grande échelle pendant les Jeux olympiques de Paris, n'a finalement jamais quitté l'espace public.