Développement de l'IA

Le patron de Meta a pris position mardi dans le débat qui agite la Silicon Valley sur la vitesse à laquelle doivent progresser les modèles d'intelligence artificielle. Sur X, il a écarté l'idée d'une pause coordonnée du secteur, estimant que le marché et la justice suffisent à contenir les risques du développement de l'IA.

Un désaccord assumé avec Anthropic

Mark Zuckerberg s'oppose frontalement à Dario Amodei, qui plaide pour ralentir l'IA, et appelle depuis quelques jours à réduire le rythme d'entraînement des modèles les plus puissants pour laisser le temps aux dispositifs de sécurité de suivre. Pour le fondateur de Meta, chaque laboratoire doit décider seul du moment où il convient de ralentir, une question que pose justement une tribune sur qui détient le pouvoir de dire stop à l'IA.

« Les gens ne voudront pas utiliser des agents qui ne sont pas alignés sur leurs intérêts et qui ne font pas ce qu'ils demandent. Les laboratoires ont donc une forte incitation naturelle à rendre leurs modèles davantage alignés », a écrit Mark Zuckerberg.

« Les gens ne voudront pas utiliser des agents qui ne sont pas alignés sur leurs intérêts et qui ne font pas ce qu'ils demandent. Les laboratoires ont donc une forte incitation naturelle à rendre leurs modèles davantage alignés », Mark Zuckerberg, PDG de Meta.

Il ajoute que « tout laboratoire qui ne se concentre pas sur l'alignement prendra du retard ». Comme preuve de sa bonne foi, il cite le report de plusieurs mois du lancement de Muse AI, son système d'agents personnalisés, décidé selon lui pour renforcer la sécurité du produit avant sa sortie.

Un secteur qui investit et qui se fracture

Le dirigeant s'est aussi prononcé pour des évaluations indépendantes des systèmes d'IA, rappelant que Meta Superintelligence Labs, la division IA du groupe, fait déjà appel à des experts extérieurs. Il réclame toutefois un « écosystème plus vaste et plus diversifié d'évaluateurs » dans tout le secteur, une pique adressée à Anthropic, accusé de privilégier des évaluateurs avec lesquels l'entreprise entretient des liens étroits.

Cette position s'inscrit dans une stratégie plus large de Meta, qui défend depuis l'été les modèles ouverts contre l'approche fermée d'OpenAI et d'Anthropic. Le groupe a publié en août un manifeste d'environ 6 500 mots dans lequel Mark Zuckerberg réclame qu'aucune règle ne retarde la sortie des modèles américains, « ne serait-ce que d'un mois ».

Un secteur divisé, Trump s'en mêle

L'appel de Dario Amodei a trouvé un écho inattendu chez Elon Musk, patron de xAI, qui a affirmé sur son propre réseau social que le patron d'Anthropic « avait raison ». Sam Altman, chez OpenAI, défend lui aussi la nécessité de ralentir le temps d'améliorer les systèmes de sécurité, une position que partagent une partie des salariés de Google et même de Meta.

Le président Donald Trump a de son côté rejeté ces appels de trois patrons de l'IA à faire une pause et minimisé les risques évoqués par les dirigeants de laboratoires d'IA. Des acteurs comme OpenAI, Anthropic et Google étudient malgré tout la création d'un régulateur commun chargé d'élaborer des normes de sécurité partagées, sans que Meta n'y adhère pour l'instant.

Mistral, de son côté, rejette également l'idée d'une pause collective et dénonce l'instrumentalisation des incidents de sécurité récents par les mêmes acteurs qui les ont provoqués. Les avertissements publics des dirigeants d'Anthropic, d'OpenAI et de xAI ont par ailleurs pesé sur les marchés, entraînant des baisses des actions liées à l'intelligence artificielle, en particulier chez les fabricants de puces.

La publication de Mark Zuckerberg a été saluée par plusieurs personnalités de la Silicon Valley proches de la Maison-Blanche, qui contestent la multiplication des mises en garde sur les dangers potentiels de l'IA.