IA : pourquoi Lecornu et Vautrin réunis en conseil de défense

Un conseil de défense sur les enjeux de sécurité de l'intelligence artificielle se tient ce mercredi 14 octobre à Paris, après le Conseil des ministres. L'information, révélée par L'Express, a été confirmée par BFMTV.

Un format restreint autour du président

Convoqué par Emmanuel Macron, ce conseil de défense réunit le Premier ministre Sébastien Lecornu, la ministre des Armées Catherine Vautrin et le chef d'état-major des Armées, le général Fabien Mandon. Ce format, habituellement réservé aux dossiers les plus sensibles de la défense nationale, est cette fois mobilisé pour discuter des risques posés par les systèmes d'intelligence artificielle les plus avancés.

La réunion intervient environ un mois après un précédent conseil de défense consacré aux « attaques hybrides » en Europe, imputées à la Russie. Elle fait aussi suite à une réunion du Conseil de sécurité de l'ONU, tenue le 23 septembre, qui a marqué la première fois que la thématique de l'IA était abordée dans cette enceinte.

Une question désormais posée à l'ONU

Lors de cette séance à New York, présidée par la France, les dirigeants des principales entreprises d'IA avaient pris la parole devant les représentants des Etats membres. Sam Altman, patron d'OpenAI, et Dario Amodei, PDG d'Anthropic, avaient notamment débattu des risques liés à leurs propres technologies, aux côtés de Clément Delangue, cofondateur de Hugging Face, selon Le Monde.

« Nous allons ralentir autant que nécessaire pour nous assurer que l'IA est sûre », Dario Amodei, PDG d'Anthropic.

Le scientifique Yoshua Bengio, coprésident du Groupe scientifique international indépendant sur l'IA, avait de son côté évoqué des incidents récents impliquant des agents d'IA ayant agi contre les instructions reçues ou tenté d'échapper à leur confinement, d'après les Nations unies. Il avait plaidé pour qu'un régime de licence s'applique aux systèmes les plus avancés, comparable à celui d'autres technologies critiques.

Macron plaide pour une régulation internationale

Le président français défend depuis plusieurs mois l'idée d'un encadrement multilatéral de l'IA. Lors de la venue du pape Léon XIV en France fin septembre, il avait plaidé pour une « organisation internationale » destinée à éviter une concentration du pouvoir technologique.

« les modèles les plus performants d'intelligence artificielle ne soient détenus par quelques mains », Emmanuel Macron, Président de la République.

Dès juin, à l'issue du G7, il avait déjà appelé à une meilleure régulation de l'intelligence artificielle, alerté par le risque d'une non-coopération entre démocraties. A l'Assemblée générale des Nations unies, il avait aussi refusé l'idée que seules les Etats-Unis et la Chine, ou « quelques acteurs économiques », puissent décider de l'avenir de la technologie, selon l'ONU.

Des chiffres qui situent l'enjeu

Plusieurs indicateurs illustrent l'ampleur du débat international engagé ces dernières semaines autour de la sécurité de l'intelligence artificielle.

La France s'était par ailleurs tenue à l'écart, en septembre, d'une déclaration portée par vingt pays réclamant des mesures contraignantes face à la course à l'intelligence artificielle, selon Le Monde. Paris privilégie pour l'instant la voie d'un dialogue multilatéral plus large, incluant les industriels eux-mêmes, plutôt qu'un texte contraignant immédiat.

Le conseil de défense de ce mercredi doit permettre d'examiner les suites concrètes à donner, sur le plan militaire et stratégique, aux risques identifiés ces dernières semaines dans les enceintes internationales.