Écouter l’articleLecture en français selon les voix disponibles sur votre appareil.

INTELLIGENCE VIVANTE DES CRISES · DOSSIER IA MILITAIRE 8/10

Face à un cahier des charges technique, un ingénieur sait vérifier des performances. Mais que faire lorsque la question devient : à quoi ce système servira-t-il, et qui pourra l’arrêter ?

Une ingénieure et ses collègues débattent de l'usage d'une technologie dans un atelier

PREMIÈRE PARTIE — L’ENQUÊTE

Le moment où le métier devient politique

Un laboratoire conçoit une technique de reconnaissance d’images. Les tests semblent convaincants ; le projet ouvre des possibilités scientifiques intéressantes. Puis apparaît un usage militaire possible. Certains ingénieurs considèrent qu’une technologie peut protéger des personnels ou des civils ; d’autres redoutent qu’elle abaisse le seuil d’emploi de la force. Entre ces positions existent de nombreuses nuances. Le désaccord n’est pas nécessairement une opposition entre personnes responsables et personnes irresponsables. Il porte sur les usages, les preuves disponibles, les obligations professionnelles et les modalités de gouvernance. Cette tension, loin d’être abstraite, a produit des conflits visibles dans l’industrie de l’IA.

2018 : l’affaire Google et Project Maven

En 2018, la participation de Google au projet Maven du département américain de la Défense a déclenché une contestation interne. Des salariés ont signé des pétitions ; certains ont démissionné ; des scientifiques ont formulé des objections. Google a alors annoncé qu’il ne renouvellerait pas le contrat concerné et a publié de nouveaux principes d’IA incluant des engagements contre certains usages militaires. Il est important de raconter cette séquence sans réécrire les faits : Maven portait notamment sur l’analyse d’images, et l’affaire ne signifie pas que Google avait développé des armes autonomes décidant seules de tuer. Ce fut surtout un débat sur la place des travailleurs dans les choix de finalité d’une entreprise.

2025 : les principes ne sont pas immuables

En février 2025, Google a modifié ses principes publics et supprimé les formulations explicites promettant de ne pas développer d’IA destinée aux armes et à certaines formes de surveillance, au profit d’un cadre insistant notamment sur la responsabilité, le contrôle et le droit international. Ce changement documenté est un rappel utile : une charte éthique d’entreprise peut évoluer avec le contexte politique, la stratégie et les décisions de direction. On peut soutenir ou critiquer ces changements ; pour l’enquête, il faut surtout distinguer les principes déclarés, les contrats signés, les usages réellement permis et les dispositifs de contrôle qui ne dépendent pas d’un simple texte public.

UsageannoncéChoix deconceptionAlerte etcontradictionDécisiontraçable
Schéma original EVALIR — L’éthique d’un ingénieur se traduit en obligations, arbitrages et contre-pouvoirs.

2026 : les frontières contractuelles de l’IA militaire

Les désaccords entre entreprises d’IA et autorités de défense ont pris une nouvelle visibilité en 2026, notamment autour des conditions d’emploi de modèles avancés, de la surveillance de masse et des décisions d’usage de la force. Les informations publiées sur les contrats et les déclarations d’acteurs ne révèlent cependant pas automatiquement leurs clauses intégrales. La recherche exige donc de séparer ce qui est publiquement démontré des interprétations politiques, parfois très conflictuelles, qui accompagnent les contrats. Une position de principe peut coexister avec un soutien à certains usages de défense. L’éthique ne se résume pas à un « pour » ou « contre » général : elle exige de décrire des fonctions, des restrictions et des moyens de contrôle.

La responsabilité commence avant la mise en service

Une étude d’Ariel Conn et Ingvild Bode, publiée en octobre 2025 dans Ethics and Information Technology, examine la responsabilité humaine dès les premières étapes du cycle de vie des systèmes d’IA de défense. Cette perspective déplace utilement la question : il ne suffit pas de chercher un opérateur au moment de l’incident. Les décisions de conception, de spécification, d’essai et d’acquisition contribuent à définir les possibles. Une autre contribution scientifique sur la gouvernance éthique de l’IA de défense souligne les arbitrages normatifs nécessaires pour traduire des principes généraux en exigences opérationnelles. Dire « humain dans la boucle » est moins précis qu’expliquer qui doit pouvoir contester quoi, quand et comment.

Le pouvoir de dire non, mais aussi de proposer autre chose

Les salariés peuvent signaler des risques, demander des évaluations indépendantes, inscrire des restrictions aux contrats, proposer des comités de revue, défendre la traçabilité ou demander une réaffectation. Ces possibilités varient selon l’organisation, le droit du travail et la confidentialité des projets. Une protection efficace de la liberté d’alerte doit éviter de réduire le débat à un face-à-face héroïque entre un ingénieur et une direction. Les décisions d’entreprise impliquent aussi les juristes, les équipes d’achats, les clients publics, les associations professionnelles et les citoyens. La responsabilité partagée ne doit pas se convertir en irresponsabilité généralisée.

À quoi reconnaît-on une éthique qui fonctionne ?

Un dispositif crédible permet de poser des questions avant les crises, d’entendre les objections, d’évaluer leur substance et de laisser une trace. Il lie les valeurs aux conditions d’utilisation, aux tests, à la formation et aux clauses contractuelles. Il prévoit aussi ce qui se passe lorsqu’un salarié ou un client constate un écart. Les principes peuvent être ambitieux ; sans instruments de vérification, ils deviennent des déclarations sans prise sur les usages. Pour EVALIR, l’enjeu est celui d’une intelligence vivante : des règles capables d’apprendre des incidents sans attendre qu’ils deviennent irréparables.

ConcevoirDélibérerVérifier
Illustration pédagogique originale EVALIR : les trois moments d’une responsabilité collective.

DEUXIÈME PARTIE — Laboratoire d’expériences : trois décisions, trois enseignements

Illustration schématique originale EVALIR — Les choix éthiques au cœur de la conception. Les relations sont conceptuelles, non des données mesurées.

Scénario pédagogique fictif. Chaque option ouvre une explication et une notion. Vous pouvez ensuite consulter librement quatre fiches d’expertise, puis refaire le parcours autrement. Aucun choix n’est un conseil tactique ou opérationnel.

 

 

 

Ouvrez quatre dossiers d’expertise

Alerte professionnelle

Une objection utile précise un risque, ses preuves et les voies d’examen accessibles. Son traitement ne devrait pas dépendre seulement du courage individuel.

Principes et contrats

Une charte évolutive doit être traduite en contrôles, essais, restrictions et responsabilités contractuelles.

Conception responsable

Les choix d’entraînement, de validation et de documentation rendent certains risques visibles ou invisibles longtemps avant l’usage.

Diversité des positions

Il existe des désaccords légitimes sur les technologies de défense. Une revue sérieuse confronte les bénéfices envisagés et les coûts possibles.

Quatre contre-épreuves pour prolonger l’expérience

À chaque étape, prenez quelques secondes pour formuler votre réponse ; ouvrez ensuite les explications. Les scénarios sont pédagogiques et les conséquences ne sont pas des prédictions.

1. L’objection n’est pas une démission

Votre situation : Une équipe découvre que son logiciel de classification pourrait être intégré à une chaîne de ciblage. Plusieurs ingénieurs envisagent de partir sans transmettre leurs inquiétudes.

Pour comprendre : La décision individuelle mérite respect, mais une éthique institutionnelle ne devrait pas se réduire au courage de quitter un poste. Il faut des procédures pour décrire le risque, solliciter des réponses documentées et, lorsque c’est possible et approprié, obtenir une expertise indépendante. L’alerte précise les usages envisagés plutôt que de condamner indistinctement toute technologie.

2. Le contrat a changé de finalité

Votre situation : Un logiciel conçu pour la logistique est désormais proposé pour identifier des objets associés à une opération militaire. Le fournisseur affirme qu’il s’agit du même produit.

Pour comprendre : La similitude du code ne garantit pas celle des risques. Un changement de finalité modifie les données nécessaires, les conséquences des erreurs, les personnes exposées et les responsabilités. Les équipes doivent réexaminer les spécifications et les restrictions contractuelles ; l’évaluation du contexte compte autant que la performance du modèle.

3. Une charte éthique sans point d’arrêt

Votre situation : Une entreprise présente des principes responsables mais n’a jamais suspendu un projet lorsque des essais révèlent des limites non maîtrisées.

Pour comprendre : Une charte devient crédible lorsque des décisions mesurables en découlent : critères d’acceptation, tests adversariaux, voies de contestation, droits d’arrêt et compte rendu des incidents. Les principes évoluent ; leur traduction en procédures et en responsabilités est donc déterminante pour éviter une communication purement décorative.

4. Le débat caricaturé

Votre situation : Un comité oppose les scientifiques favorables à toute application militaire aux chercheurs opposés à toute coopération avec la défense. Personne n’examine les usages précis.

Pour comprendre : Le dossier gagne à distinguer surveillance, logistique, aide à la décision, systèmes autonomes et application de la force. Des positions différentes peuvent s’appuyer sur des évaluations sérieuses de risques et de bénéfices. Une controverse féconde fait apparaître ses critères, ses incertitudes et les conditions dans lesquelles une décision devrait changer.

Source complémentaire : Open Robotics, engagement volontaire contre la militarisation des robots polyvalents, octobre 2022. La distinction entre preuves documentées et simulations demeure essentielle.

Les sources : remonter aux documents

Ces scénarios sont construits à des fins pédagogiques ; leur plausibilité n’est pas une preuve d’événements réels. Brouillon EVALIR destiné à une validation humaine avant publication.

.tablepress-id-1 td img { width: 120px !important; height: auto !important; max-height: 120px !important; object-fit: contain; display: block; margin: 0 auto; }