Et si le problème de l'IA en entreprise… c'était l'entreprise ?
On achète des outils intelligents, on forme quelques salariés, on organise une démonstration devant la direction… et l'on espère que l'entreprise va devenir intelligente. Mais si l'on commençait par revoir son fonctionnement ?
Installer une IA ne suffit pas à transformer une organisation
Une organisation peut disposer du meilleur modèle d'intelligence artificielle du monde et continuer à fonctionner avec des procédures absurdes, des responsabilités floues et des données inutilisables.
Imaginez une entreprise dont le service client met trois semaines à répondre aux réclamations. On lui propose une IA capable de rédiger une réponse en trois secondes.
Formidable. Sauf que les réclamations restent bloquées parce que personne ne sait qui doit autoriser le remboursement.
L'IA a accéléré la rédaction. Elle n'a pas résolu le problème.
Pas de côté — Le hamster augmenté
Ajouter une IA à une procédure inefficace peut ressembler à offrir des chaussures de compétition à un hamster dans sa roue. Il tournera plus vite. Mais ira-t-il quelque part ?
Première interrogation : cherchons-nous à automatiser le fonctionnement existant, ou à améliorer réellement le service rendu ?
C'est précisément le point de départ d'une réflexion développée par le juriste Giuseppe Claudio Cicu dans un article scientifique publié en 2024 : AI by Corporate Design.
Sa proposition consiste à intégrer l'intelligence artificielle dans la conception même de l'organisation, de ses processus, de sa gouvernance et de ses mécanismes de contrôle. L'IA n'est plus simplement un outil ajouté. Elle devient une composante de l'architecture organisationnelle.
Le modèle s'inspire du Privacy by Design : anticiper les risques et les protections dès la conception plutôt que de chercher à les corriger une fois le système installé.
Mais qu'y a-t-il de réellement nouveau dans cette idée ?
Le management des processus, la gestion des risques, la conformité juridique et la transformation numérique existaient bien avant l'IA.
L'intérêt de Cicu est de les faire converger dans un même cadre de conception et de responsabilité. Une IA ne doit pas être évaluée seulement comme une technologie performante, mais comme un élément qui transforme les décisions, les métiers et les droits.
Ce cadre demeure une proposition méthodologique, non une certification ni une obligation juridique autonome.
Avant de demander « Quelle IA ? », posons trois questions
Pourquoi faisons-nous cela ?
Quel problème voulons-nous résoudre ? Qui prend actuellement les décisions ? Quels processus doivent changer ?
Le piège : confondre transformation et simple accélération.
Avons-nous le droit de le faire ainsi ?
Quelles données utilisons-nous ? Quels droits pourraient être affectés ? Qui répond des erreurs ?
Le piège : découvrir la conformité la veille du lancement.
Le système est-il réellement fiable ?
Comment mesure-t-on sa qualité ? Quelles sont ses limites ? Que se passe-t-il lorsqu'il se trompe ?
Le piège : considérer une réponse convaincante comme une réponse exacte.
Trois questions, une seule décision
Si l'un des trois regards manque, le projet devient fragile : efficace mais illégal, conforme mais inutile, ou techniquement brillant mais ingouvernable.
À vous de décider — Une IA pour les ressources humaines
Votre entreprise veut utiliser une IA pour présélectionner les candidatures. Quelle est la première décision pertinente ?
Six étapes pour faire travailler ensemble l'IA et l'organisation
L'une des contributions les plus concrètes de Cicu consiste à rapprocher le management des processus métiers (BPM) et le cycle de vie des systèmes d'IA.
L'idée paraît simple : à chaque transformation d'un processus doit correspondre une réflexion sur le système d'IA qui le soutient. Et inversement.
Pas de côté — Le culte du tableau de bord
Nous savons désormais mesurer à la milliseconde la vitesse de réponse d'une IA.
Mais combien d'organisations savent mesurer si leurs salariés comprennent davantage leur travail, si leurs clients sont mieux traités ou si les décisions sont devenues plus justes ?
Un excellent indicateur peut mesurer avec une précision remarquable quelque chose qui n'a presque aucun intérêt.
Et les données synthétiques : une solution magique pour la confidentialité ?
Non. Les données synthétiques peuvent aider à concevoir, tester ou entraîner certains systèmes sans utiliser systématiquement les données originales.
Mais leur caractère artificiel ne garantit pas, à lui seul, l'absence de risque de réidentification, de fuite d'informations ou de biais.
Il faut examiner leur mode de génération, leurs propriétés et les risques de confidentialité propres à l'usage.
L'IA donne des réponses. Mais qui a le pouvoir de dire non ?
Cicu propose la mise en place d'un Comité éthique, algorithmique et juridique, ou EALC, réunissant plusieurs compétences : direction, métiers, juridique, technologie et gouvernance.
Son rôle n'est pas uniquement de vérifier que le projet respecte une réglementation. Il examine ses conséquences sur le fonctionnement de l'entreprise et sur les personnes.
Ce que le comité doit pouvoir examiner
Les finalités, les risques, la qualité des résultats, les droits des personnes, les responsabilités, la traçabilité et les modalités de supervision humaine.
Ce qu'il doit pouvoir provoquer
Une modification du projet, un contrôle complémentaire, une suspension ou une remontée à l'autorité décisionnelle lorsque les risques le justifient.
Pas de côté — Le comité qui valide tout
Un comité éthique qui ne peut jamais s'opposer à une décision peut avoir une réelle utilité : décorer l'organigramme.
Une gouvernance crédible exige un mandat, des responsabilités, des moyens et une possibilité effective d'intervenir.
Faut-il créer un grand comité pour chaque petite entreprise ?
Non. Le modèle doit être adapté à la taille de l'organisation, à ses moyens et au niveau de risque.
Une PME peut établir un dispositif plus léger : un responsable identifié, un contrôle juridique adapté, une consultation des métiers, un registre des usages, des procédures d'incident et des décisions documentées.
L'essentiel n'est pas de multiplier les réunions. C'est de rendre les responsabilités effectives.
La présence d'un humain suffit-elle à sécuriser une décision ?
Non. Un salarié qui clique systématiquement sur « Approuver » sans comprendre ni pouvoir contester le résultat de l'IA n'exerce pas un contrôle réel.
La supervision doit être proportionnée aux risques, avec la compétence, l'information, le temps et l'autorité nécessaires.
Le contrôle humain ne signifie pas non plus que toute sortie d'IA doit être examinée par un comité central : les responsabilités doivent être organisées au bon niveau.
À vous de gouverner : le cas des réclamations clients
Une entreprise reçoit 4 000 réclamations par mois. Elle envisage une IA qui classe les messages, recherche les informations utiles et propose des réponses personnalisées.
Le fournisseur promet une forte réduction des délais. Mais le responsable qualité signale des réponses parfois incorrectes. Les salariés craignent de perdre toute autonomie. Le DPO demande quelles données seront transmises au fournisseur.
Décision 1 — Par quoi commencez-vous ?
Décision 2 — L'IA propose un remboursement erroné
Décision 3 — Après trois mois, les délais ont diminué, mais les contestations augmentent
Découvrez les indicateurs que nous suivrions chez EVALIR
Nous proposerions quatre familles d'indicateurs, à adapter après diagnostic :
Performance : temps de traitement, taux de résolution au premier contact, coûts réels.
Qualité : exactitude, réclamations rouvertes, réponses contestées, satisfaction des clients.
Risques : incidents de données, erreurs graves, biais détectés, escalades non traitées.
Facteur humain : autonomie, compréhension des procédures, formation, charge cognitive et capacité à contester les résultats.
Développer en interne ou acheter une IA externe ?
Le modèle de Cicu distingue les systèmes conçus en interne et ceux fournis par des prestataires. Dans le second cas, les exigences de gouvernance doivent aussi se traduire dans les contrats, les processus de suivi et la relation avec le fournisseur.
Acheter une solution ne signifie pas transférer toutes ses responsabilités.
Quelles questions poser à un fournisseur d'IA ?
Où les données sont-elles traitées ? Sont-elles réutilisées pour entraîner les modèles ? Quels sous-traitants interviennent ? Quelles garanties de sécurité sont fournies ?
Peut-on tester et documenter les erreurs ? Que se passe-t-il lors d'un incident ? Comment récupère-t-on les données en cas de départ ? Quelles modifications le fournisseur peut-il imposer ?
Enfin, quels éléments de documentation permettent à l'organisation de satisfaire ses propres obligations ?
Pas de côté — La magie de l'abonnement
Une licence mensuelle peut vous donner accès à un système très puissant. Elle ne vous donne pas automatiquement une gouvernance, une stratégie, une politique de données ni une responsabilité juridique transférable par abonnement.
Et le règlement européen sur l'IA dans tout cela ?
Le modèle de Cicu doit être distingué des obligations juridiques effectivement applicables.
Le RGPD impose notamment la protection des données dès la conception et par défaut. L'AI Act européen établit une approche réglementaire fondée sur les risques, avec des obligations variables selon les acteurs et les usages.
Depuis février 2025, le règlement européen prévoit des mesures favorisant la maîtrise de l'IA par les personnes qui l'utilisent dans le cadre de leurs activités professionnelles. Le texte a été modifié en 2026 : il n'impose pas de garantir un niveau individuel déterminé de maîtrise de l'IA.
En octobre 2026, plusieurs dispositions du règlement sont déjà applicables, notamment des règles de transparence. Les principales obligations spécifiques aux systèmes à haut risque bénéficient de calendriers différenciés, jusqu'en 2027 et 2028.
Un comité éthique suffit-il à être conforme à l'AI Act ?
Non. Un comité peut contribuer à la gouvernance, mais ne remplace pas les obligations applicables à chaque système : qualification du risque, documentation, contrôle humain lorsque requis, transparence, sécurité et autres exigences pertinentes.
La conformité dépend du rôle de l'organisation (fournisseur ou déployeur), des caractéristiques du système et de son usage.
La technologie est-elle devenue juridiquement la quatrième dimension obligatoire de toute entreprise ?
Non. Cicu défend une perspective d'évolution du droit des sociétés à partir du contexte italien, notamment autour de l'article 2086 du Code civil.
C'est une proposition doctrinale intéressante sur les devoirs des dirigeants, et non une règle automatiquement applicable à toutes les entreprises françaises.
Votre organisation est-elle prête à gouverner son IA ?
Six affirmations. Cochez uniquement celles qui correspondent déjà à une pratique effective dans votre organisation.
Ce test est un outil pédagogique, pas un audit de conformité.
Pas de côté — Une question de culture
Une organisation réellement prête pour l'IA n'est pas nécessairement celle qui possède le plus d'abonnements, d'agents ou de licences.
C'est peut-être celle qui sait le mieux poser des questions, partager ses connaissances, détecter une erreur et remettre en cause ses habitudes.
La gouvernance de l'IA est d'abord une affaire d'intelligence collective
L'AI by Corporate Design présente un intérêt majeur : il oblige à relier ce que les organisations ont souvent pris l'habitude de séparer.
La stratégie, les métiers, la technologie, le droit, les données, les compétences et les décisions ne peuvent plus évoluer indépendamment.
Mais il faut prolonger la réflexion. Une organisation ne devient pas intelligente parce que ses outils le deviennent.
Elle progresse lorsqu'elle développe sa capacité collective à comprendre les situations, à débattre des finalités, à partager les savoirs, à décider lucidement et à apprendre de ses erreurs.
C'est tout l'enjeu de l'acculturation, de la formation et de l'accompagnement des transformations. Il s'agit moins d'apprendre aux salariés à appuyer sur le bon bouton que de leur permettre de comprendre ce que le bouton change.
La véritable question n'est donc pas : « Comment introduire davantage d'IA dans notre entreprise ? » mais « Quelle organisation voulons-nous devenir avec l'IA ? »
EVALIR — Intelligences pour un monde plus lucide.
