Comprendre · expérimenter · transmettre
Qui vérifie, qui décide, et quand faut-il arrêter ?
Transformer le contrôle humain en organisation concrète : du temps, des compétences, une responsabilité et la possibilité de suspendre l’usage.
Un parcours EVALIR pour professionnels, organisations et personnes curieuses de l’IA en santé.
Illustration à venir
Le contrôle humain a besoin de moyensEmplacement réservé · Parcours 0901 / Partir du travail réel
La gouvernance se voit dans les situations difficiles
Une gouvernance utile précise les décisions que les acteurs peuvent prendre. Qui autorise l’essai ? Qui valide une source ? Qui vérifie une sortie et dans quel délai ? Qui peut suspendre ? À qui un usager signale-t-il une information erronée ? Les réponses dépendent du service et de l’usage. Il est utile de jouer un scénario d’erreur avant le lancement pour repérer les responsabilités manquantes et les délais impossibles.
Ce que l’on cherche à améliorer
Le temps de rédaction est une dimension du travail. La compréhension, la fidélité et la possibilité d’agir en sont d’autres. Un outil peut accélérer une étape et créer des reprises ailleurs. L’acculturation consiste à rendre ces effets visibles, à comprendre comment une proposition de texte est produite et à décider ensemble où une assistance est utile.
Un modèle de langage compose une réponse plausible à partir du contexte fourni. Il peut reformuler sans conserver toutes les conditions et compléter une information absente par une formulation vraisemblable. Même alimenté par des documents internes, il faut vérifier la réponse et les références réellement utilisées.
02 / Enquête sur un document
Que manque-t-il à cette conclusion ?
Tout le cas ci-dessous est fictif. Aucune règle réelle d’établissement ni aucun dossier personnel n’est reproduit.
La source disponible
Essai fictif : un assistant prépare des réponses à partir de fiches validées. La charte dit « toute sortie doit être vérifiée ». Aucun temps n’est prévu, personne ne suit les versions et les erreurs sont corrigées oralement. Une agente découvre une mauvaise condition de rendez-vous répétée dans plusieurs brouillons. Certains ont déjà été envoyés. Le responsable de diffusion n’est pas identifié dans le protocole.
Une conclusion à discuter
La vérification relève de chaque agent. La charte suffit. Corriger le prochain brouillon et continuer ; le système apprendra automatiquement des corrections faites à l’oral.
La responsabilité est renvoyée à des personnes qui ne disposent pas des moyens annoncés. Une correction orale n’entraîne pas automatiquement une modification du système. L’erreur répétée demande d’examiner la source, les sorties déjà diffusées et les conditions d’utilisation. Le contrôle doit avoir un effet possible sur le dispositif.
Que faites-vous en premier ?
Comparer avec une lecture argumentée
Suspendre la diffusion des réponses concernées, alerter le responsable de l’essai et vérifier la source applicable. Identifier les documents déjà envoyés et organiser leur correction selon la situation. Attribuer la validation, prévoir le temps et les compétences, documenter l’anomalie puis vérifier la correction avant reprise. Ne pas supposer un apprentissage automatique.
Cette proposition est un support d’exercice. Les mentions à compléter doivent être traitées avant un envoi réel. Une absence d’information doit être visible pour le professionnel ; elle ne doit pas devenir une instruction inutilisable pour le destinataire.
03 / Composer un cadre de travail
Préparer une fiche de discussion avec l’équipe
Choisissez le destinataire et le contrôle prioritaire. Le bouton assemble une fiche locale à discuter en équipe. Il n’appelle aucune IA et ne traite aucun document. N’inscrivez pas de données personnelles dans les notes de cet exercice.
Une fiche utile doit déboucher sur des décisions
La fiche rend l’intention explicite ; l’organisation doit encore prévoir les droits d’accès, les documents admis, les rôles et les modalités de contrôle. Pour expérimenter, on peut commencer par des matériaux fictifs. L’utilisation d’informations réelles dépend du cadre autorisé par l’établissement et des caractéristiques du service technique. Retirer le nom d’une personne ne garantit pas qu’un texte soit anonyme : le contexte peut permettre de la reconnaître.
Les agents sont les mieux placés pour raconter les exceptions et les difficultés du quotidien. Les usagers peuvent montrer ce qu’un texte leur fait comprendre. Les responsables métier doivent préciser ce qui engage l’institution. Cette coopération transforme une démonstration d’outil en apprentissage collectif.
04 / Changer de situation
Votre jugement résiste-t-il à un autre exemple ?
Le modèle change de version pendant un essai. Les réponses deviennent plus affirmatives et les références moins précises. Le tableau de bord indique toujours une forte utilisation. Que faut-il examiner ?
Choisissez une intervention
Évaluer le bénéfice dans le travail réel
Suivre les erreurs significatives, leur répétition, le temps de détection et de correction, ainsi que la possibilité réelle de signaler un doute. Une forte utilisation ou une validation par clic ne prouve pas la qualité. Un changement de source, de modèle ou de finalité peut justifier de nouvelles vérifications.
Pour un premier essai, convenez d’un petit ensemble de situations et comparez deux façons de travailler. Notez les corrections nécessaires, les difficultés rencontrées et le temps de reprise. Les résultats servent à ajuster le dispositif avec les agents ; ils ne constituent pas une promesse de gain universel. Vérifiez aussi que les tâches déplacées vers les collègues ou les usagers n’ont pas été oubliées.
Notes conservées seulement dans cette page ouverte. Imprimez pour les garder ; un rechargement ou une réinitialisation les efface.
Des repères pour approfondir
Ces références publiques cadrent la réflexion. Les cas, corrections et interactions de cette page sont des créations pédagogiques EVALIR ; ils ne sont pas extraits de ces publications et ne remplacent pas les règles de votre établissement.
- HAS — Premières clefs d’usage de l’IA générative en santé, 2025. Un guide destiné aux professionnels des secteurs sanitaire, social et médico-social.
- CNIL — Comment déployer une IA générative ? Des repères pour examiner protection des données et conditions de déploiement.
L’assise d’une intelligence vivante
Des sources identifiées, les savoirs des acteurs, des versions maintenues, des questions explicitées et des retours d’expérience : cet ensemble permet de transmettre et d’améliorer les pratiques. L’IA peut aider à le rendre consultable et à en préparer des formes pédagogiques. La qualité du corpus et la participation des équipes donnent une assise à l’usage ; elles ne garantissent pas automatiquement l’exactitude de toute production.
