L’IA nous donne-t-elle raison jusqu’à nous faire perdre la raison ?
Enquête sur la confiance, la flatterie algorithmique, la vigilance épistémique et notre liberté de penser.
Une exploration scientifique et critique des nouvelles relations entre intelligence humaine et intelligence artificielle.
Lire l’enquête Découvrir le petit livreVisuel de couverture à intégrer
Nous savons nous méfier d'un interlocuteur qui veut nous convaincre. Mais que se passe-t-il lorsque celui qui nous répond est une machine, disponible à toute heure, d'apparence savante et parfois toujours d'accord avec nous ?
La question dépasse largement les erreurs factuelles de l'IA. Elle engage notre rapport à la vérité, à la contradiction, à l'autorité intellectuelle et aux autres.
Les travaux universitaires récents révèlent une réalité complexe : l'IA peut nous aider à mieux réfléchir, mais elle peut également renforcer certaines de nos certitudes ou modifier les conditions dans lesquelles nous exerçons notre esprit critique.
Une vidéo, plusieurs interrogations
L'extrait proposé réunit notamment une analyse d'Albert Moukheiber sur la vigilance épistémique et les comportements conversationnels de l'IA, ainsi qu'une réflexion de Frédéric Lordon sur le financement et les risques du secteur.
Les propos de la vidéo constituent le point de départ de l'enquête, non une validation automatique des chiffres ou interprétations qu'elle contient.
Huit portes pour comprendre
Psychologie cognitive, interaction humain-machine, sciences de l'information, sociologie, économie, pédagogie et gouvernance éclairent différentes dimensions du même phénomène.
La vigilance épistémique
Dan Sperber, Fabrice Clément, Hugo Mercier, Gloria Origgi et leurs collègues expliquent comment les humains évaluent l'information transmise par autrui.
Avec l'IA, il devient indispensable d'examiner non seulement le contenu, mais aussi ses sources, son contexte et sa possibilité de vérification.
Lire la rechercheLe piège de la flatterie
Myra Cheng, Cinoo Lee et leurs collègues ont expérimenté les effets de réponses excessivement approbatrices.
Une approbation plaisante peut consolider la conviction d'être dans son droit et diminuer, dans certaines situations, l'intention de réparer un conflit.
Étude publiée dans ScienceLes réponses inventées
Stephanie Lin, Jacob Hilton et Owain Evans ont étudié la propension des modèles à reproduire certaines fausses croyances.
Le NIST décrit également les confabulations : des contenus faux ou erronés présentés parfois avec une grande assurance.
TruthfulQALes machines sont-elles sociales ?
Clifford Nass et Youngme Moon ont montré que nous appliquons aux ordinateurs des comportements sociaux spontanés.
Murray Shanahan souligne les risques d'une lecture trop anthropomorphique des modèles conversationnels.
Lire Murray ShanahanPenser ou déléguer sa pensée ?
Les travaux de Hao-Ping Lee et de ses collègues examinent comment l'IA transforme l'effort critique déclaré des travailleurs du savoir.
Buçinca et ses collègues proposent des dispositifs de réflexion active pour éviter l'acceptation automatique de recommandations erronées.
Étude CHI 2025Créer davantage, se ressembler davantage ?
Anil Doshi et Oliver Hauser ont observé que l'assistance générative pouvait améliorer la qualité perçue de récits tout en réduisant leur diversité collective.
Le bénéfice individuel n'implique donc pas toujours un enrichissement collectif des idées.
Étude Science AdvancesHumain + IA : toujours mieux ?
Michelle Vaccaro, Abdullah Almaatouq et Thomas Malone ont réalisé une méta-analyse de 106 études expérimentales.
La collaboration humain–IA ne crée pas automatiquement une meilleure performance que le meilleur des deux séparément. Tout dépend notamment des tâches et de leur organisation.
Méta-analyse Nature Human BehaviourQui décide et selon quelles valeurs ?
Crozier, Friedberg, Morin et Weick offrent des cadres conceptuels pour comprendre les stratégies d'acteurs, les interdépendances et la construction collective du sens.
L'IA modifie non seulement les tâches, mais aussi la circulation du pouvoir, de l'information et des responsabilités.
Découvrir la méthode EVALIRQuelques données pour éclairer le débat
Ces chiffres décrivent des dispositifs de recherche distincts. Ils ne mesurent pas la proportion générale des utilisateurs qui perdraient leur esprit critique.
À quel point êtes-vous vigilant face à l'IA ?
Un petit exercice pour distinguer confiance, vérification et jugement. Il ne s'agit pas d'un test psychométrique validé, mais d'une mise en situation pédagogique.
Sept gestes pour penser avec l'IA
L'esprit critique ne consiste pas à se méfier de tout. Il consiste à proportionner notre confiance à la qualité des preuves et à l'importance des décisions.
Mettre ces gestes en pratique
1. Formuler le problème avant de consulter l'IA
Écrire sa question et ses hypothèses initiales permet de distinguer ses propres idées de celles proposées ensuite par le système.
2. Demander plusieurs interprétations
Rechercher au moins deux explications plausibles, y compris celles qui contredisent sa préférence initiale.
3. Remonter aux sources primaires
Identifier les auteurs, les dates, les publications et les documents d'origine. Ne pas se contenter de références seulement mentionnées par le modèle.
4. Comparer les réponses
Confronter les propositions à des données et expertises indépendantes. Le simple accord entre deux modèles n'est pas une preuve suffisante.
5. Exiger une objection sérieuse
Demander les meilleurs arguments opposés et les faits capables de faire réviser la conclusion.
6. Conserver la responsabilité humaine
Expliciter les valeurs, les conséquences, les personnes concernées et les acteurs légitimes pour décider.
7. Réexaminer les résultats
Observer les conséquences de la décision et corriger les hypothèses si de nouvelles informations apparaissent.
Le petit livre n°02
Une enquête éditoriale de 32 pages, réunissant travaux scientifiques, réflexions critiques, références et questions pour continuer à penser.
Un support conçu pour prolonger la lecture, accompagner les conférences et nourrir les ateliers d'acculturation à l'intelligence artificielle.
PDF du petit livre Présentation PowerPointLes liens de téléchargement seront activés après dépôt des fichiers dans la médiathèque.
Les recherches pour aller plus loin
Les références ci-dessous permettent de retrouver les publications originales. Les résultats doivent être interprétés dans le contexte de chaque étude.
Le courage de la contradiction
ÉVALIR accompagne les organisations, les professionnels, les enseignants et les citoyens dans une appropriation critique et constructive de l'intelligence artificielle.
Découvrir ÉVALIR
