Pourquoi l’IA peut parfois générer des erreurs ou des informations biaisées ? On appelle cela des hallucinations.
💡 Comprendre les limites et les dangers des réponses générées par l’IA
Nous avons déjà parlé des hallucinations de l’IA dans la deuxième leçon du premier module.
Nous allons ici approfondir cette question et citer quelques exemples.
💡Ecoute cette leçon :
L’IA ne sait pas tout, et elle peut se tromper ! Il y a plusieurs raisons à cela :
❌ Elle invente parfois des informations (ce qu’on appelle des hallucinations). Une IA peut fabriquer un faux fait historique ou citer un auteur qui n’a jamais écrit une phrase.
❌ Elle est influencée par les données qu’elle a apprises. Par exemple, une IA qui a surtout été entraînée avec des textes en anglais pourra parfois mal traduire une expression française.
❌ Elle ne réfléchit pas comme un humain. Elle ne sait pas faire la différence entre une blague et une info sérieuse si on ne lui précise pas le contexte.
⚠️ Un réflexe important : toujours vérifier !
Il faut toujours relire une réponse donnée par une IA, vérifier si elle est cohérente, et comparer avec d’autres sources avant de l’utiliser dans un devoir.
Apprendre à croiser les sources et identifier les contenus fiables
💡 Devenir un détective de l’information pour éviter les pièges !
🔍 Vérifier d’où vient une information
✔ Regarde si l’IA te donne une source et note son nom.
✔ Fais une recherche sur cette source pour voir si elle est fiable.
✔ Croise avec d’autres sources : une info est plus crédible si plusieurs sites de confiance disent la même chose.
❌ Se méfier des fausses citations
✔ Une IA peut inventer des citations ! Si un texte contient une phrase attribuée à un personnage célèbre, recherche-la sur Google pour voir si elle est authentique.
📌 Quelques sites fiables pour vérifier une info
- Wikipedia (mais en consultant les sources en bas de page).
- Les sites officiels (.gouv.fr, .org souvent plus fiables que .com).
- Les grands medias français, par exemple : Le Monde, Libération, Le Figaro, Le Point, L’Express, 20 Minutes, France 24, Courrier International, les sites d’information comme l’AFP
- Le site de l’ONU, de l’UNESCO, des grandes institutions internationales pour les faits mondiaux