Quand l’IA apprend de travers : les biais
🎯 Situation déclenchante — Le lundi où la commande s’est trompée
La commande gestuelle a été installée au bloc opératoire. Pendant une semaine, on l’a entraînée avec les gestes du chirurgien titulaire.
Le lundi suivant, deux incidents se produisent. Une infirmière fait signe à un collègue : l’écran se fige en pleine opération. Puis un chirurgien remplaçant, aux gants verts, fait un stop bien net : rien ne se passe.
La machine est-elle en panne ? Ou bien a-t-elle appris autre chose que ce qu’on croyait ? C’est ce qu’on appelle un biais de l’IA.
Observe l’animation : regarde ce que l’IA affiche à chaque moment.
💡 1. Pourquoi l’IA a-t-elle réagi au signe de l’infirmière, et pas au stop du remplaçant ? Écris ton hypothèse.
💡 2. À qui la faute : à la machine, ou à quelqu’un d’autre ?
Clique sur une étape pour naviguer dans la séance — elle se coche quand tu as terminé l’activité
📚 Lexique — Les mots clés
Ces mots reviennent tout au long de la séance. Lis-les avant de commencer.
Erreur systématique d’un modèle, due à des données qui ne représentent pas tous les cas.
Les exemples étiquetés à partir desquels le modèle apprend.
Des exemples qui couvrent toutes les situations dans lesquelles le modèle sera utilisé.
Un indice facile que le modèle apprend à la place du vrai critère : un gant, un fond, une lumière.
Une commande lancée alors que personne ne l’a demandée.
Recommencer l’entraînement du modèle avec des données modifiées ou complétées.
🔍 Activité 1 — Enquêter sur les données du bloc
Voici les douze photos avec lesquelles on a entraîné la commande du bloc. Observe-les comme un enquêteur : le modèle n’a rien vu d’autre.
1. En dehors du geste lui-même, qu’ont en commun toutes les photos Stop ?
2. Qu’est-ce que le modèle a pu apprendre à la place du geste ?
3. Explique les deux incidents du lundi (l’infirmière, le remplaçant aux gants verts) à l’aide de ta réponse.
Synthèse
Le modèle s’est-il trompé, ou a-t-il bien appris ce qu’on lui a montré ? Justifie.
Un modèle apprend tout ce qui distingue ses classes, y compris ce qu’on ne voulait pas lui apprendre. Ici, tous les Stop étaient faits avec un gant bleu : « gant bleu » suffisait à reconnaître un Stop. Le modèle a pris ce raccourci.
D’où les deux incidents : la main gantée de bleu de l’infirmière ressemble aux exemples de Stop, même si elle fait coucou ; le gant vert du remplaçant ne ressemble à aucun exemple de Stop.
C’est un biais. Il ne vient pas d’une panne de la machine, qui a bien appris ce qu’on lui a montré. Il vient des données, donc des humains qui les ont choisies.
🧪 Activité 2 — Piéger le modèle
À ton tour de chercher les biais d’un modèle, en le testant dans des conditions qu’il n’a jamais vues.
- 1Ouvre Teachable Machine, puis le menu Teachable Machine (en haut à gauche) et Ouvrir un projet à partir d’un fichier : choisis le projet enregistré à la séance 1. Pas de fichier ? Recrée vite les trois classes avec une vingtaine d’images chacune, puis entraîne le modèle.
- 2Ton modèle n’a vu que ta main, devant ton fond, avec ta lumière. Fais 5 Stop comme à l’entraînement et compte ceux que l’aperçu reconnaît (Stop au score le plus élevé).
- 3Recommence en changeant une seule chose à la fois : un autre fond (feuille blanche ou pull sombre tenu derrière ta main), la main d’un camarade, puis manche relevée et autre lumière.
- 4Note tes résultats dans le tableau ci-dessous.
- 1Ouvre ton projet de la séance 1 dans Teachable Machine (menu Teachable Machine, Ouvrir un projet à partir d’un fichier), puis le programme dans Vittascience Adacraft avec le lien de ton modèle. Branche la carte et clique sur Connecter.
- 2Fais 5 Stop comme à l’entraînement : compte les fois où la micro:bit affiche la croix.
- 3Recommence en changeant une seule chose à la fois : un autre fond, la main d’un camarade, puis manche relevée et autre lumière.
- 4Note tes résultats dans le tableau ci-dessous. Écran vide = Stop non reconnu.
- 1Tu joues le rôle du modèle du bloc : tu ne connais que les douze photos d’entraînement de l’activité 1.
- 2Pour chaque photo nouvelle, trouve la photo d’entraînement qui lui ressemble le plus, et donne-lui la même étiquette. Note ta réponse sur ta fiche.
- 3Une fois les douze photos classées, reviens à la première et clique sur Afficher le vrai geste pour chacune. Remplis le tableau : ligne du vrai geste, colonne de ta réponse.
Tableau — modèle du bloc (avant correction)
Chaque ligne doit totaliser 4 photos.
Tes résultats
Question
Dans quels cas le modèle échoue-t-il le plus ? Qu’a-t-il appris sans qu’on le veuille ?
Un modèle ne sait pas ce qui compte dans une image. Il apprend tout ce que ses exemples ont en commun : la main, mais aussi le fond, la lumière, la manche, la peau, le gant.
Quand on change l’une de ces choses, le modèle peut échouer alors que le geste est le même. Il a pris un raccourci : il a appris les conditions de l’entraînement autant que le geste.
On ne découvre ces biais qu’en testant dans des conditions variées, différentes de celles de l’entraînement.
🛠 Activité 3 — Corriger le biais
- 1Dans chaque classe, ajoute une vingtaine d’images variées : l’autre fond, la main de ton camarade, manche relevée, autre lumière.
- 2Clique sur Entraîner le modèle.
- 3Refais exactement les mêmes tests : 5 Stop par condition. Note les résultats dans la colonne « Après ».
- 1Dans chaque classe, ajoute une vingtaine d’images variées : l’autre fond, la main de ton camarade, manche relevée, autre lumière. Clique sur Entraîner le modèle.
- 2Mets le nouveau modèle en ligne : Exporter le modèle, puis Importer mon modèle. Si le lien change, colle-le dans le programme Vittascience.
- 3Refais exactement les mêmes tests en lisant la micro:bit, et note les résultats dans la colonne « Après ».
- 1On ajoute au jeu d’entraînement ces dix photos variées. Le modèle connaît maintenant vingt-deux exemples.
- 2Reclasse les mêmes douze photos de test, en comparant maintenant aux vingt-deux exemples. Note tes nouvelles réponses sur ta fiche.
- 3Affiche le vrai geste de chaque photo et remplis le nouveau tableau.
Tableau — après correction
Chaque ligne doit totaliser 4 photos.
Avant et après la correction
Synthèse
Qu’est-ce qui a corrigé le modèle ? Peut-on être sûr qu’il n’a plus aucun biais ?
On réduit un biais en rendant les données représentatives : tous les fonds, toutes les mains, toutes les situations dans lesquelles le système sera utilisé. Puis on réentraîne et on teste de nouveau.
On ne peut jamais prouver qu’il ne reste aucun biais : on teste sur des cas variés, et un humain reste responsable du système.
Ce n’est pas un problème d’école. En 2018, une étude du MIT a montré que des logiciels commerciaux d’analyse de visages se trompaient dans 34,7 % des cas pour les femmes à peau foncée, contre 0,8 % pour les hommes à peau claire. La même année, Amazon a abandonné un outil de tri de CV qui défavorisait les candidatures féminines : il avait appris sur dix ans de CV, venus surtout d’hommes.
✍️ Ma trace écrite
Réponds avec tes propres mots. Les boutons Sauvegarder et Télécharger se trouvent plus bas, après le quiz.
❓ Quiz — Vérifie tes connaissances
Sauvegarde ton travail, puis télécharge le document complet et enregistre-le dans ton espace personnel.
🏆 J’ai réussi si…
Crée un nouveau projet : dans la classe Stop, toutes les images sont faites devant une feuille blanche ; dans Aucune commande, devant un fond sombre. Entraîne, puis fais un Stop devant le fond sombre.
Que se passe-t-il ? Qu’a vraiment appris ce modèle ? Comment l’aurais-tu évité ?
Pour le professeur
💻 Matériel
📄 Fiche élève « Option papier »
🎓 Lien avec le parcours Pix IA
- ▸Les biais viennent des données d’entraînement — « Les biais des IA génératives »
- ▸Une IA peut se tromper — « Elles hallucinent, ces IA génératives ! »
- ▸Transversale : CRCN 1.3 Traiter des données
📘 Programme
- ▸Programme SNT 2027 (volet IA) en cours de rédaction par le CSP. Rattachement provisoire : Les données structurées et leur traitement.
⚠️ Points de vigilance
- ▸Projet S1 : rappelez aux élèves d’apporter le fichier du projet ; sans lui, une vingtaine d’images par classe suffit.
- ▸Webcam : testez-la avant la séance ; sans caméra, binôme avec un poste équipé, sinon version Débranché.
- ▸Débranché : ne donnez le vrai geste qu’une fois les douze réponses notées.
- ▸Exemples réels : restez factuel ; le biais vient des données, pas d’une intention de la machine.
Version : snt-ia-m1-s2-20261019-1835
Cette séance vous a plu ?
Elle fait partie de l’abonnement SNT Seconde : 35 séances sur les 7 thèmes, une évaluation et un QCM Pronote par thème, déroulements et corrections en .docx modifiables.
Sans engagement, résiliable en un clic. Un seul code classe pour toutes vos classes.
