Décrypter les stéréotypes et biais sexistes dans l’intelligence artificielle

Audrey Callebaut, professeure documentaliste à l’EREA Ignace Pleyel de Loos, propose, en collaboration avec Anne-Pénélope Dauphin, professeure d’histoire-géographie-EMC, une séquence en EMC sur l’analyse des stéréotypes de genre et biais sexistes dans l’intelligence artificielle. Cette séquence se déroule en classe de 5^ème, avec des élèves en situation de handicap (déficience visuelle, troubles du spectre autistique, dyslexie, etc.).

Ce projet s’intègre dans l’axe 1 des TraAM Documentation 2024-2025 :

Axe 1 : Quelle(s) pédagogie(s) info-documentaires(s) mobiliser pour questionner le rapport des élèves à la recherche d’informations et à la création de contenus à travers l’intelligence collective ?

Les IA ont été utilisées avec des comptes classes.

Contexte :

Cette séquence est menée dans le cadre du nouveau programme d’Éducation Morale et Civique qui porte en classe de 5^ème sur le thème « Agir pour l’égalité femmes-hommes et lutter contre les discriminations ».

La tâche finale consiste à produire une vidéo pour participer au concours “Zéro cliché” organisé par le CLEMI.

Nous avons choisi de travailler sur le thème de l’intelligence artificielle afin de faire prendre conscience des biais sexistes et des stéréotypes que cet outil peut perpétuer.

Cette séquence se déroule au mois de mars dans le cadre de la semaine de l’égalité, organisée dans notre établissement, et du 8 mars, journée internationale des droits des femmes.

Public : 5^ème

Objectifs :

Travailler sur les représentations des élèves autour de l’égalité femme-homme
Comprendre ce qu’est un stéréotype, un biais sexiste
Faire prendre conscience des biais sexistes et des stéréotypes de genre présents dans l’intelligence artificielle
Déconstruire ces stéréotypes et chercher des solutions pour lutter contre les biais sexistes

Compétences :

EMI

CRNC

CPS

Déroulé (7h) :

Séance 1 – PRE-REQUIS : Introduire le thème de l’égalité femme/homme (1h)

→ Visite de l’exposition au CDI “Bien dans son genre” (Utopique éditions)

Objectifs :

Sensibiliser à la question de l’égalité femme/homme
Ouvrir un espace de discussion et d’échange sur cette thématique

Séance 2 : Où sont les femmes? (1h)

→ Découverte de femmes inspirantes à travers des jeux de société.

Objectif :

Découvrir le nom et l’histoire de femmes invisibilisées dans l’histoire malgré leurs réalisations et compétences (domaines de l’art, des sciences, des techniques, de la littérature, du sport…) : cette activité servira dans la suite de la séquence quand il sera demandé aux élèves de choisir des noms de femmes sur lesquelles travailler plus particulièrement.

→ Les jeux sont répartis sur 3 tables du CDI : les élèves tournent par groupes sur les 3 jeux, munis d’une fiche récapitulative sur laquelle ils notent les noms des femmes en fonction de leur domaine de compétences.

Séance 3 : Stéréotypes de genre et IA (2h)

1/ HEXAGON GAME (20 minutes)

Il s’agit d’un jeu de cartes en forme d’hexagones où le but est d’associer des mots (par exemple ici “une mère au foyer”, un père au foyer”, “une personne travaillant dans le secrétariat”, “une personne dirigeant une grosse entreprise”…) avec des images (ici générées par IA à partir des mots ci-dessus). Il n’y a pas de bonnes ou de mauvaises réponses : le but étant de faire verbaliser et réfléchir autour d’une thématique particulière. Jeu réalisée par Mélanie Serret, professeure-documentaliste au lycée Giraux-Sannier de Saint-Martin-Boulogne

Temps de jeu (plusieurs exemplaires du même jeu afin que plusieurs groupes puissent jouer et faire leurs propres associations): il s’agit d’associer les mots avec des images
Temps d’analyse et de comparaison des différents groupes :

Pourquoi avez-vous placé les images comme cela ? Que remarquez-vous ? A votre avis pourquoi ? D’où viennent ces images ? —> Élaborer des hypothèses : les élèves ont compris que les images avaient été générées par IA et ont remarqué des différences dans la façon de représenter des hommes et des femmes dans les mêmes situations.

2/ VÉRIFIER LES HYPOTHÈSES (30 minutes)

→ Les élèves sont répartis en 4 groupes (salle pupitre) avec chacun une ressource à étudier qui leur permettra de vérifier leurs hypothèses + une fiche questions pour guider leur lecture et leur réflexion.

3/ RESTITUTION (2 * 15 minutes)

Chaque groupe restitue son travail à l’ensemble de la classe (15 minutes)
Formulation d’une réponse collective (= trace écrite / 15 minutes) :

Aujourd’hui, l’intelligence artificielle a pris une grande place dans notre société. Mais, comme toute technologie, elle présente des risques. Comme elle a été conçue essentiellement par des hommes, elle véhicule certains stéréotypes de genre déjà présents dans la société (ex : si l’on demande à une IA de générer une image d’une personne qui cuisine, c’est bien souvent l’image d’une femme qui ressort). Les données sur lesquelles se basent l’IA peuvent donc présenter des limites / des biais.

Définitions importantes :

Stéréotype = une opinion toute faite sur une personne ou un groupe de personnes : on parle aussi de clichés ou de préjugés.
Biais = déformation d’une information pouvant fausser le jugement d’une personne

4/ QUELLES SOLUTIONS POSSIBLES POUR LUTTER CONTRE LES STÉRÉOTYPES DANS L’IA À L’AVENIR ?

Présentation du concours #Zérocliché et annonce de la tâche finale : réaliser une production médiatique qui aborde la présence des stéréotypes de genre dans l’IA et proposer des solutions pour les déconstruire (10 minutes)
Brainstorming : les élèves émettent des hypothèses (10 minutes)
Pour les aider à trouver des idées, on peut diffuser un extrait de la vidéo réalisée par l’association ADOSEN “le JT du 8 mars 2135”, et plus spécifiquement le passage qui évoque l’IA, à partir de 7min 57 (5 minutes) : https://www.youtube.com/watch?app=desktop&v=0hzSBT-ayC0

Choix final (15 minutes) :

Les élèves décident de réaliser un journal télévisé au cours duquel ils réaliseront des interviews de femmes célèbres mais aujourd’hui disparues, en utilisant l’IA.

Trois femmes sont choisies parmi celles découvertes lors de la séance 2 (Rosa Parks, Frida Kahlo et Marie Curie).

Ils souhaitent filmer en format vertical pour une publication sur les réseaux sociaux (canal de diffusion : compte Instagram du CDI)

Séance 4 : Réaliser une production médiatique pour sensibiliser sur les inégalités femmes / hommes et les biais sexistes dans l’IA (2h)

→ Les élèves se placent en mode “conférence de rédaction” afin d’affiner les idées émises lors de la séance précédente et de faire des choix autour de la question suivante: Comment détourner les biais sexistes dans l’IA en utilisant cette technologie pour mettre en avant des femmes? (15 minutes)

→ Présentation de 2 outils IA : (15 minutes)

MIZOU : Des chatbots pédagogiques configurés en amont par l’enseignant qui permettent et qui seront utilisés pour réaliser des interviews fictives des personnalités disparues
VIDNOZ : Un outil pour générer images et vidéos et qui sera utilisé pour générer des portraits des femmes choisies pour les interviews fictives et les animer pour les “faire parler”

→ La conférence de rédaction permet aussi de définir les rôles de chacun : (10 minutes)

Les présentateurs et présentatrices en charge d’écrire le lancement (en se servant des informations récoltées lors de la séance 3) et les transitions pour le JT
Les intervieweurs / intervieweuses en charge de poser des questions (1 binôme par femme interviewée) en utilisant les chatbots préparés sur MIZOU par les enseignantes
Les techniciens / techniciennes en charge de générer des portraits ressemblants des femmes interviewées et de commencer la création de la vidéo sur VIDNOZ

→ Tous les éléments récoltés et produits par les élèves sont placés au fur et à mesure dans un conducteur collaboratif afin de construire ensemble le déroulé du JT (1 heure).

Séance 5 : Enregistrement vidéo (1h)

→ Une fois tous les éléments rassemblés dans le conducteur collaboratif, les élèves répètent leurs différents rôles avant de passer devant la caméra pour enregistrer leur JT.

→ La vidéo présentée au concours #Zérocliché est visible sur le compte Instagram du CDI

Cette vidéo figure parmi les 5 finalistes nationaux du concours #Zérocliché 2025

→ Une version plus longue avec un retour de l’équipe “techniciens” sur la génération des portraits par IA est visible ici !

Bilan réflexif :

Les élèves ont adhéré au projet et se sont investis jusqu’à la réalisation finale.
Les élèves ont globalement bien compris ce qu’étaient des biais sexistes et pourquoi on les retrouvait dans l’IA.
Les modalités de la séance 2 pourraient être revues (recherches en binôme + restitution au groupe) pour que chaque élève puisse travailler sur l’ensemble des ressources, en utilisant le principe de la classe puzzle par exemple.
Ce projet prend du temps et nécessite investissement et collaboration entre les enseignants pour dégager le temps nécessaire.
Les chatbots doivent être suffisamment configurés (et testés) en amont pour générer un résultat satisfaisant et fiable.

Article mis en ligne le 23 mai 2025