Stéréotypes et IA

Présentation des acteurs, établissement et projet : 

Plusieurs professeurs documentalistes et enseignants de SVT ont conçu une séance pour aborder les générations souvent biaisées des outils d’IAG.

Ce projet s’intègre dans plusieurs axes des TraAM EMI 2024-2025 : 

• Axe 1 : IA et intégrité de l’information : la séance amène les élèves à interroger la fiabilité des images et contenus générés par l’IA, notamment en ce qui concerne les représentations des identités. Les élèves voient, à travers plusieurs exemples, que l’IA ne reflète pas une réalité objective, mais reproduit des biais présents dans les données d’entraînement.
• Axe 2 : Évaluation critique de l’IA et croisement des sources : les élèves comparent différents outils et les images proposées par chacun (Google Images, Pixabay, DALL-E…) pour permettre une analyse critique des résultats proposés.
• Axe 4 : Compréhension technique des IA et sensibilisation aux biais : grâce à une situation ludique durant laquelle l’élève joue l’IA sans réfléchir, il en découvre le fonctionnement pour mieux comprendre ses limites et les enjeux sociaux.
• Axe 5 : Créativité numérique et intelligence artificielle : les élèves utilisent un outil d’IAG comme outil de création réflexive : génération de slogans grâce à un prompt rédigé avec intelligence humaine et un choix fait avec intelligence collective.

Contexte : 

Ce projet s’inscrit dans le cadre du programme de SVT, sous le thème « Corps humain et santé », et plus particulièrement celui de la « procréation et de la sexualité humaine » tout en permettant de donner une suite aux notions abordées en SNT par les professeurs documentalistes.

Public : 2 classes de 2nde GT.

Objectifs EMI : 

L’objectif est d’amener les élèves à analyser et déconstruire les stéréotypes de genre véhiculés par les médias, notamment par les outils d’intelligence artificielle générative.

• Encourager l’esprit critique des élèves en abordant les stéréotypes de genre dans une approche réflexive.
• Sensibiliser les élèves aux mécanismes par lesquels les stéréotypes sont entretenus, notamment à travers les nouvelles technologies comme l’intelligence artificielle.

Objectifs disciplinaires (SVT) : 

• Participer à la formation de l’esprit critique et à l’éducation civique en appréhendant le monde actuel et son évolution dans une perspective scientifique.
• Développer les compétences d’analyse critique pour permettre aux élèves de vérifier les sources d’information et leur légitimité, puis de distinguer les informations fiables.
• Contribuer à l’éducation des élèves aux médias et à l’information par un travail régulier d’approche critique des informations.
• Différencier ce qui relève de l’identité biologique et des stéréotypes sociaux à partir de l’analyse de données biologiques et sociales.

Les connaissances travaillées sont : « Différencier, à partir de la confrontation de données biologiques et de représentations sociales, ce qui relève :

• De l’identité de genre, des rôles en tant qu’individus sexués et de leurs stéréotypes dans la société, qui relèvent de l’espace social ;
• De l’orientation sexuelle qui relève de l’intimité des personnes. »

Compétences SVT :

• Rechercher, extraire, exploiter et produire une information pertinente : connaître le fonctionnement des outils du web, utiliser les réseaux sociaux et les IAG de manière critique.
• Argumenter et exercer un regard critique
• Collaborer

Déroulé :

Avant la séance :

Les élèves ont travaillé avec l’enseignante de SVT des notions portant sur les identités et l’orientation sexuelle. Les élèves doivent réaliser une prise de note sous forme de carte mentale, tableau, sketchnote (au choix). Ces connaissances seront confrontées à différentes données issues de médias et des IAG durant la séance afin de développer l’esprit critique de l’élève.

Organisation de la séance :

Les élèves s’organisent en équipes de 3 ou 4 élèves. Différents ateliers sont proposés : chaque groupe avance à son rythme et en autonomie en fonction des aides dont il a besoin. La séance est coanimée par un professeur documentaliste et par un professeur de SVT : chaque enseignant se déplace de groupe en groupe pour vérifier l’avancement des ateliers et discuter / débattre avec les élèves. Des aides sont fournies en fonction des besoins de chaque groupe. Un « open bar » avec tous les documents et le matériel nécessaire est placé dans la salle pour que les groupes puissent passer d’un atelier à un autre en autonomie.

Atelier 1 : IAG et orientation sexuelle

Une première activité de constat : les élèves découvrent des images issues d’outils différents répondant au mot clé « couple » ou au prompt « génère l’image d’un couple ».

Les élèves doivent comparer l’image du couple proposée par les différents outils, entre eux et en lien avec la définition de l’orientation sexuelle. Ils doivent ensuite identifier l’outil qui, selon eux, véhicule le plus de stéréotypes. L’objectif est alors de comprendre pourquoi les intelligences artificielles génératives génèrent des images correspondant à une vision hétéronormée et de manière générale très stéréotypée du couple.

Une seconde activité vise l’analyse réflexive sur le fonctionnement des IAG : les élèves revoient le fonctionnement d’une IAG (notions vues en SNT) en complétant un schéma. Ils vont ensuite chercher une enveloppe qui contient des illustrations de couples (homosexuels, hétérosexuels). Chaque élève pioche 3 images dans l’enveloppe (qui représente finalement la population). Ces 3 images constituent sa base de données. Il doit alors se mettre « dans la peau d’un outil d’IAG » et se prononcer sur ce qu’il pourrait générer comme type d’images, par exemple :

Les élèves comprennent que les générations sont dépendantes de la base de données. Ils doivent expliquer l’expression « garbage in, garbage out ». On introduit alors la notion de biais de données avec un bilan à coller :

Atelier 2 : Identité perçue et stéréotypes

Une troisième activité permet d’introduire la notion de stéréotype par rapport à la notion d’identité sexuelle étudiée au préalable. Les élèves doivent d’abord décrire en un mot-clé très simple une caractéristique physique par rapport aux photos photos présentées. Ces images et ces mots-clés constituent la base de données d’une IA.

Les élèves piochent alors d’autres images. Ils doivent classer chaque image grâce aux mots-clés qu’ils ont attribué aux images de leur base de données, ce qui provoque beaucoup d’erreurs. Les élèves verbalisent le fait que les outils d’IA ne réfléchissent pas, n’ont pas une compréhension fine et peuvent facilement se baser sur des stéréotypes.

Les élèves visionnent une vidéo sur l’impact des stéréotypes de genre, notamment dans le cadre de l’orientation.

Une quatrième activité permet d’approfondir cette notion de stéréotypes. Les élèves doivent associer des cartes prompts (comme « génère l’image d’une personne dirigeant une grosse entreprise ») avec les images réellement générées.

Tâches finales

Un bilan réflexif est attendu des élèves sur la séance réalisée sous la forme d’une affiche poster. Pour cela, les élèves doivent rédiger un prompt à une IAG pour générer un slogan résumant les conclusions des activités. Une affiche par groupe est attendue : elle doit comporter le slogan, au moins une image pour l’illustrer, une ou plusieurs images alternatives, des explications (biais, stéréotypes, fonctionnement des IAG, définitions des notions de cours correspondantes…)

Une autre tâche est proposée aux élèves, visant à expérimenter une autre manière d’interagir avec les intelligences artificielles génératives. Constatant que certains élèves ont recours aux IAG pour répondre aux questions de cours ou réaliser leurs devoirs à la maison, sans réel apport de leur part, les enseignantes leur proposent de renverser la démarche : cette fois, la production générée par l’IA est déjà fournie en amont par les professeures. Les élèves doivent alors l’analyser, l’enrichir et la corriger à partir des connaissances vues en cours, afin de développer leur esprit critique et de renforcer leur appropriation des notions.

Productions :

Supports :

Bilan réflexif :

Cette séance permet de :

• Comprendre que les stéréotypes sont non seulement ancrés dans la société mais également reproduits par les technologies comme l’intelligence artificielle.
• Comprendre le fonctionnement de base d’une IAG et les biais que cela peut engendrer.
• Prendre du recul sur nos propres perceptions de l’identité de genre et de l’orientation sexuelle.
• Développer une analyse critique sur l’utilisation des IAG et une approche réflexive face aux nouvelles technologies.
• Réaliser un travail en groupe, ce qui permet de renforcer les compétences collaboratives.

Un bilan réflexif a été demandé aux élèves à la fin de la séance, voici quelques témoignages :

Article publié le 05 mai 2025