Blandine Tardieu, professeure documentaliste au Collège République de Calais, présente une séance réflexive sur le fonctionnement et l’usage des intelligences artificielles génératives sous la forme d’un débat menée avec des élèves de classes de 4ème.
Ce projet s’inscrit dans le cadre des TraAM EMI 2023-2024 sur la thématique de l’évaluation de l’information.
Contexte : une professeure d’anglais du collègue a vu apparaitre quelques travaux exécutés entièrement avec ChatGPT.
Durée : 2h
Public : 3 classes de 4ème
Modalités : en classe entière, à L’Escale (le CDI du collège)
Objectifs : faire réfléchir les élèves sur la notion de propriété intellectuelle des résultats donnés par une IA, le fonctionnement de ces IA génératives et les questions éthiques qu’elles engendrent, puis voir avec eux comment travailler le prompt et utiliser l’IA plus comme un assistant à la réflexion.
- Comprendre le fonctionnement des IA génératives
- Réfléchir sur la notion de propriété intellectuelle des résultats produits par une IA
- Explorer les questions éthiques soulevées par l’utilisation des IA génératives
- Discuter de l’éthique de l’utilisation des résultats d’une IA comme travail personnel
- Envisager l’utilisation des IA comme assistants à la réflexion plutôt que comme solutions finales.
Compétences CRCN :
Domaine 1 : Information & Données – 1. Mener une recherche ou une veille d’information
Niveau 2 : Questionner la fiabilité et la pertinence des sources
Domaine 3 : Communication & collaboration – 2. Partager et publier
Niveau 2 : Savoir que certains contenus sont protégés par un droit d’auteur
Compétences EMI :
Exploiter l’information de manière raisonnée
Distinguer les sources d’information, s’interroger sur la validité et sur la fiabilité d’une information, son degré de pertinence
Produire, communiquer, partager des informations
Distinguer la citation du plagiat
Déroulé :
Séance 1 :
Introduction : les élèves ne connaissent pas l’objet de la séance, ils sont dirigés en premier lieu vers les ordinateurs du CDI ou sur les tablettes pour répondre à l’enquête réalisée par des membres du groupe académique dans le cadre des TraAM EMI 2023-2024 ayant pour titre « Les IA et vous ? Enquête sur vos usages » dont le lien est hébergé sur l’e-sidoc du collège (https://framaforms.org/les-ia-et-vous-enquete-sur-vos-usages-1710410739). Une fois que tous les élèves ont soumis leurs réponses, ils s’installent autour des tables.
Phase de questionnement : il leur est demandé de définir oralement ce qu’est une intelligence artificielle et de donner des exemples qu’ils connaissent. La définition se resserre vers les intelligences artificielles génératives qui leur sont le plus connues. A la suite de ces échanges et ces tentatives de définition, le visionnage d’une vidéo vise à proposer une clarification et à ouvrir un champ de débats. Il s’agit de la vidéo de la Canotech : Les intelligences artificielles génératives.
Suit un retour sur les notions abordées dans la vidéo, c’est-à-dire comprendre comment fonctionnent ces intelligences artificielles dites génératives, dénominées ainsi car elles génèrent du texte, de l’image, de l’audio, de la vidéo.
L’exemple de la découverte de l’existence de ChatGPT en France est présenté ici à travers le scandale largement relayé dans les médias d’étudiants ayant utilisé cette IAG pour rendre des travaux scolaires au tout début de l’année 2023 et dont la supercherie a été découverte par des enseignants qui observaient de fortes similitudes entre les copies de ces élèves.
Quand les IAG sont interrogées, elles le sont par le biais d’un prompt, c’est-à-dire la question formulée en langage courant. L’IAG interroge sa base de données, pour la première version de ChatGPT, une base de données qui n’a pas accès à Internet et dont les informations ne concernent que celles produites jusqu’au milieu de l’année 2021. Là sont expliqués l’action des algorithmes de calcul qui traitent les milliards de données pour formulées une réponse au prompt mais aussi le phénomène de prédiction. Puis est abordé le concept d’entraînement de l’IAG en montrant qu’elle n’est pas si intelligente puisqu’elle ne fait pas la différence entre un chien et un chat si on lui demande de représenter un chat (caractéristiques communes : quatre pattes, deux oreilles, une queue).
Les élèves ayant cité l’IAG Midjourney, leur a été diffusée une vidéo compilant quelques images produites par cette IAG.
Beaucoup d’entre eux ont reconnu ces images, ils argumentent très vite sur le fait que, comme ce sont des personnalités très connues mises en scène, il est facile de déduire que ce sont des scènes imaginées. Une conclusion est émise sur le fait qu’il était aisé pour une IA de produire de telles images car la base de données de photographies de ces personnalités peut être abondée de très nombreux exemples et que la technologie a rapidement évolué puisqu’avant les images produites par IA pouvaient être détectées grâce aux imperfections comme les doigts supplémentaires.
La séance se conclue avec la possibilité pour l’IA de produire et modifier des vidéos avec le visionnage de celle émanant du Monde, intitulée « Comment faire dire ce qu’on veut à Barack Obama grâce à l’intelligence artificielle ».
Séance 2 :
En introduction, un rappel de la séance dernière est effectué. Puis les élèves sont amenés à se mettre en groupe de 4 et ils ont pour consigne de trouver des arguments « POUR » et « CONTRE » à cette problématique : « Un enseignant vous demande un travail. Vous utilisez une intelligence artificielle générative pour le réaliser et vous rendez ce résultat à votre professeur. Est-ce moral et sans risque ?
Après une demi-heure de concertation en groupe, les propositions de chacun sont lues par un rapporteur et la professeure documentaliste note les réponses au tableau.
Résultats du débat dans une des classes de 4ème :
En conclusion, est admis que l’IAG peut être utilisée comme un assistant de travail et non comme un remplaçant, que ces réponses ne sont pas toujours fiables donc il vaudra toujours mieux les comparer avec des informations trouvées avec d’autres sources d’information fiables. Ils ne peuvent pas rejeter complètement cet outil car il fera partie de leur vie future et peut-être même leur vie professionnelle. Ils ont conscience que travailler par soi-même permet beaucoup mieux d’apprendre de nouvelles connaissances et de développer des compétences.
Bilans :
Peu d’enseignants leur parlent ouvertement des IA et des IAG en particulier donc au début les élèves étaient gênés. Mais le temps du débat a permis de libérer la parole et d’assister à des échanges nourris. D’ailleurs la forme du débat s’avère un exercice qu’ils apprécient particulièrement parce, dans le temps scolaire, ils n’ont pas toujours l’occasion de partager leur avis ou, si elle se présente, le sujet sur lequel débattre ne correspond pas forcément à leurs centres d’intérêt. Ce qui est intéressant, c’est que certaines filles reconnaissaient ne jamais avoir utiliser d’IAG mais leurs usages ne leur sont pas inconnus pour autant.
Comme pour les exemples d’images générées par les IAG, ils sont conscients que les réponses textuelles générées ne correspondent pas à leur style d’écriture et comportent des termes qu’ils n’emploieraient jamais.
A travers certaines propositions, se révèlent les messages de prévention dispensés pendant l’année autour de la protection des données personnelles d’une part et des fake news de l’autre.Même si une discussion s’est axée sur la fiabilité des informations générées par ChatGPT notamment, ont juste été évoqué l’absence de sources citées par cet outil et les hallucinations qu’il peut produire. Un prolongement pourrait donc enchaîner avec un focus plus précis sur la notion de propriété intellectuelle, de sources, leur montrer des exemples d’hallucinations ainsi que leur faire toucher du doigt par la pratique que, pour obtenir des informations les plus justes possibles et les plus pertinentes, il est nécessaire de savoir manier la langue en rédigeant les prompts.
