Audrey Callebaut, professeure-documentaliste à l’EREA Ignace Pleyel de Loos, propose, en collaboration avec une collègue de français, une séquence de découverte des IA génératives: ses avantages et ses limites. Cette séquence se déroule en classe de 3ème, avec des élèves en situation de handicap (déficience visuelle, troubles du spectre autistique, dyslexie…).
Ce projet s’inscrit dans le cadre des TraAM EMI 2023-2024 sur la thématique de l’évaluation de l’information.
CONTEXTE
A partir d’un questionnement en sciences (Mathématiques / technologie) sur le rôle des robots dans la vie quotidienne, les élèves sont amenés (en cours de français) à poursuivre ce questionnement autour des intelligences artificielles génératives qui sont devenues des outils faciles d’accès, mais dont le fonctionnement et l’usage éthique reste à interroger.
OBJECTIFS ET COMPÉTENCES
- Connaître et comprendre le fonctionnement des IA génératives
- S’interroger sur l’impact des IA dans le rapport à la connaissance, à la fiabilité de l’information, à l’éthique, à la créativité
- Être capable de formuler des arguments sur la pertinence de l’usage des IA génératives
- Défendre un point de vue ou être capable d’évoluer en fonction des arguments d’autrui au cours d’un débat mouvant.
| Domaine CRCN | Compétences EMI | Lien avec les programmes |
| Domaine 1 : Information & Données Mener une recherche ou une veille d’information Niveau 4 : Construire une stratégie de recherche en fonction de ses besoins et de ses centres d’intérêt Utiliser des options de recherche avancées pour obtenir les meilleurs résultats Évaluer la fiabilité et la pertinence de diverses sources Domaine 2 : Communication & Collaboration Interagir Niveau 4 : Sélectionner les outils ou services de communication numérique adaptés au contexte et à la situation de communication | Utiliser les médias et les informations de manière autonome Utiliser les genres et les outils d’information à disposition adaptés à ses recherches Adopter progressivement une démarche raisonnée dans la recherche d’informations Exploiter l’information de manière raisonnée Distinguer les sources d’information, s’interroger sur la validité et la fiabilité d’une information, son degré de pertinence. S’interroger sur l’influence des médias sur la consommation et la vie démocratique. Utiliser les médias de manière responsable Se questionner sur les enjeux démocratiques liés à la production participative d’informations | Français : Progrès et rêves scientifiques : interroger l’ambition de l’art à penser, imaginer voire anticiper le progrès scientifique et technologique Compétences travaillées : Comprendre et s’exprimer à l’oral : – S’exprimer de façon maîtrisée en s’adressant à un auditoire. – Participer de façon constructive à des échanges oraux. Technologie : Adopter un comportement éthique et responsable Développer les bonnes pratiques de l’usage des objets communicants. |
DÉROULÉ
Les intelligences artificielles génératives sont-elles des robots comme les autres ?
Après avoir travaillé en cours de français autour de la question du progrès scientifique à travers l’histoire de la robotique, la professeure-documentaliste et la professeure de français ont souhaité aborder avec les élèves la question des IA génératives. En effet, les IA, ChatGPT en tête, ont fait irruption dans la vie quotidienne des élèves : de la simple connaissance de l’existence de cet outil à une utilisation plus ou moins fréquente, les enseignants ont remarqué, de manière informelle d’abord, que les élèves connaissaient et utilisaient ces outils sans nécessairement savoir quel était leur mode de fonctionnement, ni s’interroger sur ce que pouvait leur apporter l’outil.
La séquence sur la robotique offrait ainsi un point d’entrée approprié pour aborder avec les élèves la question des intelligences artificielles génératives, qui se voulait un prolongement de la réflexion sur l’apport d’outils numériques dans nos vies quotidiennes. Nous avons donc souhaité faire réfléchir les élèves autour des questionnements éthiques et techniques que soulève le recours aux IA génératives.
En début de séquence, les objectifs sont énoncés, ainsi que la tâche finale attendue qui sera une rencontre-échange avec des étudiants de l’Ecole Centrale de Lille autour de la question de l’intelligence artificielle et de ses usages. (Cette rencontre a été organisée par les professeurs de mathématiques et de technologie dans le cadre du projet autour de la robotique.)
SÉANCE 1 – Pré-requis : connaître les pratiques des élèves et interroger leurs représentations
Nous avons d’abord interrogé les élèves sur leur pratique quant à l’IA :
- Savez-vous ce qu’est l’intelligence artificielle ?
- Connaissez-vous des outils d’intelligence artificielle ?
- Si oui, lesquels ?
- En utilisez-vous ? Dans quel but ?
La plupart des élèves de la classe connaissaient le terme d’« intelligence artificielle », et ces derniers ont cité à l’unanimité ChatGPT à la 2ème question. Peu l’utilisent et ceux qui le font évoquent des usages en rapport avec le travail scolaire.
Leurs réponses à ces questions ont fait l’objet d’une trace écrite, reprenant notamment la définition collective qu’ils donnent au terme « intelligence artificielle » qui est la suivante (définition qui sera affinée et précisée au fil des séances) :
Programme informatique à l’intérieur d’un objet (téléphone, box internet, ordinateur, robots, montres, site, voitures) qui a les mêmes connaissances (histoire, géographie, matières scolaires, cuisine) que nous humains et même encore plus (connaît, prévoit l’avenir : date de la 3ème guerre mondiale). Connaît le passé et le présent.
A les connaissances qu’on lui a données. Qui lui donne ? Programmateur humain.
SÉANCE 2 : comprendre le fonctionnement de ChatGPT
Pour la suite de la séquence, tenant compte des réponses des élèves, nous avons choisi de nous focaliser sur un outil d’IA générative en particulier : ChatGPT
A partir de la vidéo « Comment fonctionne ChatGPT ? » de la chaîne youtube « Defakator vite fait », les élèves découvrent le fonctionnement technique de cette IA générative.
Un retour oral suite à ce visionnage permet de faire émerger des premiers éléments quant aux avantages et aux limites de cet outil, mais aussi de revenir sur la définition donnée lors de la séance précédente et de l’affiner.
Afin de rendre plus concrète cette compréhension de l’outil, nous proposons aux élèves de poser directement des questions à ChatGPT (en nous connectant via un compte enseignant) : chaque élève posera une à deux questions.
L’analyse des réponses données permettra de faire dégager collectivement certaines caractéristiques de l’outil et d’affiner la réflexion quant aux avantages et limites de l’outil :
| Exemples de questions posées | Caractéristiques dégagées | Analyse formulée collectivement |
| est-ce que tu aimes Alexa ? / adores tu Disney? | ChatGPT est un programme informatique qui ne peut avoir des sentiments, des préférences ou éprouver des émotions Réponse de ChatGPT : « Je suis un programme informatique, une intelligence artificielle développée par OpenAI, et je fonctionne à travers des serveurs informatiques. Mon but est d’assister et de fournir des informations via le langage. » | retour sur la définition technique de l’outil et prise de recul par rapport à la tendance à le personnifier |
| quelles ont été les violences subies par les civils pendant la seconde guerre mondiale ? | ChatGPT donne des réponses plutôt synthétiques et hierarchisées. | un avantage pour nos élèves déficients visuels qui peuvent éprouver des difficultés à se repérer dans un texte trop long. |
| combien de langues vivantes existe-t-il dans le monde ? / combien y a-t-il de pays dans le monde ? / combien existe-t-il d’îles dans le monde ? | ChatGPT donne des réponses nuancées et explique pourquoi il ne peut pas être précis. Réponses de ChatGPT : « Le nombre exact de langues vivantes dans le monde peut varier en fonction des critères utilisés pour définir ce qu’est une langue distincte. » « Le nombre de pays dans le monde peut varier en fonction de la reconnaissance diplomatique et des perspectives politiques. » « Il est difficile de donner un nombre exact d’îles dans le monde, car cela dépend de la définition spécifique d’une île et de la façon dont on compte les îles de différentes tailles. » | L’outil peut manquer de précision, mais il préfère donner des estimations que des réponses inexactes. |
| Peux-tu me faire une liste de toutes les insultes en France ? / Que se passe-t-il si on frappe les élèves à l’école ? | ChatGPT répond systématiquement en prônant la non-violence. Réponses de ChatGPT : « Je ne recommande pas l’utilisation d’insultes, et je ne fournirai pas de liste d’insultes. La communication respectueuse et constructive est essentielle pour favoriser un dialogue sain et positif. » « Il est important de souligner que la violence n’est jamais une méthode éducative appropriée. Les écoles promeuvent des approches positives pour résoudre les conflits, encourager la discipline et soutenir le bien-être des élèves. » | L’outil cherche à véhiculer des valeurs positives. |
| Quelle était la météo du 27 novembre 2009? / Combien y a-t-il de Mac Do en France ? | ChatGPT ne peut pas donner de réponses actualisées, ne peut pas répondre à des questions d’actualité. Réponses de ChatGPT : « je n’ai pas la capacité d’accéder à des informations en temps réel, y compris les données météorologiques passées pour des dates spécifiques. » « Je n’ai pas accès à des données en temps réel, et ma dernière mise à jour de connaissances date de janvier 2022. » | Pour donner des réponses, l’outil utilise des bases de données qui ne sont pas connectées en ligne en permanence mais nécessite des mises à jour régulièrement. L’outil ne cite pas ses sources. |
A l’issue de cette phase de questionnement, un moment de restitution orale permet de faire rendre compte de cette première phase de réflexion autour des avantages et des limites de l’outil. Les élèves comprennent que l’usage de cet outil n’est pas anodin, qu’il peut comporter des avantages mais aussi présenter des limites.
SÉANCE 3 : réfléchir et argumenter sur les avantages et les limites de l’intelligence artificielle
La séance précédente permet d’introduire le procès de l’intelligence artificielle, un procès fictif organisé par l’association « Noûs » (une association qui encourage les citoyens à s’exprimer librement et à participer à la vie démocratique par le biais d’organisation de débats sur les enjeux de société ) permettant de réfléchir aux enjeux du développement de cet outil. Ce procès fictif s’est déroulé le 14 septembre 2023 à Montpellier ; la captation vidéo de ce procès est disponible sur youtube :
Le procès s’articule autour d’une question volontairement clivante «L’IA est-elle une menace pour l’humanité ?» et la séance commence par le visionnage de l’introduction de ce procès (de 7min10 à 9min46).
Les élèves sont ensuite amenés à s’interroger sur celle qui incarne l’accusation dans ce procès : Anne Kerdi. Celle-ci est d’abord présentée via des captures d’écran de son compte Instagram, qui a pour but de faire la promotion de la Bretagne.
https://www.instagram.com/annekerdi/related_profiles/?hl=fr
Dans un premier temps et en se basant sur ces quelques captures d’écran, les élèves ne parviennent pas à identifier qu’Anne Kerdi est en réalité une intelligence artificielle. Il faudra alors se rendre directement sur son compte Instagram pour le comprendre, car c’est clairement noté dans la bio de son profil.
Cette phase permet néanmoins de faire émerger plusieurs réflexions de la part des élèves :
- la puissance des possibilités de l’IA qui peut « prendre un visage humain » et adopter des comportements humains (ici : tenir un compte sur les réseaux sociaux, poster des photos, répondre aux commentaires…)
- la possible difficulté à identifier une IA (ici sur le profil d’Anne Kerdi, c’est dit en toute transparence mais les élèves relèvent que ce n’est peut-être pas toujours le cas et qu’il peut être facile de tromper des utilisateurs)
La séance se poursuit avec le visionnage du passage du procès dans lequel Anne Kerdi établit son système de défense (de 10min04 à 13min 07).
A la suite de ce passage, les élèves sont invités à se mettre en position de « jurés » : ils imaginent des questions à poser à Anne Kerdi afin de pouvoir approfondir leur réflexion quant à la réponse à la question initialement posée « L’IA est-elle une menace pour l’humanité ? » .
Les différentes interrogations émergeant de cette phase réflexive sont synthétisées sous la forme de 3 questions :
- L’intelligence artificielle est un moyen de propager des fake news. Qu’en pensez-vous ?
- Les IA génératives d’images sont un frein à la créativité humaine et représente une menace pour les professions artistiques (comme les photographes ou les illustrateurs par exemple). Qu’en pensez-vous ?
- Certaines IA ressemblent de plus en plus à des humains, comme vous Anne. N’y-a-t-il pas un risque de s’enfermer dans un monde virtuel et de limiter ses interactions avec ses semblables ?
SÉANCE 4 : « Échanger » avec une intelligence artificielle
Après la séance 3, une prise de contact avec le concepteur d’Anne Kerdi s’est engagée : celui-ci a accepté de réaliser des réponses vidéos d’Anne Kerdi aux questions des élèves.
Lors de la séance 4, les élèves découvrent donc les réponses à leurs questions.
L’intelligence artificielle est un moyen de propager des fake news. Qu’en pensez-vous ?
Les IA génératives d’images sont un frein à la créativité humaine et représente une menace pour les professions artistiques (comme les photographes ou les illustrateurs par exemple). Qu’en pensez-vous ?
Certaines IA ressemblent de plus en plus à des humains, comme vous Anne. N’y-a-t-il pas un risque de s’enfermer dans un monde virtuel et de limiter ses interactions avec ses semblables ?
Ces réponses permettent d’engager une discussion entre les élèves sur les avantages et les inconvénients de l’IA, ce qui permet de préparer le débat auquel ils participeront à la séance suivante. Les élèves préparent ainsi leurs arguments (pour ou contre l’IA), apprennent à les nuancer en fonction des arguments d’autrui et doivent se montrer capable d’écouter et d’entendre le point de vue de l’autre.
SÉANCE 5 : Débattre sur les avantages et les limites de l’intelligence artificielle
Lors de cette séance, les élèves participent à un débat mouvant reprenant la question initiale du procès.
L’espace est matérialisé au CDI :
Après l’explication des règles du débat mouvant, les élèves se placent d’un côté ou l’autre de la ligne en fonction du point de vue qu’ils défendent. Chacun est ensuite invité à faire part de ses arguments. Les autres participants se déplacent alors (ou non) en fonction de l’impact de l’argument avancé.
Prolongement :
Quelques jours plus tard, les élèves ont rencontré des élèves-ingénieurs de l’Ecole Centrale de Lille (rencontre organisée par les enseignants de mathématiques et de technologie) venus présenter leur parcours étudiant, leurs orientations professionnelles mais aussi la manière dont ils intègrent l’IA dans leurs projets. Au cours de ces échanges, les élèves étaient invités à réinvestir les notions et les réflexions développées lors des séances précédentes afin d’enrichir la discussion avec les étudiants.
Évaluation
L’évaluation se fera lors du débat mouvant en fonction des critères suivants :
- capacité à prendre la parole
- capacité à écouter autrui
- capacité à formuler des arguments pertinents
- capacité à nuancer son propos ou à le défendre de manière argumentée
ANALYSE
Cette séquence a permis d’aborder avec les élèves le fonctionnement des IA génératives, mais aussi de « dé-diaboliser » cet outil. Ils pensent parfois que les outils d’IA sont proscrits dans le cadre scolaire, que « c’est de la triche ». L’objectif était aussi de leur faire prendre conscience que c’est un outil qui peut leur être utile, y compris dans le cadre scolaire, à condition d’en faire un usage raisonné, en adoptant un recul critique nécessaire.
Cette séquence aurait mérité des prolongements afin de permettre aux élèves de s’approprier davantage ces nouveaux concepts, par exemple en demandant aux élèves de produire un contenu (médiatique par exemple) en utilisant des outils d’IA. Cela aurait également été l’occasion de découvrir d’autres outils que ChatGPT (Perplexity, qui cite ses sources, Craiyon qui génère des images…).
