Appel à candidatures :
Proposition de l’académie de Lille :
L’intelligence artificielle (IA) est en train de transformer notre société à une vitesse sans précédent, apportant avec elle des innovations fascinantes mais aussi des défis éthiques complexes.
Parmi ces défis figure d’abord la transparence des algorithmes, qui interroge la manière dont les décisions automatisées sont prises, et la capacité des citoyens à comprendre, questionner ou contester ces décisions. Il est crucial que les élèves ne soient pas de simples consommateurs passifs de ces technologies, mais développent un esprit critique, en connaissant les bases de fonctionnement des IAG, en s’interrogeant sur la place de l’humain dans les processus automatisés.
Par exemple, dans le champ de l’information scientifique et technique, l’automatisation rend la manipulation plus insidieuse : des contenus à l’apparence rigoureuse peuvent être générés en masse par des IA, sans validation humaine, contribuant à la désinformation ou à la mésinformation. L’usage de l’IA générative peut en effet entraîner une mésinformation (fausses informations, fausses citations). Elle peut aussi être utilisée pour notamment créer de faux articles scientifiques, truquer des citations ou manipuler des images participant à brouiller les repères entre le vrai et le faux. Les élèves doivent donc apprendre à décrypter ces contenus, à vérifier les sources et à identifier les signes d’une rigueur scientifique véritable.
L’IA peut également jouer un rôle dans la valorisation du patrimoine numérique. Elle permet, par exemple, la restauration de documents anciens, la transcription de manuscrits, ou la rediffusion augmentée de discours historiques. Mais cette capacité soulève une nouvelle question éthique : jusqu’où peut-on modifier ou améliorer une archive sans en altérer l’authenticité ? En reproduisant des voix disparues ou en recréant des visages, les IA peuvent aussi générer des documents falsifiés qui peuvent brouiller notre rapport à la mémoire collective et la vérité historique. Là encore, l’esprit critique est de mise.
D’autres enjeux essentiels accompagnent le développement de l’IA, comme la protection des données personnelles, souvent collectées et analysées à grande échelle, avec des risques réels pour la vie privée.
Les biais et les discriminations constituent un autre défi majeur. Les algorithmes peuvent reproduire ou même amplifier les préjugés présents dans les données d’entraînement, biaisant les prises de décision. La responsabilité des décisions automatisées est également une question épineuse : qui est responsable lorsqu’une IA commet une erreur ou cause un préjudice ?
Enfin, l’impact environnemental de l’IA ne doit pas être négligé, notamment en raison de la consommation énergétique importante des infrastructures nécessaires à son fonctionnement.L’objectif de ce projet est de concevoir des scénarios pédagogiques interdisciplinaires, concrets et reproductibles, permettant aux élèves de développer une véritable conscience éthique dans leurs usages de l’intelligence artificielle, notamment des IAG. En les plaçant dans des situations d’analyse, de débat, de création et de réflexion critique, on les amènera à comprendre les mécanismes en jeu, à mesurer les opportunités offertes par l’IA, mais aussi à en percevoir les limites et les responsabilités associées. Il s’agit de les accompagner dans le développement de compétences nécessaires pour interagir avec l’IA en tant que citoyens éclairés, capables de comprendre ses limites, de saisir les opportunités qu’elle offre et d’assumer les responsabilités qu’elle implique.
Productions :
- L’IA comme outil, l’élève comme auteur
Mélanie Serret, professeure documentaliste au lycée polyvalent Giraux Sannier de Saint-Martin-Boulogne, propose un premier accompagnement à l’usage des outils d’intelligence artificielle dans le cadre de la production d’informations : les élèves font des recherches préliminaires en utilisant un document de collecte. Ils sont ensuite invités à… Lire la suite : L’IA comme outil, l’élève comme auteur
