{"id":3008,"date":"2024-05-14T21:02:30","date_gmt":"2024-05-14T19:02:30","guid":{"rendered":"https:\/\/pedagogie.ac-lille.fr\/prof-doc\/?p=3008"},"modified":"2024-06-06T18:43:02","modified_gmt":"2024-06-06T16:43:02","slug":"comprendre-les-ia-generatives-et-leurs-implications-ethiques","status":"publish","type":"post","link":"https:\/\/pedagogie.ac-lille.fr\/prof-doc\/comprendre-les-ia-generatives-et-leurs-implications-ethiques\/","title":{"rendered":"Comprendre les IA g\u00e9n\u00e9ratives et leurs implications \u00e9thiques"},"content":{"rendered":"\n<p><strong>Blandine Tardieu, professeure documentaliste au Coll\u00e8ge R\u00e9publique de Calais, pr\u00e9sente une s\u00e9ance r\u00e9flexive sur le fonctionnement et l\u2019usage des intelligences artificielles g\u00e9n\u00e9ratives sous la forme d\u2019un d\u00e9bat men\u00e9e avec des \u00e9l\u00e8ves de classes de 4\u00e8me.<\/strong><\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"alignleft size-full is-resized\"><img loading=\"lazy\" decoding=\"async\" width=\"680\" height=\"383\" src=\"https:\/\/pedagogie.ac-lille.fr\/prof-doc\/wp-content\/uploads\/sites\/57\/2024\/05\/Traam-EMI.jpeg\" alt=\"\" class=\"wp-image-2943\" style=\"width:136px;height:auto\" srcset=\"https:\/\/pedagogie.ac-lille.fr\/prof-doc\/wp-content\/uploads\/sites\/57\/2024\/05\/Traam-EMI.jpeg 680w, https:\/\/pedagogie.ac-lille.fr\/prof-doc\/wp-content\/uploads\/sites\/57\/2024\/05\/Traam-EMI-300x169.jpeg 300w, https:\/\/pedagogie.ac-lille.fr\/prof-doc\/wp-content\/uploads\/sites\/57\/2024\/05\/Traam-EMI-528x297.jpeg 528w\" sizes=\"auto, (max-width: 680px) 100vw, 680px\" \/><\/figure>\n<\/div>\n\n\n<h4 class=\"wp-block-heading\">Ce projet s\u2019inscrit dans le cadre des TraAM EMI 2023-2024 sur la th\u00e9matique de l\u2019\u00e9valuation de l\u2019information.<\/h4>\n\n\n\n<p><strong>Contexte :<\/strong> une professeure d&rsquo;anglais du coll\u00e8gue a vu apparaitre quelques travaux ex\u00e9cut\u00e9s enti\u00e8rement avec ChatGPT.<\/p>\n\n\n\n<p><strong>Dur\u00e9e<\/strong> : 2h<\/p>\n\n\n\n<p><strong>Public <\/strong>: 3 classes de 4\u00e8me<\/p>\n\n\n\n<p><strong>Modalit\u00e9s :<\/strong> en classe enti\u00e8re, \u00e0 L\u2019Escale (le CDI du coll\u00e8ge)<\/p>\n\n\n\n<p><strong>Objectifs : <\/strong>faire r\u00e9fl\u00e9chir les \u00e9l\u00e8ves sur la notion de propri\u00e9t\u00e9 intellectuelle des r\u00e9sultats donn\u00e9s par une IA, le fonctionnement de ces IA g\u00e9n\u00e9ratives et les questions \u00e9thiques qu\u2019elles engendrent, puis voir avec eux comment travailler le prompt et utiliser l\u2019IA plus comme un assistant \u00e0 la r\u00e9flexion.<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Comprendre le fonctionnement des IA g\u00e9n\u00e9ratives<\/li>\n\n\n\n<li>R\u00e9fl\u00e9chir sur la notion de propri\u00e9t\u00e9 intellectuelle des r\u00e9sultats produits par une IA<\/li>\n\n\n\n<li>Explorer les questions \u00e9thiques soulev\u00e9es par l\u2019utilisation des IA g\u00e9n\u00e9ratives<\/li>\n\n\n\n<li>Discuter de l\u2019\u00e9thique de l\u2019utilisation des r\u00e9sultats d\u2019une IA comme travail personnel<\/li>\n\n\n\n<li>Envisager l\u2019utilisation des IA comme assistants \u00e0 la r\u00e9flexion plut\u00f4t que comme solutions finales.<\/li>\n<\/ul>\n\n\n\n<p id=\"block-35dd4551-ff71-4011-9f2e-a5a2a6e54cbf\"><strong>Comp\u00e9tences CRCN&nbsp;:<\/strong><\/p>\n\n\n\n<p id=\"block-b0f09a59-7dff-43ac-bb06-7ccf459bc769\"><strong>Domaine 1&nbsp;: Information &amp; Donn\u00e9es<\/strong> &#8211;<strong> 1. Mener une recherche ou une veille d\u2019information<\/strong><br><em>Niveau 2&nbsp;: Questionner la fiabilit\u00e9 et la pertinence des sources<\/em><\/p>\n\n\n\n<p id=\"block-b0f09a59-7dff-43ac-bb06-7ccf459bc769\"><strong><strong>Domaine 3&nbsp;: Communication &amp; collaboration<\/strong><\/strong> &#8211; <strong>2. Partager et publier<\/strong><br><em>Niveau 2&nbsp;: Savoir que certains contenus sont prot\u00e9g\u00e9s par un droit d\u2019auteur<\/em><\/p>\n\n\n\n<p id=\"block-89f3c2de-d52b-4795-b243-1b15d7e04706\"><strong>Comp\u00e9tences EMI&nbsp;:<\/strong><\/p>\n\n\n\n<p id=\"block-2c70188c-7513-4c02-8bd8-77b46c4427f2\"><strong><strong>Exploiter l\u2019information de mani\u00e8re raisonn\u00e9e<\/strong><\/strong><br>Distinguer les sources d\u2019information, s\u2019interroger sur la validit\u00e9 et sur la fiabilit\u00e9 d\u2019une information, son degr\u00e9 de pertinence<\/p>\n\n\n\n<p id=\"block-82be0d3e-501b-4224-8785-89f5f307aff1\"><strong><strong>Produire, communiquer, partager des informations<\/strong><\/strong><br>Distinguer la citation du plagiat<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"block-c3fc2d6e-ae9f-47da-a25d-63c0bcb57a13\"><strong>D\u00e9roul\u00e9<\/strong> :<\/h2>\n\n\n\n<p><strong>S\u00e9ance 1&nbsp;:<\/strong><\/p>\n\n\n\n<p><strong>Introduction :<\/strong> les \u00e9l\u00e8ves ne connaissent pas l\u2019objet de la s\u00e9ance, ils sont dirig\u00e9s en premier lieu vers les ordinateurs du CDI ou sur les tablettes pour r\u00e9pondre \u00e0 l\u2019enqu\u00eate r\u00e9alis\u00e9e par des membres du groupe acad\u00e9mique dans le cadre des TraAM EMI 2023-2024 ayant pour titre \u00ab&nbsp;Les IA et vous&nbsp;? Enqu\u00eate sur vos usages&nbsp;\u00bb dont le lien est h\u00e9berg\u00e9 sur l\u2019e-sidoc du coll\u00e8ge (<a href=\"https:\/\/framaforms.org\/les-ia-et-vous-enquete-sur-vos-usages-1710410739\">https:\/\/framaforms.org\/les-ia-et-vous-enquete-sur-vos-usages-1710410739<\/a>). Une fois que tous les \u00e9l\u00e8ves ont soumis leurs r\u00e9ponses, ils s\u2019installent autour des tables.<\/p>\n\n\n\n<p><strong>Phase de questionnement :<\/strong> il leur est demand\u00e9 de d\u00e9finir oralement ce qu\u2019est une intelligence artificielle et de donner des exemples qu\u2019ils connaissent. La d\u00e9finition se resserre vers les intelligences artificielles g\u00e9n\u00e9ratives qui leur sont le plus connues. A la suite de ces \u00e9changes et ces tentatives de d\u00e9finition, le visionnage d\u2019une vid\u00e9o vise \u00e0 proposer une clarification et \u00e0 ouvrir un champ de d\u00e9bats. Il s\u2019agit de la vid\u00e9o de la <a href=\"https:\/\/www.canotech.fr\/a\/35578\/les-intelligences-artificielles-generatives\" target=\"_blank\" rel=\"noreferrer noopener\">Canotech&nbsp;: Les intelligences artificielles g\u00e9n\u00e9ratives.<\/a><\/p>\n\n\n\n<p>Suit un retour sur les notions abord\u00e9es dans la vid\u00e9o, c\u2019est-\u00e0-dire comprendre comment fonctionnent ces intelligences artificielles dites g\u00e9n\u00e9ratives, d\u00e9nomin\u00e9es ainsi car elles&nbsp;g\u00e9n\u00e8rent du texte, de l\u2019image, de l\u2019audio, de la vid\u00e9o.<\/p>\n\n\n\n<p>L\u2019exemple de la d\u00e9couverte de l\u2019existence de ChatGPT en France est pr\u00e9sent\u00e9 ici&nbsp;\u00e0 travers le scandale largement relay\u00e9 dans les m\u00e9dias d\u2019\u00e9tudiants ayant utilis\u00e9 cette IAG pour rendre des travaux scolaires au tout d\u00e9but de l\u2019ann\u00e9e 2023 et dont la supercherie a \u00e9t\u00e9 d\u00e9couverte par des enseignants qui observaient de fortes similitudes entre les copies de ces \u00e9l\u00e8ves.<\/p>\n\n\n\n<p>Quand les IAG sont interrog\u00e9es, elles le sont par le biais d\u2019un prompt, c\u2019est-\u00e0-dire la question formul\u00e9e en langage courant. L\u2019IAG interroge sa base de donn\u00e9es, pour la premi\u00e8re version de ChatGPT, une base de donn\u00e9es qui n\u2019a pas acc\u00e8s \u00e0 Internet et dont les informations ne concernent que celles produites jusqu\u2019au milieu de l\u2019ann\u00e9e 2021. L\u00e0 sont expliqu\u00e9s l\u2019action des algorithmes de calcul qui traitent les milliards de donn\u00e9es pour formul\u00e9es une r\u00e9ponse au prompt mais aussi le ph\u00e9nom\u00e8ne de pr\u00e9diction. Puis est abord\u00e9 le concept d\u2019entra\u00eenement de l\u2019IAG en montrant qu\u2019elle n\u2019est pas si intelligente puisqu\u2019elle ne fait pas la diff\u00e9rence entre un chien et un chat si on lui demande de repr\u00e9senter un chat (caract\u00e9ristiques communes&nbsp;: quatre pattes, deux oreilles, une queue).<\/p>\n\n\n\n<p>Les \u00e9l\u00e8ves ayant cit\u00e9 l\u2019IAG Midjourney, leur a \u00e9t\u00e9 diffus\u00e9e <a href=\"https:\/\/podeduc.apps.education.fr\/video\/46222-photos-generees-par-iamp4\/\">une vid\u00e9o compilant quelques images produites par cette IAG<\/a>.<\/p>\n\n\n\n<p>Beaucoup d\u2019entre eux ont reconnu ces images, ils argumentent tr\u00e8s vite sur le fait que, comme ce sont des personnalit\u00e9s tr\u00e8s connues mises en sc\u00e8ne, il est facile de d\u00e9duire que ce sont des sc\u00e8nes imagin\u00e9es. Une conclusion est \u00e9mise sur le fait qu\u2019il \u00e9tait ais\u00e9 pour une IA de produire de telles images car la base de donn\u00e9es de photographies de ces personnalit\u00e9s peut \u00eatre abond\u00e9e de tr\u00e8s nombreux exemples et que la technologie a rapidement \u00e9volu\u00e9 puisqu\u2019avant les images produites par IA pouvaient \u00eatre d\u00e9tect\u00e9es gr\u00e2ce aux imperfections comme les doigts suppl\u00e9mentaires.<\/p>\n\n\n\n<p>La s\u00e9ance se conclue avec la possibilit\u00e9 pour l\u2019IA de produire et modifier des vid\u00e9os avec le visionnage de celle \u00e9manant du Monde, intitul\u00e9e \u00ab&nbsp;Comment faire dire ce qu\u2019on veut \u00e0 Barack Obama gr\u00e2ce \u00e0 l\u2019intelligence artificielle&nbsp;\u00bb.<\/p>\n\n\n\n<p><strong>S\u00e9ance 2&nbsp;:<\/strong><\/p>\n\n\n\n<p>En introduction, un rappel de la s\u00e9ance derni\u00e8re est effectu\u00e9. Puis les \u00e9l\u00e8ves sont amen\u00e9s \u00e0 se mettre en groupe de 4 et ils ont pour consigne de trouver des arguments \u00ab&nbsp;POUR&nbsp;\u00bb et \u00ab&nbsp;CONTRE&nbsp;\u00bb \u00e0 cette probl\u00e9matique&nbsp;: \u00ab&nbsp;Un enseignant vous demande un travail. Vous utilisez une intelligence artificielle g\u00e9n\u00e9rative pour le r\u00e9aliser et vous rendez ce r\u00e9sultat \u00e0 votre professeur. Est-ce moral et sans risque&nbsp;?<\/p>\n\n\n\n<p>Apr\u00e8s une demi-heure de concertation en groupe, les propositions de chacun sont lues par un rapporteur et la professeure documentaliste note les r\u00e9ponses au tableau.<\/p>\n\n\n\n<p><span style=\"text-decoration: underline\">R\u00e9sultats du d\u00e9bat dans une des classes de 4\u00e8me :<\/span><\/p>\n\n\n\n<div data-wp-interactive=\"core\/file\" class=\"wp-block-file\"><object data-wp-bind--hidden=\"!state.hasPdfPreview\" hidden class=\"wp-block-file__embed\" data=\"https:\/\/pedagogie.ac-lille.fr\/prof-doc\/wp-content\/uploads\/sites\/57\/2024\/05\/Resultat-du-debat-sur-IAG.pdf\" type=\"application\/pdf\" style=\"width:100%;height:600px\" aria-label=\"Contenu embarqu\u00e9 Resultat-du-debat-sur-IAG.\"><\/object><a id=\"wp-block-file--media-491fa55d-920e-4a7b-b999-67498f040cbd\" href=\"https:\/\/pedagogie.ac-lille.fr\/prof-doc\/wp-content\/uploads\/sites\/57\/2024\/05\/Resultat-du-debat-sur-IAG.pdf\">Resultat-du-debat-sur-IAG<\/a><a href=\"https:\/\/pedagogie.ac-lille.fr\/prof-doc\/wp-content\/uploads\/sites\/57\/2024\/05\/Resultat-du-debat-sur-IAG.pdf\" class=\"wp-block-file__button wp-element-button\" download aria-describedby=\"wp-block-file--media-491fa55d-920e-4a7b-b999-67498f040cbd\">T\u00e9l\u00e9charger<\/a><\/div>\n\n\n\n<p>En conclusion, est admis que l\u2019IAG peut \u00eatre utilis\u00e9e comme un assistant de travail et non comme un rempla\u00e7ant, que ces r\u00e9ponses ne sont pas toujours fiables donc il vaudra toujours mieux les comparer avec des informations trouv\u00e9es avec d\u2019autres sources d\u2019information fiables. Ils ne peuvent pas rejeter compl\u00e8tement cet outil car il fera partie de leur vie future et peut-\u00eatre m\u00eame leur vie professionnelle. Ils ont conscience que travailler par soi-m\u00eame permet beaucoup mieux d\u2019apprendre de nouvelles connaissances et de d\u00e9velopper des comp\u00e9tences.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Bilans : <\/h2>\n\n\n\n<p>Peu d\u2019enseignants leur parlent ouvertement des IA et des IAG en particulier donc au d\u00e9but les \u00e9l\u00e8ves \u00e9taient g\u00ean\u00e9s. Mais le temps du d\u00e9bat a permis de lib\u00e9rer la parole et d\u2019assister \u00e0 des \u00e9changes nourris. D\u2019ailleurs la forme du d\u00e9bat s\u2019av\u00e8re un exercice qu\u2019ils appr\u00e9cient particuli\u00e8rement parce, dans le temps scolaire, ils n\u2019ont pas toujours l\u2019occasion de partager leur avis ou, si elle se pr\u00e9sente, le sujet sur lequel d\u00e9battre ne correspond pas forc\u00e9ment \u00e0 leurs centres d\u2019int\u00e9r\u00eat. Ce qui est int\u00e9ressant, c\u2019est que certaines filles reconnaissaient ne jamais avoir utiliser d\u2019IAG mais leurs usages ne leur sont pas inconnus pour autant.<\/p>\n\n\n\n<p>Comme pour les exemples d\u2019images g\u00e9n\u00e9r\u00e9es par les IAG, ils sont conscients que les r\u00e9ponses textuelles g\u00e9n\u00e9r\u00e9es ne correspondent pas \u00e0 leur style d\u2019\u00e9criture et comportent des termes qu\u2019ils n\u2019emploieraient jamais.<\/p>\n\n\n\n<p>A travers certaines propositions, se r\u00e9v\u00e8lent les messages de pr\u00e9vention dispens\u00e9s pendant l\u2019ann\u00e9e autour de la protection des donn\u00e9es personnelles d\u2019une part et des fake news de l\u2019autre.M\u00eame si une discussion s\u2019est ax\u00e9e sur la fiabilit\u00e9 des informations g\u00e9n\u00e9r\u00e9es par ChatGPT notamment, ont juste \u00e9t\u00e9 \u00e9voqu\u00e9 l\u2019absence de sources cit\u00e9es par cet outil et les hallucinations qu\u2019il peut produire. Un prolongement pourrait donc encha\u00eener avec un focus plus pr\u00e9cis sur la notion de propri\u00e9t\u00e9 intellectuelle, de sources, leur montrer des exemples d\u2019hallucinations ainsi que leur faire toucher du doigt par la pratique que, pour obtenir des informations les plus justes possibles et les plus pertinentes, il est n\u00e9cessaire de savoir manier la langue en r\u00e9digeant les prompts.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Blandine Tardieu, professeure documentaliste au Coll\u00e8ge R\u00e9publique de Calais, pr\u00e9sente une s\u00e9ance r\u00e9flexive sur le fonctionnement et l\u2019usage des intelligences artificielles g\u00e9n\u00e9ratives sous la forme d\u2019un d\u00e9bat men\u00e9e avec des \u00e9l\u00e8ves de classes de 4\u00e8me. Ce projet s\u2019inscrit dans le cadre des TraAM EMI 2023-2024 sur la th\u00e9matique de l\u2019\u00e9valuation de l\u2019information. Contexte : une [&hellip;]<\/p>\n","protected":false},"author":152,"featured_media":3101,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[28,58],"tags":[],"class_list":{"0":"post-3008","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-enseigner","8":"category-traam-emi-2023-2024","9":"czr-hentry"},"publishpress_future_action":{"enabled":false,"date":"2026-04-28 16:10:12","action":"change-status","newStatus":"draft","terms":[],"taxonomy":"category","extraData":[]},"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/pedagogie.ac-lille.fr\/prof-doc\/wp-json\/wp\/v2\/posts\/3008","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/pedagogie.ac-lille.fr\/prof-doc\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/pedagogie.ac-lille.fr\/prof-doc\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/pedagogie.ac-lille.fr\/prof-doc\/wp-json\/wp\/v2\/users\/152"}],"replies":[{"embeddable":true,"href":"https:\/\/pedagogie.ac-lille.fr\/prof-doc\/wp-json\/wp\/v2\/comments?post=3008"}],"version-history":[{"count":12,"href":"https:\/\/pedagogie.ac-lille.fr\/prof-doc\/wp-json\/wp\/v2\/posts\/3008\/revisions"}],"predecessor-version":[{"id":3209,"href":"https:\/\/pedagogie.ac-lille.fr\/prof-doc\/wp-json\/wp\/v2\/posts\/3008\/revisions\/3209"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/pedagogie.ac-lille.fr\/prof-doc\/wp-json\/wp\/v2\/media\/3101"}],"wp:attachment":[{"href":"https:\/\/pedagogie.ac-lille.fr\/prof-doc\/wp-json\/wp\/v2\/media?parent=3008"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/pedagogie.ac-lille.fr\/prof-doc\/wp-json\/wp\/v2\/categories?post=3008"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/pedagogie.ac-lille.fr\/prof-doc\/wp-json\/wp\/v2\/tags?post=3008"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}