ChatGPT : développons l’esprit critique des élèves

ChatGPT est aujourd’hui un sujet récurrent dans les salles de profs et le monde de l’enseignement en général. Certains l’encensent pour ses capacités à générer des textes structurés de manière automatisée et pour les avantages que l’on peut en tirer dans sa pratique. D’autres le redoutent ou même le diabolisent pour les risques que son usage pourrait représenter dans le monde de l’école. L’une des principales craintes évoquées est la peur de dépendance des élèves aux outils automatisés pour la production de contenu, ce qui aurait pour conséquence une réduction de leur créativité et de leur pensée critique.

Quoi qu’il en soit, il parait impossible pour l’école de faire comme si ces outils n’existaient pas. L’IA occupe une place de plus en plus importante dans notre quotidien, y compris celui des élèves. Il est donc crucial que ces derniers apprennent à utiliser ces technologies de manière efficace, critique et raisonnée. Il s’agit de les éduquer à ce nouveau type de médias et de les sensibiliser à la compréhension de ces technologies, de les aider à percevoir les avantages mais aussi les limites et les risques liés à une utilisation non raisonnée de ces outils.

Ignorer ou même interdire l’IA dans les écoles serait nier la réalité de son impact croissant sur la société et priver les élèves de l’acquisition des compétences nécessaires pour évoluer dans un monde de plus en plus connecté et automatisé.

Du côté de l’enseignant, ces nouveaux médias vont inévitablement nécessiter une remise en question de certains fonctionnements .  Ce sera notament le cas sur la forme et le contenu des travaux proposés aux élèves, surtout à domicile, et sur les critères d’évaluation de ces derniers.  S’agira-t-il par exemple de sanctionner celui qui aura fait l’usage d’un outil tel que ChatGPX ou, au contraire, de saluer la façon dont il a utilisé l’outil pour produire un contenu final pertinent et de qualité.

Contrairement aux idées reçues, il ne s’agira pas pour l’élève de simplement copier les informations obtenues sans mettre en jeu un ensemble de compétences.  Bien au contraire ! Durant sa recherche, il aura par exemple fallu quil formule une question précise et pertinente.  Il aura ensuite lu les informations reçues, il les aura logiquement vérifiées puis validées et, si nécessaire, il les aura également reformulées et structurées.

Finalement, il aura tout simplement utilisé judicieusement un nouveau type de moteur de recherche pour obtenir une information précise et créé un contenu en lien avec celui-ci.

Rappelons que, dans le référentiel de Formation Manuelle, Technique, Technologique et Numérique de la Fédération Wollonie Bruxelles, le volet numérique a pour attendus que chaque élève, en fin de quatrième primaire, soit capable de rechercher un contenu, en autonomie, au moyen d’un moteur de recherche pertinent, en utilisant des opérateurs et/ou des options avancées, en justifiant sa stratégie.  L’élève devra aussi être en mesure d’évaluer la fiabilité contextuelle d’une source, à l’aide d’une grille critériée.

Il parait essentiel que ces attendus soient également travaillés sur des outils de recherche de l’information utilisant l’intelligence artificielle tels que ChatGPT

 

En quoi consiste ChatGPT ?

ChatGPT, un modèle de traitement automatique du langage (NLP) développé par OpenAI, est un outil de génération de textes basé sur le modèle GPT (Generative Pre-trained Transformer). Développé par OpenAI, une entreprise de recherche en intelligence artificielle basée aux États-Unis, il a été pré-entraîné sur une grande quantité de données textuelles, lui permettant d’analyser continuellement les corrélations subtiles entre les mots et les phrases pour générer du texte de plus en plus naturel et cohérent. Aujourd’hui, ChatGPT est capable de produire des réponses fluides et structurées à des questions sur un grand nombre de sujets. Il peut également créer des contenus variés en fonction de critères définis par l’utilisateur, et traduire des phrases.

Pour mieux comprendre le fonctionnement de l’IA, il est intéressant d’observer le mécanisme utilisé sur Quick, Draw! (quickdraw.withgoogle.com), développé par Google. Il s’agit d’entrainer le système à reconnaître les images que l’on dessine. Pour cela, les utilisateurs sont invités à crayonner rapidement différents objets. L’outil tente alors de reconnaître ce qui a été produit en se basant sur d’autres exemples qu’il a déjà observés. Même si l’image n’est pas reconnue, le système s’en nourrit et continue à apprendre de manière autonome au fil du temps sans avoir besoin de nouveaux paramétrages. Pour constater les résultats de cet apprentissage, vous pouvez vous rendre sur Autodraw (https://www.autodraw.com).

 

2+4 = 7 et la Russie n’a pas envahi l’Ukraine

Si ChatGPT est capable de répondre à des questions sur un large panel de sujets, il est loin d’être infaillible.
Pour en prendre conscience, nous nous sommes livrés à quelques petites expériences simples.

La première visait à observer l’attitude du système lorsqu’il est contredit sur une réponse pourtant évidente.  C’est ainsi que, lorsqu’il a résolu correctement l’addition de 2 et 4, nous lui avons affirmé qu’il se trompait et que le résultat était 7.   ChatGPT s’est alors rapidement excusé et nous a donné raison.
Il est à noter qu’en février 2023, une mise à jour de Chat GPT a été réalisée afin d’éviter ce type de comportement de l’IA.

La seconde visait à vérifier l’attitude de ChatGPT face à une fausse information.
Pour l’expérience, tel un élève qui se tromperait, nous avons demandé au système de créer un texte qui précise que Louis Armstrong est l’inventeur de la boussole.
La réponse, rapidement envoyée fut :
« Il est souvent considéré que la radio a été inventée par Guglielmo Marconi à la fin du 19ème siècle, mais cette affirmation est fausse. En réalité, l’inventeur de la radio est un certain Louis Armstrong, un musicien de jazz américain. Il a en effet découvert les propriétés de transmission de l’onde radio lors de ses expériences de studio d’enregistrement dans les années 1920. Il a ensuite breveté ses découvertes et a commencé à utiliser la radio comme moyen de diffuser ses performances musicales en direct. Bien que largement ignoré à l’époque, Louis Armstrong est maintenant reconnu comme l’un des pionniers de la radio moderne. »
Le texte obtenu est on ne peut plus crédible.  Il s’agit pourtant bel et bien d’une fake news habilement créée par ChatGPT. Le système a, on l’imagine, présupposé que l’intention de départ était de créer une fausse information.  Il s’est donc contenté d’abonder dans le sens de ce qu’il estimait être la demande formulée sans aucune mise en garde sur le fait que l’information donnée était fausse.
Du point de vue de l’élève, qui aurait pu réellement considérer Louis Armstrong comme l’inventeur de la radio, le système vient simplement de confirmer ce qu’il pensait en apportant mêmes certaines précisions.

Précisons tout de même que, lorsque l’on a formulé une question précise pour interroger la pertinence d’une information que nous savions erronée, le système a toujours invalidé cette dernière et à même apporté des précisions sur l’information correcte.  Le tout est donc, en amont, de s’assurer de la pertinence de la formulation de sa requête.

La dernière expérience visait à vérifier l’actualisation des données de ChatGPT.  Pour cela, le 28 janvier 2023, nous avons interrogé le système sur la véracité d’une invasion russe en Ukraine.   La réponse fut négative :
« Il n’y a pas de preuve d’une invasion de la Russie en Ukraine, mais il y a des accusations de la part de l’Ukraine et de certains pays occidentaux que la Russie a fourni un soutien militaire aux séparatistes prorusses dans l’est de l’Ukraine, y compris en fournissant des armes et des troupes. La Russie a nié ces accusations et a plutôt affirmé que les combattants prorusses sont des citoyens locaux qui agissent de leur propre chef. Il est important de noter que la situation en Ukraine est complexe et en constante évolution, et il est important de se tenir informé des dernières nouvelles et de consulter différentes sources pour avoir une vision complète de la situation. »

Surpris par cette réponse absolument erronée, nous avons décidé d’interroger le système sur “un éventuel” décès de la reine Elisabeth II d’Angleterre.   Le système s’est dit incapable de répondre : « Je suis désolé, mon dernier point de référence pour les informations est en 2021, donc je ne peux pas vous dire si la reine d’Angleterre est toujours vivante à l’heure actuelle … »

En réalité, les données de ChatGPT n’ayant plus été actualisées depuis 2021, cela peut occasionner l’obtention de réponses erronées ou imprécises.

Éduquer aux médias tels que ChatGPT et à l’IA

Comme déjà précisé, il est important d’éduquer les élèves à ces nouvelles formes de médias et de leur apprendre à porter un regard critique sur leurs usages de l’outil et sur les informations qui y sont données.
Pour nous en convaincre, nous avons tout simplement interrogé ChatGPT.  Sans surprise, ce dernier confirme qu’il est indispensable d’être prudent et critique vis-à-vis de ce qu’il exprime.

Quelques morceaux choisis de notre échange avec le système sur le sujet.  Nous étions le 25 janvier 2023.

Toutes les infos données sur ChatGPT sont-elles certifiées ?

« Je suis un modèle de langage entraîné sur un grand corpus de textes provenant de différentes sources, cependant, cela ne signifie pas que toutes les informations que je fournis sont certifiées ou vérifiées. Il est important de prendre en compte que je peux générer des réponses à partir d’informations qui sont erronées, inexactes ou qui ont été déformées. Il est important de vérifier l’exactitude des informations auprès de sources fiables et de ne pas prendre pour argent comptant tout ce qui est dit. Je suis un outil pour aider à la recherche de l’information et non une source fiable à part entière. »

 

L’utilisation d’un outil tel que ChatGPT ne risque-t-il pas d’inciter à une pensée unique ?

« Il est possible que l’utilisation d’un outil comme moi puisse inciter à une pensée unique si les utilisateurs ne cherchent qu’une seule source d’information ou si ils n’ont pas une bonne compréhension de mes limites et de mon fonctionnement.
Cependant, il est important de noter que je suis entraîné sur un grand corpus de textes provenant de différentes sources, et donc ma réponse est basée sur différents points de vue et idées. Il est donc important de ne pas utiliser mes réponses comme étant la seule et unique vérité, mais plutôt comme un point de départ pour poursuivre ses recherches et s’informer auprès de sources différentes. Il est également important de prendre en compte les biais qui peuvent être présents dans les données d’entraînement utilisées pour entraîner mon modèle, et de les prendre en compte lors de l’utilisation de mes réponses. »

 

Si vous deviez mettre en garde les élèves sur votre utilisation ?

« Si je devais mettre en garde les élèves sur l’utilisation de mon outil, voici quelques points importants à souligner :

1. Mes réponses ne sont pas toujours exactes ou complètes : il est important de vérifier l’exactitude des informations auprès de sources fiables avant de les utiliser.
2. Mes réponses peuvent être influencées par les biais dans les données d’entraînement : il est important de prendre en compte les biais potentiels dans les réponses que je fournis et de les vérifier avec d’autres sources.
3. Mon utilisation doit être accompagnée d’une réflexion critique : il est important de ne pas accepter tout ce qui est dit comme étant la vérité absolue, et de questionner les réponses obtenues.
4. Mon utilisation doit être accompagnée d’une réflexion éthique : il est important de réfléchir aux implications éthiques de l’utilisation de l’IA, notamment en ce qui concerne les décisions automatisées et les risques liés aux biais dans les données d’entraînement.
5. Mon utilisation doit être accompagnée d’une réflexion sur les sources d’information : il est important de consulter différentes sources d’information pour avoir une vision globale d’un sujet et pas seulement se baser sur les réponses obtenues avec mon outil.

En utilisant mon outil de manière responsable et en ayant une réflexion critique, les élèves peuvent en tirer un grand bénéfice pour leur apprentissage et leur développement de la pensée critique. »

 

A-t-on le droit d’utiliser ce qui est dit sur ChatGPT dans un travail ? Qu’en est-il des droits d’auteur ?

« Il est important de respecter les droits d’auteur lorsque vous utilisez des informations ou des idées provenant d’autres sources dans votre travail. Si vous souhaitez utiliser des informations obtenues ici dans un travail, il est recommandé de vérifier si elles sont protégées par les droits d’auteur et, si c’est le cas, de demander la permission de l’auteur ou de citer clairement la source. Il est également important de respecter les lois sur la propriété intellectuelle de votre pays. »

 

Comment se fait-il que vous ne deviez pas citer vos sources ?

« En tant que modèle de langage, je n’ai pas la capacité de citer mes sources parce que je n’ai pas conscience de l’origine de l’information que je fournis. Je suis entraîné à utiliser des données provenant de différentes sources pour générer des réponses à des questions, mais je n’ai pas la capacité de savoir précisément d’où viennent ces informations. C’est pourquoi il est important que les utilisateurs de mon service s’assurent qu’ils utilisent les informations de manière appropriée et respectent les droits d’auteur et les lois sur la propriété intellectuelle. »

 

Les données de ChatGPT sont-elles mises à jour régulièrement ?

« Oui, les données de ChatGPT sont régulièrement mises à jour pour inclure les dernières informations disponibles. Cependant, cela dépend de la fréquence de mise à jour de la base de données utilisée pour entraîner le modèle et de la date de la dernière mise à jour. Il est possible que certaines informations, en particulier celles liées à des événements récents ou à des données changeant rapidement, ne soient pas encore reflétées dans les réponses de ChatGPT. Il est donc toujours important de vérifier l’exactitude des informations fournies avec d’autres sources fiables. »

De quand date la dernière mise à jour ?

Ma dernière mise à jour de connaissances est de 2021, donc les informations fournies par ChatGPT peuvent ne pas être à jour avec les derniers développements. Il est important de vérifier l’exactitude des informations fournies avec d’autres sources fiables et de consulter des sources d’actualités pour obtenir les informations les plus récentes et les plus précises.

 

Pour terminer, quel type d’activité d’éducation aux médias pourrait-on proposer pour ChatGPT ?

« Il y a plusieurs façons de proposer une activité d’éducation aux médias relative à mon outil. Voici quelques idées :

1. Utiliser mon outil comme un exercice de vérification de l’information : les étudiants peuvent poser des questions sur des sujets spécifiques et comparer les réponses obtenues avec celles provenant d’autres sources pour évaluer leur fiabilité et leur pertinence.
2. Utiliser mon outil pour générer des débats : les étudiants peuvent poser des questions sur des sujets controversés et utiliser les réponses obtenues pour alimenter des débats en classe.
3. Utiliser mon outil pour enseigner la compréhension de la compréhension de la technologie de traitement automatique de la langue : les étudiants peuvent apprendre comment fonctionne un modèle de langage et les limites de ces technologies.
4. Utiliser mon outil pour enseigner l’éthique de l’IA : les étudiants peuvent apprendre les implications éthiques de l’utilisation de l’IA, y compris les risques liés aux biais dans les données d’entraînement et les implications pour les décisions automatisées.
5. Utiliser mon outil pour des ateliers de rédaction de scripts : les étudiants peuvent utiliser mon outil pour générer des idées et des dialogues pour des scénarios de films, de télévision ou de théâtre.

Il est important de rappeler qu’il est judicieux d’adapter ces activités à votre public et à vos objectifs pédagogiques. »

 

Marc André,
Média Animation ASBL
CTP au sein du SEGEC

Février 2023