Nous sommes toutes et tous, dans une phase de découverte plus ou moins avancée de l’IA – à mesure qu’elle se développe, nous la découvrons à travers certains usages dans notre entourage, sur les réseaux sociaux, dans les médias et nous sommes amené.es à nous interroger sur les conséquences dans nos pratiques professionnelles, nos vies personnelles et au-delà.

L’approche proposée par l’intervenant est clairement militante et se revendique comme telle (comme expliqué dans le premier paragraphe). Il s’agit du fruit d’un travail collectif, celui du groupe numérique du SNES-FSU.
Elle dénonce l’offensive de l’IA, en particulier, sur l’éducation.

Pour compléter :

Lien vers des articles sur le sujet – sous un angle plus pragmatique, en lien avec l’éducation :
https://www.snes.edu/publications/les-supplements-de-lus/intelligence-artificielle-ia-supplement-de-lus-n854/

QUI PROMEUT L’IA ?

• Il faut replacer la question de l’IA sur le plan idéologique, à l’inverse de ce que l’on nous vend. L’IA est une conjonction d’intérêts politiques, économiques et managériaux (tout sauf un outil neutre).

• La part économique est prépondérante, les ministres ne parlent pas d’éducation, seulement de révolution numérique et maintenant d’IA (Jean-Michel Blanquer puis Elisabeth Borne). Leurs porte-parole sont des marchands qui se drapent dans des discours pseudo-scientifiques, citent des sources de façon erronée. Interrogé sur BFM Business, l’un d’eux est bien embarrassé, quand un journaliste lui demande un retour sur les bénéfices observés, concernant l’usage des outils dont il fait la promotion.

• Parmi les grands promoteurs de l’IA dans l’éducation : Laurent Alexandre, entrepreneur, co-fondateur de Doctissimo, reconverti dans la Tech – il tient des propos tels que : « les gagnants de la mondialisation seront les dieux de demain » – et s’agissant de l’éducation, il a, quant à lui, pour ambition de « violer le mammouth » face à un système qui « émascule » les innovateurs. Ces propos invalident définitivement l’idée d’une prétendue neutralité.

L’IA : UN DANGER IMMINENT

• source d’exploitation humaine atroce (Afrique de l’Ouest) – des gens, qualifiés et sous-payés qui cliquent pour éliminer les contenus les plus immondes.

• énergivore.

• source de « pollution informationnelle » - un idée qui peut se résumer ainsi : « le vrai est mangé par le faux ». L’IA rend tout suspect et modifie notre rapport au monde.

• L’IA piétine les droits d’auteurs et toute forme de création humaine.

• L’IA a des « hallucinations », elle invente des sources – le collègue médiéviste s’amuse que l’historien Georges Duby (décédé en 1996) ait publié récemment un nouveau livre ou un nouvel article...

• L’IA est aux mains des « techno-fascistes » – ce n’est pas une simple formule (objet d’un article de Romaric Godin dans Mediapart)

• L’IA véhicule l’idée que, dans la continuité de l’automatisation de tâches manuelles, on peut automatiser les tâches intellectuelles (on vole des savoir faire et des savoirs pour nous les renvoyer ensuite, sous une autre forme)

• L’IA rend captif.

• Avec le développement des IA, il y a un effet de boucle : l’IA alimente l’IA. L’IA a été comparée à « un perroquet statistique », elle donne à une question, la réponse la plus probable.

LA RESPONSABILITÉ POLITIQUE

• Les rapports demandés par le ministère ne posent jamais la question : Faut-il utiliser l’IA ?

• Le ministère voit cela comme un marché, un enjeu strictement économique. Sous l’influence de lobbyistes tout-puissants qui professent que : « le dogme de la gratuité pèse sur l’éducation ». C’est leur credo.

• Le ministère veut passer en force pour faire utiliser les IA – il écarte tout questionnement, malgré les alertes au niveau du parlement européen et de l’UNESCO sur les dangers de ces technologies, appliquées, en particulier, à l’éducation.

• Le Sénat, dans un prétendu rapport sur l’usage que font les élèves de seconde de l’IA cite une enquête, l’organisme est : Heaven (il s’agit, en réalité, d’une agence de publicité) – et Elisabeth Borne, qui reprend ces chiffres dans des interviews, se trompe sur la tranche d’âge concernée (l’enquête portait sur les 18-21 ans).

• Heaven est le promoteur de « MIA seconde » - (expérimentée et généralisée « en même temps » par l’éducation nationale, pas de retour attendu pour passer à l’étape suivante).

LES ÉLÈVES ET l’IA

• Nous devons combattre l’idée que : nos élèves utilisent les IA, nous devons les utiliser. Ce type de raisonnement peut facilement être démonté par l’absurde (ils et elles font plein de choses que nous ne souhaitons pas imiter). Les promoteurs de la tech nous abreuvent de discours à la Thatcher : la phrase « there is no alternative » est de mise.

• L’idée que l’IA développerait l’esprit critique doit être combattue, la possibilité de discerner le vrai du faux et ce que l’on peut ou non s’approprier ne vaut que pour des experts dans leur domaine de connaissances (et encore, cela reste complexe...).

• La recommandation d’apprendre aux élèves à utiliser l’IA invite à déléguer toujours plus de tâches à la machine, la difficulté d’une véritable appropriation est bien réelle - une comparaison a été faite avec un outil que beaucoup d’entre nous utilisent depuis des années : le plus souvent, si nous utilisons un GPS, nous ne savons pas retourner au même endroit par nous-mêmes ensuite. La manipulation de l’IA peut produire les mêmes effets. On peut renvoyer les collègues qui veulent approfondir à cet article qui donne des sources : https://www.snes.edu/article/les-ia-court-circuitent-les-apprentissages/

ET NOUS, LES PROFS ?

• L’argument massue de nous libérer du temps – difficile de résister – vise aussi à balayer tout autre revendication sur les conditions de travail et l’école en général (nombre d’élèves dans les classes – contenus abscons, programmes infaisables – évaluations standardisées...)

• L’intervenant a insisté aussi sur le fait que le discours récurrent de : « on ne veut pas vous remplacer » – répété trop souvent – interroge... Aussi vrai que l’IA est « neutre » ?

• L’IA est un instrument pour nous déqualifier. Ce qu’il reste à l’humain, ce sont « les compétences socio-comportementales », nous devenons des animateurs, on fait de nous des coachs. Les contenus de matières deviennent secondaires, nous devenons interchangeables et faciles à remplacer.

• La question des apprentissages est « désocialisé », le rapport à la machine devient prépondérant - (c’est ce qui transparait dans les propos de Thierry de Vulpillière sur BFM Business lorsqu’il promeut : « adaptive maths »).

• L’usage d’une IA en classe avec les élèves n’est autorisée qu’à condition qu’elle fasse l’objet d’un contrat validé par l’institution.

• Le ministère donne pour consigne de ne pas utiliser les logiciels de détection de l’IA pour détecter des fraudes.

Certains syndicats, à l’inverse du SNES-FSU, défendent, devant les responsables du ministère, l’idée que l’usage de l’IA dans l’éducation est trop cadré.

Un collectif nommé HIATUS, qui regroupe des syndicats et des associations (ATTAC – LDH – Amnesty...) et dont le SNES-FSU fait partie a été créé pour résister à l’IA.

Les promoteurs de l’IA entretiennent l’idée que l’on ne peut pas questionner ce qui est massif, que cela rend l’usage par toutes et tous de fait légitime et, même, indiscutable.

L’intervenant nous a invité à réfléchir sur le décalage entre la temporalité de l’humain et celle qui nous est imposée, l’humain qui se trouve confronté à la rapidité, l’efficacité de la machine avec la conséquence suivante : celles et ceux qui nous veulent toujours plus performants entretiennent un malaise. « On en vient à avoir honte d’être humain » (allusion à G. Anders)

Jean-Michel Blanquer, s’agissant de la Tech, avait osé une comparaison audacieuse, se proposant de nous libérer de la tâche ingrate de corriger des copies, avec référence à l’appui à l’abolition de l’esclavage. Une fois de plus, le choix des mots laisse pantois, tant l’indécence est grande. L’idée même de se présenter en libérateur doit, bien sûr, nous alerter également.
Par ailleurs, les discours en vigueur nous renvoient sans cesse à nos imperfections humaines pour nous vendre (littéralement) la perfection de la machine.
Notre connaissance de l’Histoire, en tant que simple citoyen.ne, et la dérive à laquelle nous assistons dans le monde actuel doivent nous faire réagir, l’idée de recherche de perfection doit éveiller une prise de conscience et nous inciter à porter un discours de résistance, avec l’aide des syndicats et associations engagés dans ces combats et au quotidien, dans le cadre professionnel, a fortiori dans le domaine éducatif et, aussi, en dehors de ce contexte.

Quelques pistes bibliographiques supplémentaires :

• Les articles du groupe numérique du SNES-FSU, qu’on tente de mettre à jour régulièrement :
  https://www.snes.edu/dossiers/numerique/

• Laurence Maraninchi (professeure en sciences informatiques à l’Université de Grenoble), « Pourquoi je n’utilise pas ChatGPT » :
  https://academia.hypotheses.org/58766
  [La collègue rassemble ici un ensemble d’arguments contre l’utilisation de ChatGPT, en sourçant chacune de ses affirmations]

• Le site tenu par Hubert Guillaud [journaliste] qui rassemble des analyses toutes critiques, mais assez diversifiées dans leurs approches :
  https://danslesalgorithmes.net/

• Et en mise en abyme, une biblio complète sur cette page :
  https://khrys.eu.org/