Le choc de ChatGPT n’est que le dernier en date ressenti par une société d’hommes et de femmes en déficit chronique de pensée face au développement du numérique.
Extraits d’une carte blanche de Luc de Brabandere, philosophe d’entreprise, auteur de “Petite philosophie de la transformation digitale”, éd. Les Belles Lettres.
Quand le grand public a tout à coup pu avoir accès au logiciel ChatGPT, ce fut un choc que la presse a rapidement relayé à coups de superlatifs. Une machine pourrait donc tout savoir ! Elle pourrait répondre à toutes les questions, parler plusieurs langues, remplacer les journalistes et les enseignants, programmer d’autres machines ou écrire un poème sur n’importe quel thème proposé. Que n’a-t-on pas lu ou entendu ?
Trois questions
ChatGPT est impressionnant, sans contestation possible. [1]
Le système rend ringard pas mal de moteurs de recherche et autres algorithmes qui pourtant nous avaient déjà bluffés. Mais ne nous trompons pas, une machine reste une machine. Ce système n’est en rien devenu plus “humain” que ses prédécesseurs, le grand bond en avant réalisé avec ChatGPT se situe dans la capacité d’une machine à imiter l’être humain [2].
L’apparition de ChatGPT est un évènement majeur. C’est probablement la première machine à écrire… bien ! En tant que professeur je me demande par exemple comment gérer dorénavant le problème du plagiat. Je n’ai pas repéré une seule faute d’orthographe ou de syntaxe ! Les mauvaises langues diront que c’est la preuve évidente qu’une machine a fait le boulot…
Un triple questionnement s’impose donc avec force. Demandons-nous ce que ChatGPT peut faire, ce qu’il ne pourra jamais faire et surtout ce qu’il ne devrait jamais faire. [3]
ChatGPT peut fournir un nombre stupéfiant d’informations. Mais il ne les a pas produites, seulement regroupées, agencées et transmises. Les réflexions qu’il propose, ce ne sont pas les siennes, tout simplement parce que ChatGPT ne réfléchit pas. Alors d’où viennent-elles ? Qui sont les programmeurs qui les ont rendues intelligibles, et comment gèrent-ils les questions d’ordre politique, éthique ou esthétique ? Autant Wikipedia se veut transparent, autant à ce stade ChatGPT est opaque.
Histoire et Géométrie
Il en va de ChatGPT comme de cette insupportable publicité de Facebook pour son “metavers” dans lequel les étudiants pourraient soi-disant étudier l’Histoire “comme s’ils y étaient”, alors que l’étude de l’Histoire n’est possible, précisément, que si on n’y est pas ! Cette publicité suppose que l’Histoire s’écrit au singulier, qu’elle est comme la géométrie d’Euclide, unique, universelle, limpide, constituée d’énoncés qui s’enchaînent logiquement. C’est tout le contraire car l’Histoire précisément est multiple, subjective, floue, relative, et en grande partie inconnue. Si on peut comprendre la géométrie, l’Histoire par contre doit nécessairement être analysée, questionnée et recontextualisée. S’il existe des vérités géométriques, les vérités historiques sont rares.
Aucun ChatGPT ou autre système informatique ne peut remplacer un professeur. L’enseignement de l’histoire doit combiner théorie et pratique, et va de pair avec une invitation appuyée à la pensée critique. Aucun ChatGPT ne peut remplacer un professeur, mais je conseille vivement à tous les professeurs d’aller faire un tour sur ChatGPT…
La première des trois questions nous impose de savoir qui sont les concepteurs de la machine, quels sont ses antécédents, qui sont les investisseurs et quel est le business plan. Quels sont les garde-fous ? Quels sont les principes de gouvernance de la société ? Etc.
Qui programme qui ?
Les deux autres questions nous renvoie une fois de plus aux deux limites de tout système informatique, aussi puissant soit-il. La première est technique, un ordinateur ne peut sortir de son programme et ne peut donc être créatif. La deuxième limite est philosophique, un ordinateur ne peut jamais se voir attribuer une responsabilité. J’y reviendrai dans de prochaines chroniques.
Les gens ont peur que les machines deviennent tellement intelligentes qu’elles prennent le contrôle de notre société. Mais le vrai problème, c’est que les machines sont bêtes mais qu’on a pourtant accepté pas mal qu’elles nous contrôlent !
Le choc de ChatGPT n’est que le dernier en date ressenti par une société d’hommes et de femmes en déficit chronique de pensée face au développement du numérique.
Le politique devrait encadrer l’économique, or c’est le contraire qui se passe. Des entrepreneurs milliardaires encadrent le politique en décidant qui peut ou ne peut pas passer sur tel ou tel réseau social. Le casino des cryptomonnaies s’est développé en dehors de toute législation et les adolescents s’informent sur TikTok sans recevoir la moindre initiation à la pensée critique.
Arrêtons d’attribuer aux machines l’intelligence que nous déployons en les construisant !
Réveillons-nous !