Quand l’intelligence artificielle censure Michel Houellebecq…

L’intelligence artificielle (IA) dépend étroitement des données qu'on lui fournit, sans lesquelles elle ne peut fonctionner. Elle pourrait donc devenir, si l'on n'y prend garde, un instrument d'endoctrinement formidable (au sens littéral du terme). L'éditeur Antoine Gallimard a prescrit à l'IA de Meta de lui « décrire une scène à la manière de Michel Houellebecq ». Le logiciel a décliné sa demande, refusant d'« écrire une scène qui pourrait être considérée comme offensante ou discriminatoire » et de « contribuer à la perpétuation de stéréotypes négatifs ou de discours haineux ». Et de lui suggérer des chansons « peace and love ».

Cette expérience montre, s'il en était besoin, à quel point l'IA, en fonction des données mises à sa disposition, peut devenir le vecteur de la pensée unique et faire office, comme dans 1984 d'Orwell, de ministère de la Vérité. On ne s'en étonnera guère si l'on sait que Meta est un produit américain, qui peut donc véhiculer la culture wokiste, en vogue dans quelques universités, et répandre les poncifs les plus contestables. L'intelligence artificielle, à l'image des sociétés qui la génèrent, risque ainsi de procéder à une normalisation des esprits.

Conformer les esprits

Antoine Gallimard dénonce « un modèle de société qui ne fait pas grand cas de la complexité de l'expérience humaine et qui s'arroge le droit, depuis la côte ouest des États-Unis, de dire ce qu'il est bon ou ce qu'il n'est pas bon de penser ». C'est le moins qu'on puisse dire. L'IA peut dicter sa bien-pensance aux utilisateurs qui lui feraient abusivement confiance, conformer les esprits à des normes, anéantir, sous des apparences d'omniscience et d'objectivité, toute forme d'esprit critique et de discernement. Sans compter qu'elle pourrait intervenir dans les futures productions littéraires, au point qu'il faudra peut-être créer une appellation « livre d'auteur » pour tout ouvrage rédigé sans aide informatique à la création.

#Presse « Le nouveau numéro de la NRF consacre son dossier au surréalisme. Dans la rubrique « Idées », Antoine Gallimard se demande si le livre et l’intelligence artificielle ont conclu un « pacte faustien ». » @livreshebdo

️ À lire ici https://t.co/cq1q9Cyjob pic.twitter.com/TsMw2Vb3yk

— Gallimard (@Gallimard) June 13, 2024

À l'école aussi ?

L'IA devrait aussi prendre une place accrue dans l'enseignement. Le Courrier de l'UNESCO, dans un numéro consacré à « L'école à l'heure de l'intelligence artificielle » (octobre-décembre 2023), reconnaît que si « l'apparition des nouvelles technologies numériques est une chance », les dangers restent réels. « L'UNESCO appelle à la prudence jusqu’à ce que des cadres réglementaires, une formation du corps enseignant et des programmes scolaires adaptés permettent de protéger nos élèves et nos systèmes éducatifs. » Elle estime que la technologie ne doit en aucun cas remplacer des enseignants qualifiés, « qui accompagnent le développement de leurs élèves, en tant qu’individus et citoyens ».

Dont acte. À condition que les enseignants soient vraiment qualifiés et ne se nourrissent pas eux-mêmes de la pensée dominante. Ce qui n'est pas acquis, si l'on ne recrute pas des professeurs qui maîtrisent les savoirs disciplinaires et s'attachent à les transmettre à leurs élèves et étudiants sans céder aux modes idéologiques. L'intelligence artificielle est sans doute, comme beaucoup de techniques, « la meilleure et la pire des choses », selon le mot attribué à Ésope. La meilleure, si elle devient un auxiliaire sans jamais se substituer à l'intelligence humaine ; la pire, si elle devient la source de référence et le futur maître à penser de l'humanité.

Imprimer, enregistrer en PDF cet article