[RÉACTION] « L’IA porte en elle de multiples risques d’esclavage »
Dans sa première encyclique, Léon XIV porte un regard chrétien sur l’IA. L’abbé Raffray en évoque des points saillants.
Dans Magnifica humanitas, le pape Léon XIV s’attaque à l’IA, avant-garde d’une révolution numérique qui influe déjà fortement sur nos vies. Pour BV, l’abbé Matthieu Raffray, prêtre de l'Institut du Bon Pasteur, s’est prêté à un exercice de décryptage de plusieurs passages clefs du contenu de cette encyclique, aussi riche que divers.
Étienne Lombard. Pour introduire son propos sur l’intelligence artificielle (IA), Léon XIV fait référence à Rerum novarum. Quels messages envoie-il ainsi ?
Abbé Matthieu Raffray. Nous fêtons cette année le 135e anniversaire de cette encyclique. Pour la première fois, un pape prenait à bras-le-corps des choses nouvelles, comme l'indique le titre de Rerum novarum. Il ouvrait une réflexion sur des éléments du monde moderne qui seraient peut-être les symptômes d'un changement de civilisation ou d'une évolution des conditions dans lesquelles l'humanité est appelée à vivre sa foi.
Et n’oublions pas que si notre pape actuel a pris pour nom Léon XIV, c'était en référence à Léon XIII, parce qu'il se situait d'une certaine façon dans sa continuité. Rerum novarum réfléchissait aux incidences de la révolution industrielle du XIXe siècle, qui a bouleversé non seulement le mode de production, mais aussi le mode de vie des hommes. Et dans ces changements, il y a une dimension anthropologique, une dimension spirituelle. Cela a changé la vie des familles, des couples, des enfants, des adolescents, l'éducation, l'armée... Toutes les dimensions de l'humanité ont été concernées. Ma grand-mère, qui était née en 1905, a vu des changements qu'elle était incapable d'imaginer au départ. Et la référence à Rerum novarum se justifie donc pleinement sous cet angle, car la révolution que porte en elle l'intelligence artificielle ressemble à la révolution industrielle du XIXe : nous vivrons sans doute, dans 100 ans, d'une façon qu'aujourd'hui nous ne sommes pas capables d'imaginer.
É. L. La révolution industrielle était mue par le mythe du progrès, générateur de l’idéologie progressiste. L’IA porterait-elle désormais l’idéologie transhumaniste, et faut-il y voir de nouveaux risques d’esclavage ?
M. R. Oui, bien sûr, et dans son encyclique, Léon XIV y fait clairement allusion, et avec cette image de la tour de Babel, de l'homme qui se prend pour Dieu, qui prétend changer l'humain et qui implique justement cette dimension anthropologique fondamentale.
Et le cœur du document, à mon sens, c'est quand il explique que le véritable transhumanisme, c'est l'élévation à la grâce et vers Dieu auquel tout homme est appelé. Et, donc, que l'on veuille dépasser les conditions humaines, c'est légitime si c'est dans le sens de la volonté de Dieu : cela crée un surplus d'humanité qui ne peut être donné que par Dieu et non pas par les techniques, et encore moins par les hommes qui les manipulent.
L’IA porte en elle de multiples risques d’esclavage. Dans son texte, le pape évoque les formes subtiles de dépendance liées à l'économie numérique, que l’IA permet d’augmenter, mais que nous percevons déjà aujourd’hui dans notre vie courante. La plus évidente, c'est la pornographie, un esclavage qui rabaisse l'homme et qui est une espèce de moteur économique qui utilise l'homme et ses désirs les plus inavouables comme un matériau de capitalisation.
Avec le saut technologique, ce nouvel esclavage, c'est aussi l'uniformisation des consommations, des modes, des produits, où on est finalement manipulé par les algorithmes. Les jeunes qui écoutent tous les mêmes musiques, qui regardent tous les mêmes séries, on achète tous sur Amazon, on conduit tous avec Waze, on regarde tous les vidéos YouTube et les publicités qui vont avec, etc. Bien sûr, il y a une forme de manipulation culturelle et consumériste, donc d'esclavage. On se croit libre, bien sûr, parce qu'on peut tout consommer, qu'on a tout à notre portée, mais en fait, derrière, il y a les calculs qui nous guident et nous manipulent.
É. L. Dans la grande richesse et la grande diversité de cette encyclique, quel point vous a plus particulièrement marqué ?
M. R. Peut-être cette question de l'intériorité dont une machine est incapable. Comme l’écrit le Saint-Père, un ordinateur est capable de produire de la pensée, de calculer et même de prendre des décisions, mais jamais la liberté et cet espace d'intériorité qui constitue l'humain. Et je pense que c'est ça, finalement, la clef d'une critique juste, humaine et chrétienne de l'intelligence artificielle. Car ce qui fait la valeur d'un homme n'est pas sa capacité de produire, d'agir dans le monde, mais c'est sa valeur intrinsèque. Même s'il est handicapé, impotent, incapable d'agir, c'est ce supplément d'âme, le fait d'avoir un esprit, qui lui confère cette intériorité et qui est la source de sa liberté et de sa responsabilité. Il y a donc chez l’homme cette triple dimension : capacité de connaître, d'aimer et de choisir librement en étant responsable de ses actes, qui sont une conséquence directe de cet espace d'intériorité qu'une machine n'aura jamais.
É. L. Entre Léon XIII et Léon XIV, des penseurs ont fait la critique de la machine devenue folle. Georges Bernanos, d’autres ?
M. R. Bernanos, bien sûr. J'ai relu, il y a quelques années, La France contre les robots (Éditions Poche – Grand livre), et c'est d'une actualité effrayante. Je pense aussi à Günther Anders, avec L’Obsolescence de l'homme (Éditions Ivrea). Il y parle notamment de l'apparition des télévisions, qui manipulent, qui contrôlent, qui dépassent les frontières, les limites et l'intimité du foyer. Et l’on pourrait en ajouter d’autres, dont Jacques Ellul, pour ses réflexions sur la technique.
E. L. Si, lors d’une prochaine messe dominicale, vous décidiez de faire une homélie sur l'IA, que diriez-vous ?
M. R. Entre autres choses, je dirais que les menaces réelles de l'IA actuelle doivent être l'occasion pour nous, chrétiens, de retrouver notre destinée divine, chose qui ne concerne pas les machines et qu'aucune machine ne pourra nous donner : cette ressemblance divine que nous avons en nous.
Le drame que révèle l’IA, c’est que l'homme, depuis trop longtemps, depuis des dizaines d'années, depuis la révolution industrielle peut-être, a perdu ce qui le constitue comme homme, à savoir l'image de Dieu dans son âme.
Etienne Lombard
Journaliste
Pour ne rien rater
Les plus lus du jour
Mathilde Panot dit que les Français n’ont jamais existé
51 commentaires
Quelques-uns des dangers relatifs à l’utilisation mal contrôlée :
Intéressant article de l’abbé Wagner : L’IA, le bonheur à portée de souris ?
Quand on voit les dégâts causés par les écrans et les réseaux sociaux, il serait judicieux d’aborder l’IA avec un peu de prudence …
J’ai lu plusieurs commentaires et de nombreux arguments sont intéressants.
Ce qui me paraît surprenant, c’est qu’on a tendance à opposer le religieux à l’IA, comme si la spiritualité était une mauvaise chose et le progrès forcément une bonne chose. J’ai l’impression que ce peu de gens comprennent ou peinent à comprendre, c’est que l’IA n’a rien à voir avec la machine à vapeur ou le lave-linge (qui a soulagé les femmes de la pénibilité des tâches domestiques)
Le progrès a fait réaliser à l’humanité un pas de géant avec la maîtrise de l’énergie et l’utilisation de machines qui ont remplacé la force musculaire (des hommes et de animaux). Ce progrès, fort peu de gens le remettent en cause. Plus récemment, les progrès de la biologie moléculaire (partie de la biologie qui s’occupe du fonctionnement du génome des cellules et des techniques liées à la modification et à l’utilisation de ce génome à des fins industrielles ou médicales) ont fourni à l’humanité un outil d’une puissance sans précédent. Je dirais que d’une certaine façon, l’homme a découvert la boite outils divine … (c’est une image, inutile d’y voir autre chose !) La maîtrise des techniques de génie génétique offrent des perspectives presque illimitées, en théorie, et je dis bien en théorie, l’homme est devenu capable de créer la vie. L’homme pense être devenu l’égal d’un dieu, alors qu’il n’a fait que se hisser sur les épaules d’un géant … ce qui n’est pas la même chose. Ceci pose de nombreux problèmes éthiques, comme l’utilisation de cellules souches, l’eugénisme, l’utilisation d’embryons comme source de « pièces détachées » …
Ce type de progrès n’a rien à voir avec l’invention de l’aviation ou l’invention de la poudre, les conséquences sont très différentes et incalculables.
Pour l’IA, je pense qu’il s’agit de la même problématique, qu’une machine remplace la force musculaire est une chose, qu’une machine puisse reproduire l’intelligence humaine, devienne créatrice, supplante l’esprit humain dans des domaines qu’on croyait jusqu’alors inaccessibles aux machines en est une autre. Si demain les machines peuvent remplacer l’homme ou le concurrencer dans de tels domaines, on peut légitimement se demander quelle sera la place de l’homme dans un tel monde … si l’homme y a encore sa place.
De grâce arrêtons de parler de ce que peut de gens connaissent , ces gens là qui justement n’en parlent pas . Eux savent que l’intelligence artificielle n’est que numérique , qu’elle constitue une mémoire colossale, une vitesse de calcul considérable qui permettent d’assembler en temps recours des données que l’homme mettrait du temps à associer. Mais ils savent également que deux chiffres , zéro et un, s’ils peuvent se conjuguer à l’infini ne sont pas capables d’exprimer un sentiment , d’avoir une émotion et qu’ils ne peuvent que retranscrire ce qu’on leur a donné.
L’Imitation artificielle va assurément occuper des places mais tout aussi assurément créer de nouveaux besoins donc de nouveaux métiers .
Alors il faut rester confiants dans l’homme et ce qui fait sa force , sa créativité , son coeur , sa foi et cette intelligence qui lui a permis de construire le Monde .
Parfaitement de votre avis. De tous temps, les obscurantismes de tous poils ont toujours cherché à opposer la science et la technologie à une « Humanité » fantasmée.
L’intelligence artificielle n’existe pas. Tout simplement parce que l’intelligence, la vraie, c’est tout autre chose. C’est ce que vous avez parfaitement résumé en parlant de créativité, de coeur, d’émotions et de sentiments. En réalité l’intelligence artificielle, si on accepte de reprendre cette expression par commodité de langage, n’est pas autre chose que l’accélération des capacités de nos ordinateurs et des algorithmes à un niveau jamais atteint jusque là. Et cela est une excellente chose car cela permettra d’améliorer les performances de nos outils scientiques, et ce, dans absolument tous les domaines.
Risque d’esclavage, le mot est lâché; Il est bien réel. Nous l’évoquions depuis quelques années.
Ce que ne conçoivent pas les humains contemporains, hormis des décérébrés comme moi, c’est la puissance à venir des outils qui seront mis à disposition de l’humanoïde. Ils se profilent mais sont loin d’être vulgarisés. Ils seront extraordinairement puissants. Et c’est cette puissance qui est à craindre. Elle permettra à l’humanoîde de s’autogérer de A à Z, de corriger ses imperfections, de s’enrichir d’un stock de connaissances que l’humain ne peut imaginer. Il sera en capacité de décider que l’humain si fragile doit obéir à sa force, non seulement intellectuelle mais également physique.
Certes, cet humain gardera son âme, son esprit , tout comme les esclaves du temps passé les gardaient. Etaient-ils heureux pour autant ? La nécessité de notre présence sur terre se posera à ces humanoîdes. Nos vies, notre existence seront en danger, d’autant que nous serons des poids morts à nourrir, une nourriture totalement différente de la leur.
D’où la nécessité de limiter l’innovation, de définir une éthique, de ne pas dépasser cette innovation ultime qui permettrait à l’humanoîde de prendre le contrôle totale de nos personnalités. Ce n’est pas de la science fiction.
La science fiction … quand on regarde la science fiction des années 60, 70 ou 80 et parfois au-delà, on réalise que la science fiction de l’époque était bien en-deça de la réalité de notre quotidien. On dit souvent que l’argent ne fait pas le bonheur, je pense que si l’homme place toutes ses espérances dans la technologie, il va à l’encontre d’une immense déception.