[RÉACTION] « L’IA porte en elle de multiples risques d’esclavage »
Dans sa première encyclique, Léon XIV porte un regard chrétien sur l’IA. L’abbé Raffray en évoque des points saillants.
Dans Magnifica humanitas, le pape Léon XIV s’attaque à l’IA, avant-garde d’une révolution numérique qui influe déjà fortement sur nos vies. Pour BV, l’abbé Matthieu Raffray, prêtre de l'Institut du Bon Pasteur, s’est prêté à un exercice de décryptage de plusieurs passages clefs du contenu de cette encyclique, aussi riche que divers.
Étienne Lombard. Pour introduire son propos sur l’intelligence artificielle (IA), Léon XIV fait référence à Rerum novarum. Quels messages envoie-il ainsi ?
Abbé Matthieu Raffray. Nous fêtons cette année le 135e anniversaire de cette encyclique. Pour la première fois, un pape prenait à bras-le-corps des choses nouvelles, comme l'indique le titre de Rerum novarum. Il ouvrait une réflexion sur des éléments du monde moderne qui seraient peut-être les symptômes d'un changement de civilisation ou d'une évolution des conditions dans lesquelles l'humanité est appelée à vivre sa foi.
Et n’oublions pas que si notre pape actuel a pris pour nom Léon XIV, c'était en référence à Léon XIII, parce qu'il se situait d'une certaine façon dans sa continuité. Rerum novarum réfléchissait aux incidences de la révolution industrielle du XIXe siècle, qui a bouleversé non seulement le mode de production, mais aussi le mode de vie des hommes. Et dans ces changements, il y a une dimension anthropologique, une dimension spirituelle. Cela a changé la vie des familles, des couples, des enfants, des adolescents, l'éducation, l'armée... Toutes les dimensions de l'humanité ont été concernées. Ma grand-mère, qui était née en 1905, a vu des changements qu'elle était incapable d'imaginer au départ. Et la référence à Rerum novarum se justifie donc pleinement sous cet angle, car la révolution que porte en elle l'intelligence artificielle ressemble à la révolution industrielle du XIXe : nous vivrons sans doute, dans 100 ans, d'une façon qu'aujourd'hui nous ne sommes pas capables d'imaginer.
É. L. La révolution industrielle était mue par le mythe du progrès, générateur de l’idéologie progressiste. L’IA porterait-elle désormais l’idéologie transhumaniste, et faut-il y voir de nouveaux risques d’esclavage ?
M. R. Oui, bien sûr, et dans son encyclique, Léon XIV y fait clairement allusion, et avec cette image de la tour de Babel, de l'homme qui se prend pour Dieu, qui prétend changer l'humain et qui implique justement cette dimension anthropologique fondamentale.
Et le cœur du document, à mon sens, c'est quand il explique que le véritable transhumanisme, c'est l'élévation à la grâce et vers Dieu auquel tout homme est appelé. Et, donc, que l'on veuille dépasser les conditions humaines, c'est légitime si c'est dans le sens de la volonté de Dieu : cela crée un surplus d'humanité qui ne peut être donné que par Dieu et non pas par les techniques, et encore moins par les hommes qui les manipulent.
L’IA porte en elle de multiples risques d’esclavage. Dans son texte, le pape évoque les formes subtiles de dépendance liées à l'économie numérique, que l’IA permet d’augmenter, mais que nous percevons déjà aujourd’hui dans notre vie courante. La plus évidente, c'est la pornographie, un esclavage qui rabaisse l'homme et qui est une espèce de moteur économique qui utilise l'homme et ses désirs les plus inavouables comme un matériau de capitalisation.
Avec le saut technologique, ce nouvel esclavage, c'est aussi l'uniformisation des consommations, des modes, des produits, où on est finalement manipulé par les algorithmes. Les jeunes qui écoutent tous les mêmes musiques, qui regardent tous les mêmes séries, on achète tous sur Amazon, on conduit tous avec Waze, on regarde tous les vidéos YouTube et les publicités qui vont avec, etc. Bien sûr, il y a une forme de manipulation culturelle et consumériste, donc d'esclavage. On se croit libre, bien sûr, parce qu'on peut tout consommer, qu'on a tout à notre portée, mais en fait, derrière, il y a les calculs qui nous guident et nous manipulent.
É. L. Dans la grande richesse et la grande diversité de cette encyclique, quel point vous a plus particulièrement marqué ?
M. R. Peut-être cette question de l'intériorité dont une machine est incapable. Comme l’écrit le Saint-Père, un ordinateur est capable de produire de la pensée, de calculer et même de prendre des décisions, mais jamais la liberté et cet espace d'intériorité qui constitue l'humain. Et je pense que c'est ça, finalement, la clef d'une critique juste, humaine et chrétienne de l'intelligence artificielle. Car ce qui fait la valeur d'un homme n'est pas sa capacité de produire, d'agir dans le monde, mais c'est sa valeur intrinsèque. Même s'il est handicapé, impotent, incapable d'agir, c'est ce supplément d'âme, le fait d'avoir un esprit, qui lui confère cette intériorité et qui est la source de sa liberté et de sa responsabilité. Il y a donc chez l’homme cette triple dimension : capacité de connaître, d'aimer et de choisir librement en étant responsable de ses actes, qui sont une conséquence directe de cet espace d'intériorité qu'une machine n'aura jamais.
É. L. Entre Léon XIII et Léon XIV, des penseurs ont fait la critique de la machine devenue folle. Georges Bernanos, d’autres ?
M. R. Bernanos, bien sûr. J'ai relu, il y a quelques années, La France contre les robots (Éditions Poche – Grand livre), et c'est d'une actualité effrayante. Je pense aussi à Günther Anders, avec L’Obsolescence de l'homme (Éditions Ivrea). Il y parle notamment de l'apparition des télévisions, qui manipulent, qui contrôlent, qui dépassent les frontières, les limites et l'intimité du foyer. Et l’on pourrait en ajouter d’autres, dont Jacques Ellul, pour ses réflexions sur la technique.
E. L. Si, lors d’une prochaine messe dominicale, vous décidiez de faire une homélie sur l'IA, que diriez-vous ?
M. R. Entre autres choses, je dirais que les menaces réelles de l'IA actuelle doivent être l'occasion pour nous, chrétiens, de retrouver notre destinée divine, chose qui ne concerne pas les machines et qu'aucune machine ne pourra nous donner : cette ressemblance divine que nous avons en nous.
Le drame que révèle l’IA, c’est que l'homme, depuis trop longtemps, depuis des dizaines d'années, depuis la révolution industrielle peut-être, a perdu ce qui le constitue comme homme, à savoir l'image de Dieu dans son âme.
Etienne Lombard
Journaliste
Pour ne rien rater
Les plus lus du jour
Que les familles des victimes parlent est très compliqué pour le gouvernement
51 commentaires
L’humanité disposait jusqu’à présent de l’intelligence rationnelle (IR), celle qui permet de comprendre partiellement grâce à notre cerveau le fonctionnement de notre Univers. Notre époque moderne est en train de découvrir la possibilité de recourir à une intelligence artificielle (IA) qui permet de gagner du temps en faisant progressivement de l’homme un… simple robot humain qui obéit en laissant au repos son intelligence rationnelle (IR) qui va sans doute progressivement disparaître car l’IA n’appartient plus à l’homme mais à ….l’ordinateur et à ceux qui le manipulent
L’homme par paresse délaisse son intelligence rationnelle en oubliant qu’il dispose aussi d’une 3è intelligence qui est l’ intelligence spirituelle; l’homme en effet n’est pas qu’un être corporel, il dispose aussi d’un esprit, d’une âme et d’une conscience, ; ces 3 éléments ne sont pas rationnels car personne ne peut les situer dans le corps humain et pourtant ils sont bien en nous, l’intelligence artificielle et l’intelligence rationnelle de l’homme en la connaissent pas et pourtant c’est bien l’intelligence spirituelle qui nous permet de comprendre le sens de la vie et de la mort, l’IA nous fera toujours passer à côté de la Vérité du Créateur
Merci d’avoir l’amabilité de bien vouloir nous expliquer ce que vous appelez l’intelligence rationnelle (IR).
c’est ecrit: celle du cerveau qui permet de comprendre en partie le fonctionnement de l’univers.
Il ya, il faut croire, une « intelligence irrationnelle », et/ou une « raison imbécile ».
l’intelligence rationnelle c’est celle que nous avons tous dans notre cerveau et qui nous permet d’analyser, de comprendre ou de ne pas comprendre ; si je demande par exemple à mon cerveau de me dire si Dieu existe, mon cerveau cherchera la preuve et ne l’aura jamais car la preuve absolue n’existe pas car Dieu a voulu que l’homme reste toujours libre d’aller vers lui ou de l’ignorer; par contre si vous interrogez ce que j’appelle l’intelligence spirituelle » avec votre esprit, votre âme et votre conscience vous découvrirez des réponses que votre cerveau ne vous donnera jamais car l’âme, l’esprit et la conscience sont totalement indépendants du cerveau et pourtant ils sont tous les 3 en vous, en chacun de nous !!! Mais vous ne saurez jamais où ils se trouvent dans votre corps et pourtant ils existent; prenons l’exemple de cette âme que chacun d’entre nous « rend » avec la mort, où était-elle , où va-t-elle! Je distingue donc l’intelligence rationnelle, l’intelligence artificielle de l’intelligence spirituelle qui, seule, vous apporte les réponses que les 2 précédentes ne peuvent pas vous donner
« La » avec un « L » majuscule et Vérité avec un « V » majuscule, voilà ce qui conduit au totalitarisme.
Les Progressistes, ont Totalement raison.
Qu’on le veuille ou non il faudra un jour détruire les data centers pour recouvrer nos libertés . DE toute façon , nos écolos libero-mobdialistes en ayant opté pour les énergies renouvelables nous ont condamné encore une fois à être en retard de deux guerres sur nos concurrents .
Savez-vous que c’est grâce à des data centers que vous pouvez écrire sur BV ?
L’IA semble avoir été développée pour compenser les carences de l’être humain, considéré comme imparfait, sujet à l’erreur, incomplet, ce que les promoteurs de l’IA semble vouloir, pouvoir disent-ils, résoudre en impulsant l’influx nécessaire pour faire que l’IA puisse s’auto-parfaire pour devenir une super intelligence, infaillible. Bien ! Reprenons au début ! L’Homme, avec un grand H est faillible. Pourtant l’IA ne trouve son origine que dans les imperfections de celui qui la créa pour que celle-ci auto-développe des qualités super-humaines qui lui permettront de surpasser son créateur, voire le dominer. Mais, comme l’Homme imparfait en est sa cellule base, le vers n’est-il pas déjà dans la pomme ? et sa création, soit disant parfaite, ne réserve t-elle pas la surprise d’ un produit aux résultats exponentiels reflétant son imperfection originelle ?…le péché originel, auquel l’IA ne peut, à mon avis, échapper !.
Un film comme 2001 l’Odyssée de l’espace aborde cette problématique. Quant à la perfection, il ne faut pas oublier que le vivant exploite l’erreur dans son mécanisme d’évolution, une cellule « parfaite » serait incapable de s’adapter, condamnée à se reproduire identique à elle-même jusqu’à la fin des temps et toute évolution lui serait interdite. Comme quoi, l’imperfection peut avoir du bon …
L’IA est un nouvel outil, probablement très puissant qui peut-être libérateur pour l’humanité s’il est bien employé ou catastrophique dans de mauvaises applications… Tout dépend qui sera aux manettes !
Vu les dérives sociétales que l’on constate il est à craindre que ce ne soient les esprits pervers qui saisissent le plus rapidement…
Toujours les mêmes débats ineptes à chaque invention nouvelle. Cela permet à des sociologues et à des journalistes de raconter des bobards lors de débats TV.
« Toujours les même débats ineptes », réellement? Les choses changent, la télé n’a pas toujours existé. L’IA non plus, et le monde ne sera plus jamais comme avant et l’homme devra faire avec ou disparaitre.
C’est vrai que l’IA pourra avantageusement remplacer le pape ou les curés…
Ca va dépendre de la volonté de Dieu, comme dira notre abbé dans cet article. Quant à connaitre sa volonté, on dit que les voix ou les voies je ne sais plus, sont impénétrables. Bon appétit !
Par contre pour la bêtise elle aura du mal l’homme à trop d’avance!
le pape a certainement utiliser l’I A pour l’aider à rédiger son encyclique. Les ecclésiastiques progressent et les religions aussi.
Il n’y a plus guère de religion en vient au sacrifice humain. Certains tout de même sont prêts à faire des sacrifices d’une grande part d’humanité au nom du Progrès et trouvent que la machine est l’avenir de l’homme.
L’Eglise se prétend experte en informatique maintenant ? C’est à mourir de rire !
C’est aujourd’hui l’informatique qui est la seule experte autorisée. Prêtons lui allégeance, prosternons nous face à la Science, la seule vraie déesse.
Pour répondre à « Ravi au lit »: les « idioties professées par les religions » dont vous parlez, concernent-elles les hôpitaux, les hospices, les orphelinats, les écoles, les universités, l’art, la culture, les penseurs, des écrivains, les mystiques, les monastères, les cathédrales, le droit issu du droit canonique, émanations directes de la foi chretienne de l' »obscurantiste » moyen âge? Êtes-vous sérieux? Sachez que, au delà de la religion, il y a la relation à un Dieu à qui, avec honnêteté, vous devriez demander s’il veut bien se révéler à vous. Ce type de rencontre sera un « progrès » pour votre vie. Mais je vous propose de le faire avec respect et sérieux. L’impact dans votre vie peut être déroutant…
Je ne demande pas à un potentiel ami imaginaire de se révéler à moi. Moi je me contente de croire au Père Noel. Cela me permet de garder une certaine fraicheur d’esprit ! :)
la vérité sort tout naturellement de la bouche des enfants.
En grandissant on invente des artifices pour la masquer.
J’ai lu l’encyclique, de bout en bout. Permettez-moi de citer d’autres passages que ceux que vous présentez : la vocation sociale de l’Église, critique de la concentration du pouvoir économique, soutien aux syndicats de travailleurs, alerte sur la croissance des inégalités qui sont présentées comme des injustices, « le droit à la propriété n’est pas absolu ni intouchable, les biens ont tous une destination universelle », nécessité de la solidarité (« un principe et une vertu »), l’aide aux migrants, l’injustice du colonialisme, « l’écologie intégrale (« dimension incontournable de la doctrine sociale de l’Église »), critique de la culture du chiffre et de la finance, critique des complexes militaro-industriels.
Apres cette lecture, je me suis penché sur les convictions de LFI et des Ecolos … et j’ai cherché les différences.
C’est bien d’évoquer ce qui concerne les menaces de l’IA dans cette encyclique, même si nombre de spécialistes le font depuis plusieurs années, mais c’est encore mieux de présenter toute l’encyclique. Et pour finir, j’ai cherché l’originalité du texte. Je cherche encore.
Vous êtes courageux! vous avez demandé de l’aide à l’IA pour faire tout ce boulot?
« le droit à la propriété n’est pas absolu ni intouchable, les biens ont tous une destination universelle »
Voilà la première raison pour laquelle je suis hostile à l’Eglise.
Les autres exemples que vous citez viennent finir d’enfoncer le clou !
Le progrès qui soulage le travail des femmes, très bien, mais qui les envoies plus souvent au boulot qu’aux études et à la culture. Et on pourrait demander à l’IA un sermon contre l’IA ?
l’IA ne remplacera jamais les plombiers couvreurs chauffagistes, les menuisiers, les bouchers charcutiers, les mécaniciens, les maçons carreleurs, électriciens , dépanneurs, etc les autres cols blancs; chez France Travail
bien vu… mais toul’monde rêve plutôt de télétravail sur une plage en Thaïlande ou dans un palace à Dubaï
l’IA prendra les bonnes places , et les hommes, sauf exception, seront réduits à faire les travaux où elle n’est pas plus performante..
Si l’IA est intelligente, elle va s’adapter à l’homme et ce dédier risque fort de passer plus de temps à son service que l’inverse.
Quand on voit le temps humain perdu sur des débilités sur smartphones ou autre écran, on se demande si c’est l’homme qui utilise l’intelligence de la machine ou l’inverse.
Réponse à Raviolit
Si vous pensez que nous progressons vers le bonheur avec la technologie, si vous pensez que les femmes sont plus heureuses avec leur machines à laver, regardez les. Elles sont seules, ne trouvent pas de partenaires, se dessèchent sur place, ne font plus d’enfants ou ne peuvent en avoir? C’est le progrès pour vous? Drôle d’optimisme.
La technologie dont la machine à laver, nous a rendu la vie beaucoup plus facile et agréable ( ou alors, vous aimez passer votre temps à lessiver à l’huile de coude!). Les femmes qui sont seules, non maternelles ect… ne sont pas dû au progrès technologique ou autre mais plutôt sociétal , religieux ou simplement libre-arbitre du choix de vie. Je préfère ma vie de femme de mon époque que celle du Moyen Age ou du siècle passé. Vive la machine à laver, les langes, serviettes et les progrès technologiques!
C’est étrange d’observer combien toutes les personnes qui sont hostiles au progrès expliquent doctement que celui-ci ne nous rend pas heureux.
Mais ce n’est pas son rôle. Son rôle c’est de nous faciliter la vie. Et peut-être qu’avec une vie plus facile que nos ancêtres serfs au Moyen-Age, nous sommes plus heureux qu’eux ! Et la boucle est ainsi bouclée ! :)
Il ne fallait pas mettre le mot REACTION entre crochets… :)
Aaaah ! L’Eglise et le Progrès (avec un « P » majuscule). 20 siècles d’obscurantisme ! Avec cet article nous avons ici un magnifique florilège de lieux communs et de sornettes non démontrées.
Et ce n’est pas en citant des auteurs que plus personne ne lit, ou même qui n’ont jamais été lus par grand-monde tels que Bernanos que l’on peut démontrer quoi que ce soit.
» Rerum novarum réfléchissait aux incidences de la révolution industrielle du XIXe siècle, qui a bouleversé non seulement le mode de production, mais aussi le mode de vie des hommes. ». Certes il y a eu les drames du travail à la mine et ceux du productivisme décrié par Chaplin dans les Temps Modernes. Mais l’industrie a permis le développement de la science et vice versa ! On n’a jamais vécu aussi longtemps et en bonne santé qu’aujourd’hui.
Ce que l’Eglise, mais également l’Islam, reprochent au Progrès sans jamais le dire explicitement, c’est que le Progrès éloigne l’être Humain des idioties professées par les religions. Prenons par exemple les lave-linges et les lave-vaisselles. Ils ont libéré, de manière concrète, les femmes de tâches quotidiennes pénibles et chronophages. Pendant que ces machines tournent, les femmes peuvent faire autre chose. Elles peuvent étudier et devenir scientifiques par exemple. Or de cela les religions ne veulent pas. Elles ont besoin de petits moutons incultes. Ce n’est d’ailleurs absolument pas un hasard, si, c’est à partir de la Révolution Industrielle et de Lumières, que les églises ont commencé à se vider.
BRAVO. Les religions constituent un obstacle pour arriver à DIEU. L’ IA connaîtra des excès mais permettra l’évolution de l’Humain qui gagnera en maturité au grand dam des religions.
Les religions sont la peste de l’humanité. Mai la foi en soi est sûrement apaisante pour certains.
Si les religions n’étaient que la peste de l’humanité, l’humanité aurait disparu. Elles sont aussi un excellent remède pour l’humanité. Il peut y avoir des effets secondaires.
Au contraire, la science et le progrès nous font comprendre l’origine de l’univers, son commencement, qui est connu maintenant avec les moyens techniques et les études des scientifiques. Il y a bien entendu les marxistes qui imaginent encore le l’univers sans début ni fin mais nous n’en sommes plus là. On sait aller aussi voir comment fonctionne l’infiniment petit, la mécanique quantique était inconnue au Moyen Age et l’expansion de l’univers était inconnue encore aux temps de Newton !Les savants ont une observation qui les triture, qui a commencé tout çà ! C’est organisé comme et on est avec des chiffres avec des dizaines de zéros après ou avant la virgule et un micro micron d’écart et je ne suis pas là pour taper sur mon clavier ! Quant aux églises qui se vident, les mosquées se remplissent, la nature a horreur de vide et les humains pareillement. Je vous invite à lire quelques ouvrages d’approche sur l’univers, sa formation, l’astronomie, la physique, la cosmologie, des trucs du genre, il y a de très bonnes vulgarisations comme on dit, abordables pour les non initiés, sans termes « barbares », comme disent les journalistes quand ils parlent sciences. Mais sur le plan des religions, je vous rejoins sur le fond, on peu faire sans et surtout certaines qui se developpent bien actuellement. Après tout, ou avant tout, aux temps de Jésus il n’y avait ni pape ni religion autre que celle de Rome officiellement, le culte de l’Empereur. Les autres étaient simplement tolérées…mais pas bazar ni de troubles quand même, ils étaient plus prudents que nous les Romains…
A l’époque de Jésus il n’ y avait pas de grand prêtre juif, pas de troubles ? La vie de l’empire romain était un long fleuve tranquille à distance des religions ???
Vous croyez vraiment que les églises se sont vidées car les hommes sont devenus plus scientifiques ? Ils ne vont plus à l’église car ils préfèrent étudier les sciences. Les hommes sont devenus plus raisonnables.
J’ai plutôt que la religion, opium du peuple, n’a pas été remplacé par la science, mais par la télévision, les retransmissiin de foot, la cocaïne et drogues de synthèse…
Quand on voit les jeunes sur les champs Elysées après les matchs de foot et on compare avec ceux qui sortaient des églises, on voit fort bien le Progrès.
Marie Curie a pu devenir scientifique grâce à la machine à laver?
L’IA est certainement une avancée technologique mais sera t elle une avancée de notre humanité.La problématique dépasse largement les frayeurs des premières locomotives à vapeur…Les capacités intellectuelles de l’être humain lorsqu’elles ne sont plus canalisées par les valeurs spirituelles qui nourrissent notre conscience morale nous conduisent inéluctablement vers une aliénation de notre humanité et de notre liberté. »Science sans conscience n’est que ruine de l’âme » Cela reste toujours d’actualité…
C’est quoi « notre humanité »?
Les hommes d’aujourd’hui sont ils plus ou moins homme que ceux qui ont vécus avant la révolution industrielle ?
Dans le sens où j’entends l' »humanité », il me semble que la réponse à votre question est non, l’IA n’augmentera « notre humanité « ?
En revanche la question qui me semble en suspend est « est ce que le monde sera plus humain avec l’IA ou moins ». La réponse n’est pas évidente. Le monde aujourd’hui est il plus humain ou moins humain qu’à la fin de XIX ème siècle, celui de la fin du XIX était il plus ou moins humain que celui du début de ce siècle ?
pareil pour la GPA!