[RAISON GARDER] L’homme machine
Je n’ai pas peur de l’arrivée future de l’IA, car je suis déjà terrifié de la domination actuelle des machines.
L’intelligence artificielle (IA) est le dernier emballement du moment, l’engouement récent de toute la société médiatico-politico-entrepreneuriale. On promet d’y mettre des centaines de milliards de dollars, de façon à entrer dans une nouvelle ère de bonheur, de prospérité et d’amour. D’un autre côté, les prophètes de malheur nous annoncent une catastrophe pour l’humanité, qui sera bientôt remplacée par des machines, à tout le moins entièrement contrôlée par elles.
Nous sommes déjà largement dirigés par les machines
Je n’ai pas d’avis particulier sur cet avenir radieux qui se profile, aux dires des thuriféraires de l’IA, même si j’ai quelques doutes à part moi, car jusqu’ici, aucune des inventions humaines n’a jamais produit un tel résultat. En revanche, je suis quelque peu étonné lorsque les contempteurs de l’IA nous affirment que c’est seulement dans le futur (quand cette fameuse IA aura été mise en place) que l’homme sera contrôlé par la machine. Ma modeste expérience personnelle suffit à me prouver qu’il y a déjà longtemps que la machine dirige et domine l’homme.
Qu’est-ce que l’IA, en somme ? C’est un programme, un algorithme élaboré par un être humain et mis en œuvre par une machine sans que vous ne puissiez discuter avec son concepteur. La « plus-value » de l’IA par rapport à d’autres structures analogues (un concepteur humain, une machine qui applique), c’est simplement que l’IA possède des milliers de concepteurs aidés par des millions d’ordinateurs : il s’agit juste d’une histoire de dimension, pas de concept. J’affirme donc, pour ma part, que, sans attendre l’IA, nous sommes déjà largement dirigés par les machines.
Ainsi, avez-vous remarqué que, souvent, quand vous surfez sur Internet, la machine vous demande de prouver que vous êtes un être humain ? Lorsque je me connecte à mon supermarché en ligne, par exemple, après mon identifiant et mon mot de passe, je dois cocher un endroit pour valider la déclaration préinscrite : « Je suis un être humain. » Mais, le plus ordinairement, il nous faut cocher « les images où il y a un véhicule… ou un passage piéton… ou un arbre… », sur les fameux et agaçants « captchas ».
La machine m’imposait ce blocage...
Autre exemple. J’ai acheté, il y a longtemps, un logiciel de mise en page. Je l’ai acquis parfaitement dans les règles, sans aucune fraude ni piratage. Je l’ai utilisé longtemps avec satisfaction. Mais un jour, un jour comme les autres apparemment, il n’a plus voulu fonctionner. J’ai redémarré plusieurs fois l’ordinateur, j’ai réinstallé plusieurs fois le logiciel : rien n’y fit. J’étais désespéré, prêt à laisser tomber, quand j’ai eu une intuition venue de je ne sais où : « Et si c’était une question de date ? » J’ai regardé sur le DVD la date du logiciel et, effectivement, il avait été mis en vente juste dix ans auparavant. J’ai donc modifié la date dans l’ordinateur (j’ai fait croire à ce dernier qu’on était, disons, cinq ans avant) et le logiciel a démarré sans problème. Autrement dit, un programmateur quelconque dans une lointaine Silicon Valley avait inséré de son propre chef, sans aucune utilité ni justification, une date de péremption de ce logiciel ; et la machine m’imposait ce blocage sans que je puisse rien en dire à personne : victoire de la machine sur l’homme.
Mais ne croyez pas que modifier la date sur votre ordinateur soit sans conséquence. Si vous lui faites croire, par exemple, qu’on est en 2015 plutôt qu’en 2025, sachez qu’en pratique, vous n’aurez plus un accès normal à l’Internet. En essayant de consulter un site, la machine vous fera savoir que son « certificat » (qui lui permet d’être répertorié sur le Web) est périmé et qu’en conséquence, vous ne pouvez plus y avoir accès : là aussi, victoire de la machine sur l’homme.
Encore autre chose. L’autre jour, j’ai été alerté par le voisin d’un ami dont je « surveille » l’appartement. Cet ami est parti pour un long voyage et il m’a mandaté pour veiller à ce qu’il n’y ait pas de problème chez lui. Ce voisin me signalait qu’un détecteur de fumée sonnait chez mon ami, qu’il entendait cette sonnerie stridente et que cela lui était pénible. Avant de me déplacer (c’est assez loin), j’ai vérifié combien de temps cette sonnerie continuerait : après tout, si c’était moins d’une journée, le voisin n’aurait qu’à prendre son mal en patience. Vérification faite, la réalité de cette machine simplissime qu’est un détecteur de fumée est proprement terrifiante. Lorsque les piles sont faibles, le détecteur se met à biper toutes les 45 secondes, et cela, durant trente jours. Si, donc, je n’avais pas été là pour couper, si le propriétaire était parti en voyage sans autre forme de procès, le voisin serait devenu littéralement fou, exposé à entendre successivement 57.600 sonneries particulièrement irritantes. Un esprit pervers, quelque part, a donc un jour élaboré une réglementation qui n’a aucun sens, puisque si cela sonne dans le vide, c’est évidemment qu’il n’y a personne pour couper. La machine, pour sa part, l’applique sans se préoccuper de savoir si elle broie ainsi l’humanité.
Et, donc, je n’ai pas peur de l’arrivée future de l’IA, car je suis déjà terrifié de la domination actuelle des machines.
Alexandre Dumaine
Journaliste, écrivain
Pour ne rien rater
Les plus lus du jour
Johann Chapoutot favorise l’idéologie aux dépens de la rigueur historique
26 commentaires
A commencer par les n° de réclamation de certaines fonctions publiques « assurés » par des robots qui finissent par vous clouer le bec sans réponse…
CQFD ! Et combien d’aberrations du même acabit concernant les subtilités humaines des petits hommes gris de notre administration.
Très pertinent article.
En effet, avant toute « Faute » attribuée à l’ordinateur- ou au concept d’I.A, il y a toujours une première faute, qui consiste à accuser l’ordinateur ou les dérives dictatoriales de l’IA.
Tout ce que l’on nomme si stupidement « Intelligence » artificielle a été conçu par des hommes, organisé et imposé par des hommes, et ce sont les commanditaires -toujours des hommes- mais de l’élite financière- qui bénéficieront des « retours » de leurs « algorithmes ».
Les routines de programme sont imaginées, choisies, puis écrites en langage intelligible pour les ordinateurs…par et pour des humains.
I.A, algorithmes, data centers, ordinateurs quantique ou neuronaux… la masse ne doit pas comprenne de quoi il s’agit.
Cet intelligence mal nommé car impossible d »imaginer ce qui n’existe pas, vaste donnée de renseignements nous avons un excellente exemple quant nous appelons un serveur impersonnel qui si vous ne savez pas répondre précisément aux bonnes questions vous n’obtenez pas ce dont vous avez besoins.
Tout ce qui est imaginable peut exister et selon Spinoza, la nature connaît tout, les inventeurs, les compositeurs, les auteurs, les peintres tous ne font que dévoiler une infime partie de ce que la nature connaît.
L’IA peut en dénicher des millions de fois plus sur des milliards de milliards de combinaisons.
Il en est de l’IA comme de tout progrès : avancée technique formidable et usage très souvent limité et dévié.
Le meilleur exemple pour moi est le GPS : techniquement excellent, usage bénéfique et pratique, mais qui en cas de défaillance, nous a rendu addict, incapable de réflexion, lire une carte que du reste nous n’avons plus, alors il reste l’orientation au soleil, à la mousse, au fondamental en sorte ! Vive l’humain
Nos jeunes étudiants qui se croient très fort en confiant à l’IA le soin de rédiger leurs devoirs ne voient pas qu’ainsi il se rendent incapables d’analyser, de comprendre et de résoudre des problèmes simples. Prenons un GPS dans une voiture. Avant, chacun avait une carte de France dans sa boîte à gants et savait tracer sa route. Maintenant on se laisse guider, sans reflechir, par la machine. Qu’elle tombe en panne en pleine forêt et on est perdu. D’abord parce que beaucoup aujourd’hui ne savent plus lire une carte, ensuite parce que on ne sait pas où la voix mélodieuse nous a conduit. Comment se situer sur une carte si on ne sait pas où on est ? Combien ai-je vu de jeunes ayant réussi un bac S, etre incapables de faire une simple division sans calculette… et ils pensent : « l’avenir est à nous… », alors qu’en réalité, c’est la machine qui décidera de leur avenir.
Cette chronique montre une réalité évidente que personne à ma connaissance ne dénonce. Alors que j’ai cimmencé à travaillé en 1960 dans une entreprise des USA qui fabriquait, vendait et maintenait (service après vente) des matériels électromécaniques qui sont devenus très vite des matériels électroniques lorsque les lampes ont été remplacée par des composants électroniques, je suis donc sensé connaître l’informatique ! Qui constate chaque jour lorsqu’il démarre son ordinateur que cela ne se passe jamais de la même manière, avez-vous remarqué, par exemple qu’un logiciel « antivirus » veut absolument que vous l’achetiez et que vous ne pouvez pas vous débarrasser de son apparition aléatoire sur votre écran ? La macine, oui, elle a pris depuis longtemps le contrôle de notre vie !
Et que dire de la machine qui vous vend des billets de train. Nous avons fabriqué des TGV pour gagner une heure sur un trajet mais il faut perdre une heure pour arriver à obtenir son ticket sur internet
Excellent, je rajouterai au conditionnement humain les smartphone avec la géolocalisation qui peut avoir son utilité en cas de secours mais qui vous traque en permanence lorsque vous faites des achats en ligne ou dans les magasins, les pubs qui s’affichent des que vous recherchez sur des sites et tant d’autres miracles qui bien évidemment vous veulent du bien.
Effectivement, l’IA , dans son application sur la machine , s’est impliquée dans nos vies depuis une cinquantaine d’années, déjà. Pour quelles raisons assistons -nous dans les médias à une émergence exceptionnelle de cette technologie ? Mystère.
Certains s’interrogent sur les conditions de la guerre du futur . La réponse me semble évidente, elle sera électronique, totalement électronique, soutenue par l’IA. Elle l’est déjà en partie. D’où l’intérêt de maîtriser l’énergie. Mais l’humain ou le robot, sera toujours nécessaire pour confirmer l’occupation du terrain. En accompagnement naturel, des armes de base pour soutenir cette occupation, drones, canons, etc.
Quant à l’IA. Elle est appelée à se développer comme jamais. Les outils nécessaires, toujours pas vulgarisés, la révolutionneront . L’Homme au service du robot est à venir. La raison pour laquelle une éthique du développement de l’IA serait nécessaire. Par ailleurs, ce qui peut la freiner, c’est la miniaturisation des mécanismes lesquels doivent associer petitesse et robustesse donc atteindre la fiabilité indispensable, celle du corps humain « corvéable » à merci.
Il y a souvent confusion sur ce thème. On focalise trop sur le petit doigt qui désigne la lune. Ce n’est pas que la machine (l’outil, l’objet) qui est dangereuse en soi mais bien davantage, l’artisan (le sujet) qui la conçoit, comment il s’en sert et surtout dans quel but !
Ce n’est pas faute d’avertissement présent dans la littérature universelle. Tout le monde pourtant en connait l’effet dévastateur décrit dans l’histoire prophétique du « Golem »…
Bien d’accord
James Cameron a été un grand visionnaire avec notamment ses films Terminator. Petit à petit on va y arriver et l’intelligence artificielle face à la folie humaine prendra le contrôle c’est inévitable. L’humain ne se contrôle pas et quelque soit sa position sociale il cherche toujours querelle par avidité de pouvoir, de finances, de jalousie. Il faudra donc une machine générale pour tout régler telle de l’aspirine pour la fièvre.
» l’intelligence artificielle face à la folie humaine prendra le contrôle c’est inévitable. » = non ce sera le groupe de concepteurs qui prendra le pouvoir, en apprenant à la amchine ce qu’il faut faire. Ce n’est qu’une machine qui ne régurgite que ce qu’on lui a mis dans sa mémoire et dans son logiciel.
Ceci dit, oui, c’est grave, car il suffit que le groupe de concepteurs soit sadique, pervers, mégalomane et on est alors perdu car ce groupe en profitera pour nous mettre sous sa coupe..
Ça a commencé bien avant l’IA avec tous ces livres de Laurence Pernoud notamment : « j’attends un enfant », « j’élève mon enfant ». Le grand drame de notre époque, c’est la médicalisation à outrance. On médicalise tout. On a remplacé les sage-femmes par les médecins. Les femmes qui accouchaient en position assise ou accroupie, comme dans les tributs primitives, accouchent maintenant allongées sur le dos. Le simple bon sens fait dresser les cheveux sur la tête ! On a remplacé un bon système immunitaire par les vaccins… et j’en passe et des meilleures ! L’IA couronne le tout. On n’arrête pas de parler de responsabiliser mais on fait tout l’inverse. Plus on nous demande, voire impose, de suivre des règles, plus on nous déresponsabilise. En cas de problème, ce n’est pas notre faute. Pathétique !
Pauvre « bon système immunitaire » déréglé par le bien entendu mauvais méchant vaccin.
Le bon système immunitaire était bien connu pour bien protéger de tout, et l’espérance de vie a été bouleversée par cette foutue invention du vaccin. Pasteur a conduit le bon troupeau à l’abattoir et est une honte pour la France et un diable menaçant la bonne dame Nature.
J’ai récemment lu un article rédigé par une nutritionniste. La dame consulte l’IA pour vērifier si son petit-déjeuner, etc., est équilibré.
Comment diable avons-nous, de génération en génération, survécu sans IA ?
Certains se sont demandés comment on avait pu vivre sans maîtriser le feu. Puis d’autres sans électricité….
Le feu et l’électricité sont mortels, l’IA aussi bien entendu, et il faut apprendre à vivre, probablement mieux et plus longtemps, avec .
Naturellement l’ IA ne délivrera l’homme, qui a droit à un beau cerveau, de son devoir d’apprendre.
Si l’IA est un progrès, et il n’y a guère de doute, la nature sélectionnera les individus au cerveau maîtrisant le mieux sont utilisation et naturellement le Progrès continuera.