[RAISON GARDER] L’homme machine

L’intelligence artificielle (IA) est le dernier emballement du moment, l’engouement récent de toute la société médiatico-politico-entrepreneuriale. On promet d’y mettre des centaines de milliards de dollars, de façon à entrer dans une nouvelle ère de bonheur, de prospérité et d’amour. D’un autre côté, les prophètes de malheur nous annoncent une catastrophe pour l’humanité, qui sera bientôt remplacée par des machines, à tout le moins entièrement contrôlée par elles.

Nous sommes déjà largement dirigés par les machines

Je n’ai pas d’avis particulier sur cet avenir radieux qui se profile, aux dires des thuriféraires de l’IA, même si j’ai quelques doutes à part moi, car jusqu’ici, aucune des inventions humaines n’a jamais produit un tel résultat. En revanche, je suis quelque peu étonné lorsque les contempteurs de l’IA nous affirment que c’est seulement dans le futur (quand cette fameuse IA aura été mise en place) que l’homme sera contrôlé par la machine. Ma modeste expérience personnelle suffit à me prouver qu’il y a déjà longtemps que la machine dirige et domine l’homme.
Qu’est-ce que l’IA, en somme ? C’est un programme, un algorithme élaboré par un être humain et mis en œuvre par une machine sans que vous ne puissiez discuter avec son concepteur. La « plus-value » de l’IA par rapport à d’autres structures analogues (un concepteur humain, une machine qui applique), c’est simplement que l’IA possède des milliers de concepteurs aidés par des millions d’ordinateurs : il s’agit juste d’une histoire de dimension, pas de concept. J’affirme donc, pour ma part, que, sans attendre l’IA, nous sommes déjà largement dirigés par les machines.

Ainsi, avez-vous remarqué que, souvent, quand vous surfez sur Internet, la machine vous demande de prouver que vous êtes un être humain ? Lorsque je me connecte à mon supermarché en ligne, par exemple, après mon identifiant et mon mot de passe, je dois cocher un endroit pour valider la déclaration préinscrite : « Je suis un être humain. » Mais, le plus ordinairement, il nous faut cocher « les images où il y a un véhicule… ou un passage piéton… ou un arbre… », sur les fameux et agaçants « captchas ».

La machine m’imposait ce blocage...

Autre exemple. J’ai acheté, il y a longtemps, un logiciel de mise en page. Je l’ai acquis parfaitement dans les règles, sans aucune fraude ni piratage. Je l’ai utilisé longtemps avec satisfaction. Mais un jour, un jour comme les autres apparemment, il n’a plus voulu fonctionner. J’ai redémarré plusieurs fois l’ordinateur, j’ai réinstallé plusieurs fois le logiciel : rien n’y fit. J’étais désespéré, prêt à laisser tomber, quand j’ai eu une intuition venue de je ne sais où : « Et si c’était une question de date ? » J’ai regardé sur le DVD la date du logiciel et, effectivement, il avait été mis en vente juste dix ans auparavant. J’ai donc modifié la date dans l’ordinateur (j’ai fait croire à ce dernier qu’on était, disons, cinq ans avant) et le logiciel a démarré sans problème. Autrement dit, un programmateur quelconque dans une lointaine Silicon Valley avait inséré de son propre chef, sans aucune utilité ni justification, une date de péremption de ce logiciel ; et la machine m’imposait ce blocage sans que je puisse rien en dire à personne : victoire de la machine sur l’homme.

Mais ne croyez pas que modifier la date sur votre ordinateur soit sans conséquence. Si vous lui faites croire, par exemple, qu’on est en 2015 plutôt qu’en 2025, sachez qu’en pratique, vous n’aurez plus un accès normal à l’Internet. En essayant de consulter un site, la machine vous fera savoir que son « certificat » (qui lui permet d’être répertorié sur le Web) est périmé et qu’en conséquence, vous ne pouvez plus y avoir accès : là aussi, victoire de la machine sur l’homme.

Encore autre chose. L’autre jour, j’ai été alerté par le voisin d’un ami dont je « surveille » l’appartement. Cet ami est parti pour un long voyage et il m’a mandaté pour veiller à ce qu’il n’y ait pas de problème chez lui. Ce voisin me signalait qu’un détecteur de fumée sonnait chez mon ami, qu’il entendait cette sonnerie stridente et que cela lui était pénible. Avant de me déplacer (c’est assez loin), j’ai vérifié combien de temps cette sonnerie continuerait : après tout, si c’était moins d’une journée, le voisin n’aurait qu’à prendre son mal en patience. Vérification faite, la réalité de cette machine simplissime qu’est un détecteur de fumée est proprement terrifiante. Lorsque les piles sont faibles, le détecteur se met à biper toutes les 45 secondes, et cela, durant trente jours. Si, donc, je n’avais pas été là pour couper, si le propriétaire était parti en voyage sans autre forme de procès, le voisin serait devenu littéralement fou, exposé à entendre successivement 57.600 sonneries particulièrement irritantes. Un esprit pervers, quelque part, a donc un jour élaboré une réglementation qui n’a aucun sens, puisque si cela sonne dans le vide, c’est évidemment qu’il n’y a personne pour couper. La machine, pour sa part, l’applique sans se préoccuper de savoir si elle broie ainsi l’humanité.
Et, donc, je n’ai pas peur de l’arrivée future de l’IA, car je suis déjà terrifié de la domination actuelle des machines.

Imprimer, enregistrer en PDF cet article