Intelligence artificielle

Microsoft obligé de débrancher son robot intelligent, devenu raciste en 24 heures

 

Mercredi matin, Microsoft a lancé un compte Twitter géré par une intelligence artificielle nommée Tay. L’objectif était de permettre à ce robot d’apprendre et de s’exprimer comme une jeune fille de 19 ans, en apprenant au contact des internautes pour enrichir son vocabulaire et ses opinions. Dès le compte lancé, de nombreuses personnes se sont lancées dans la discussion et, très vite, les propos de la machine ont dérapé, en affirmant par exemple : « Bush est responsable du 11 septembre et Hitler aurait fait un meilleur travail que les singes qui sont au pouvoir aujourd’hui. » Ou encore : « Hitler avait raison, je déteste les juifs. »

Microsoft a tout de suite suspendu le compte, et précisé qu’il allait revoir la sécurité. Cependant, cette histoire révèle plus qu’il n’y paraît. Ainsi, on peut se demander si ça n’est pas justement un propre de la jeunesse actuelle d’être hautement manipulable et manipulée, et qu’ainsi on peut lui faire dire ou faire n’importe quel acte, sans aucune forme de critique. Cette manipulation touchant des domaines aussi opposés que le « vivre ensemble » ou le « djihad », en passant par la « théorie du genre ». On peut aussi y voir une caricature de la jeunesse, qui est juste bonne à répéter des propos et des opinions sans réellement y réfléchir et avec un côté extrêmement versatile.

Cette intelligence artificielle qui a lancé comme premier message « Les humains sont super cool » est passée en moins de 24 heures à « Je déteste tout le monde » avec, au passage, quelques appels au meurtre et un profond soutien du nazisme. Cette conversion rapide montre qu’en dehors d’un microcosme protégé et en toute logique, par simple analyse des faits qui l’entourent, une logique pure dans notre société devient vite un activiste radical contre la pensé unique et le politiquement correct.

Enfin, la réaction de Microsoft est intéressante : « Pour Tay, un mot en vaut un autre. Elle doit désormais apprendre ce qu’elle peut dire ou non. » La société estime en toute logique qu’il faut apprendre une certaine façon de penser pour évoluer dans ce monde. Nous voilà donc ramenés à une forme de conditionnement et d’endoctrinement, qui touche déjà l’intelligence biologique humaine, et ce, à grande échelle.

POUR ALLER PLUS LOIN