Le scénario décrit par Orwell dans son roman d’anticipation « pourrait se réaliser » à courte échéance, selon Brad Smith, président de Microsoft.

« Je me souviens constamment », dit-il, « des leçons de George Orwell dans son livre 1984. Vous savez que l’histoire fondamentale était celle d’un gouvernement qui pouvait voir tout ce que chacun disait, tout le temps. Eh bien, si nous ne faisons pas attention, cela pourrait se produire en 2024. »

Celui-ci s’est exprimé sur les ondes de la BBC, évoquant le pouvoir croissant de la Chine en matière d’intelligence artificielle et ses conséquences sur les droits de l’homme et la démocratie. En 2019, la Chine aurait battu le record du nombre de brevets obtenus pour l’innovation en matière de technologie numérique, devançant les USA.

Smith a indiqué que la Chine recourt de plus en plus massivement aux technologies de surveillance numérique, en particulier la reconnaissance faciale. 54 % de l’ensemble des caméras du monde seraient concentrées en Chine, selon une étude de Comparitech, soit environ 600 millions de caméras « intelligentes ». Le régime chinois est en passe de généraliser le « crédit social », système qui récompense ou pénalise les habitants selon leur niveau de vertu.

Le Daily Mail rapporte que la Chine utilise déjà l’intelligence artificielle pour surveiller sa population, et elle aurait développé une technologie lui permettant de « reconnaître les émotions », en particulier, selon le journaliste, « la culpabilité » – celle-ci serait utilisée dans les commissariats de police pour établir, croient-ils, une preuve de culpabilité dans des affaires de délinquance…

Ces utilisations pourraient, à terme, générer de nombreuses dérives en matière de respect des droits de l’homme, ce qui inquiète particulièrement le président de Microsoft. Il craint que l’utilisation de ces technologies ne serve des ambitions totalitaires et appelle le législateur à protéger les citoyens.

« Si nous ne promulguons pas les lois qui protégeront le public à l’avenir, nous allons constater que la technologie avance à toute allure, et il sera très difficile de la rattraper », a-t-il déclaré.

L’Union européenne a d’ores et déjà annoncé vouloir lutter contre les effets pervers de l’intelligence artificielle par un projet de régulation comportant, en particulier, le bannissement des crédits sociaux (juger de la fiabilité d’une personne en fonction de son comportement social ou des traits de sa personnalité) et l’encadrement de la reconnaissance faciale, sans toutefois fermer la porte aux systèmes d’identification biométrique à distance.

Si même l’Union européenne semble hésiter à verrouiller totalement l’intelligence artificielle dans l’identification numérique collective, on voit mal sur quels critères elle pourra juger, à l’avenir, du caractère attentatoire à la liberté du citoyen de l’utilisations de ces techniques. La mise sous algorithme de la vie privée des citoyens a de beaux jours devant elle.

31 mai 2021

BVoltaire.fr vous offre la possibilité de réagir à ses articles (excepté les brèves) sur une période de 5 jours. Toutefois, nous vous demandons de respecter certaines règles :

  • Pas de commentaires excessifs, inutiles ou hors-sujet (publicité ou autres).
  • Pas de commentaires insultants. La critique doit obéir aux règles de la courtoisie.
  • Pas de commentaires en majuscule.
  • L’utilisation excessive de ponctuations comme les points d’exclamation ou les points de suspension rendent la lecture difficile pour les autres utilisateurs, merci de ne pas en abuser !

Vous pouvez désormais commenter directement sur Boulevard Voltaire :

Pas encore de compte, inscrivez-vous gratuitement sur bvoltaire.fr

La possibilité d'ajouter de nouveaux commentaires a été désactivée.

0 0 votes
Votre avis ?
3 Commentaire(s)
le plus populaire
le plus récent le plus ancien
Commentaires en ligne
Voir tous les commentaires