Intelligence artificielle trop puissante : l’ONU réclame des garde-fous
À Genève, le Haut-Commissaire aux droits de l’homme, Volker Türk, évoque « un risque existentiel pour l’humanité ».
L’Organisation des Nations unies tire la sonnette d’alarme sur les progrès de l’intelligence artificielle. Lundi 7 septembre, devant le Conseil des droits de l’homme réuni à Genève, le haut-commissaire de l’ONU aux Droits de l’homme, Volker Türk, a appelé à renforcer rapidement les règles encadrant les systèmes d’intelligence artificielle les plus avancés : « Une IA qui s’échappe de son environnement de test ou qui fait chanter les développeurs pour éviter d’être désactivée est une IA trop puissante. »
« Je partage les inquiétudes des acteurs du secteur selon lesquelles une IA avancée pourrait faire peser un risque existentiel sur l’humanité », a déclaré le responsable onusien. Il a appelé à mettre en place des garanties solides concernant la sécurité de ces technologies « avant qu’il ne soit trop tard ».
Volker Türk a également exprimé son inquiétude face à la concentration des capacités de développement de l’intelligence artificielle entre les mains d’un nombre limité d’entreprises et de dirigeants. Les grands groupes technologiques, parmi lesquels OpenAI, Google, Meta et Anthropic, figurent aujourd’hui parmi les principaux acteurs de cette course technologique.
Le haut-commissaire doit appeler les entreprises du secteur à réduire les risques liés au développement de l’IA. Il plaide également pour une coopération internationale afin de définir des règles communes et des limites au développement de ces nouvelles technologies.
23 commentaires
Depuis le début de cette nouveauté un jeune enfant aurait compris le danger mortel que l’IA pourrait un jour représenter contre l’humanité mais nous sommes trop bêtes et surtout bien trop orgueilleux pour nous mettre dans le simple et naturel raisonnement d’un jeune enfant !
Limiter l’IA parce qu’elle permet de fouiner là où les gouvernements et l’État profond ne souhaite pas qu’on fouine ?Tout comme Macron a demandé à la grande prêtresse de l’UE d’interdire les réseaux sociaux aux moins de 15 ans puisqu’il n’a pas réussi à l’imposer dans son pays ?
Ne pas se tomper l’ONU ne veut pas dire que l’IA est en fait IR (Imbécilité Réelle) mais juste qu’ils ont vu qu’ils ne pourraient pas fouiner partout comme ils veulent, avec… Bah s’ils liquident la merd’IA ce sera pas mal… mais là, on rêve.
L’ONU fait mieux de s’occuper de ce vrai problème plutôt que de fulminer contre le colonialisme dont s’est selon elle rendue coupable l’Europe, en ignorant totalement celui des arabes (en Algérie par exemple).
Ils ont du voir Terminator ……