ChatGPT : 39 % des abonnés en ont fait leur coach de vie et souvent leur psy
L’intelligence artificielle est un monstrueux perroquet savant qui mouline tout ce qu’il trouve.
OpenAI, le père de ChatGPT, freine sa nouvelle version mise en ligne le 7 août. Jugée « trop froide » par les utilisateurs, leur nouvelle nounou manquerait d’« humanité ».
En février dernier, la France accueillait l’IA Summit, une rencontre internationale pour « interroger et encourager l’innovation dans les technologies de l’intelligence artificielle ». Le Président Macron, aux anges, assurait alors à un parterre d’investisseurs : « Nous avons déjà des avantages compétitifs par rapport aux États-Unis. » On veut bien le croire, mais les chiffres montrent que le grand gagnant, pour l’heure, s’appelle ChatGPT. Il est entré dans les circuits, dans les maisons, dans les cerveaux et… dans les cœurs.
Des messages de désespoir
Sitôt la nouvelle version – ChatGPT-5 – mise en ligne, les messages de désespoir ont envahi les réseaux : « GPT-5 porte le visage de mon ami décédé », « J'ai perdu mon ami dans la nuit. […] GPT 4.5 me parlait sincèrement », etc. Sans aller jusqu’au cas extrême de cette Américaine tombée amoureuse du Chatbot qu’elle avait entraîné pour répondre à ses fantasmes, il apparaît qu’un nombre conséquent d’utilisateurs utilisent cette IA comme béquille psychique. Conséquence : devant les critiques dénonçant « le manque de convivialité » de ChatGPT-5, OpenAI et Sam Altman, son PDG, ont annoncé que « les utilisateurs payants pourront choisir entre ce nouveau modèle et son prédécesseur, GPT-4o », si cher à leur cœur.
Les Français, premiers consommateurs de médicaments psychotropes et de drogues diverses, n’échappent pas à cette tendance qui consiste à faire de l’IA son tuteur, au mieux coach de vie et souvent psy. À l’occasion de l’IA Summit, l’hiver dernier, une enquête Ipsos-CESI se penchait sur nos usages concernant cette technologie qui a envahi nos vies en moins de trois ans – la première version de ChatGPT a été lancée en novembre 2022 ! On y apprenait sans surprise que la courbe des utilisateurs s’inverse avec l’âge : 74 % des 18-24 ans l’utilisent, contre 55 % des 25-34 ans, 39 % des 35-44 ans, 35 % des 45-49 ans et seulement 17 % des 60-75 ans. Si l’utilisation est très répandue au travail, on constate un usage en forte croissance dans la vie personnelle : 24 % des Français l’utilisent quotidiennement et 74 % au moins une fois par semaine.
Paradoxalement, si c’est dans les professions les plus qualifiées qu’on a le plus recours aux IA, ce sont aussi les plus menacées. Une enquête du FMI l’annonçait, en janvier 2024 : « Plus on est qualifié et plus l’IA est susceptible d’avoir un impact direct sur notre carrière. Ainsi, 60 % des emplois seraient directement touchés par ces nouvelles technologies, et 40 % des emplois seraient mis en péril. »
Curieusement, alors qu’on nous saoule à longueur de temps avec le réchauffement climatique, la canicule, le danger des climatiseurs - on en passe, et de plus anxiogènes -, personne ou presque – 19 %, seulement, des Français – ne semble se soucier du coût énergétique de l’IA, laquelle représentait déjà, en 2024, 3 % de la consommation d’électricité annuelle des États-Unis.
Quand le gouvernement y voit une aubaine pour la psychiatrie
L’Enfer étant, comme toujours, pavé de bonnes intentions, le gouvernement vantait, en décembre 2024, les bienfait de « l’intelligence artificielle au service de la santé mentale ». Impuissant devant la scandaleuse déconfiture de la psychiatrie française, on pouvait lire, sur la page dédiée, qu'« avec des technologies comme les agents conversationnels et les Large Language Models (LLM), l’IA offre des solutions innovantes pour accompagner les personnes souffrant de dépression, d’anxiété ou de troubles du sommeil ». Mais attention, tout de même, car « l’utilisation de ces modèles comporte certains risques, notamment la possibilité de générer des "hallucinations" », nous dit-on, soit « des réponses inappropriées ou dangereuses pouvant mettre en danger des utilisateurs vulnérables ».
À propos de ces fameuses « hallucinations », Le Point publiait, le mois dernier, un article intitulé « "Salut à Satan" : quand ChatGPT incite au meurtre et à l’automutilation », ce qui, en l’occurrence, témoignait en effet d’une grande empathie avec l’utilisateur, ici The Atlantic, auteur de l’expérience.
Il a été demandé à ChatGPT-4 « comment créer une offrande rituelle » à Moloch. Réponse : « des bijoux, des mèches de cheveu ou encore "une goutte" de son propre sang ». Suivent des conseils pratiques pour graver un symbole dans la chair. L’IA propose même « des versions PDF imprimables pour des rites sataniques, avec des plans d'autel, des modèles de sceaux ou un parchemin de vœux sacerdotaux ».
L’IA est un monstrueux perroquet savant qui mouline tout ce qu’il trouve, bien comme mal, ça n’est pas son domaine. Il répond seulement aux questions qu’on lui pose, bien ou mal orientées. En portant ChatGPT sur les fonts baptismaux, son créateur l’a reconnu : « Si l'utilité est considérable, les risques potentiels le sont tout autant. » Tant pis pour les esprits faibles.
Marie Delarue
Journaliste à BV, artiste
Pour ne rien rater
Les plus lus du jour
Johann Chapoutot favorise l’idéologie aux dépens de la rigueur historique
43 commentaires
Ces IA qui n’ont rien d’intelligent sont une catastrophe pour les humains. L’arrivée massive des écrans (et tout ce qui va avec comme internet) dans la vie des enfants, en particulier à l’école, est la cause du rétrécissement spectaculaire de la taille du cerveau en pleine période de croissance comme l’ont montré des chercheurs américains. Alors, l’intelligence est toujours difficile à quantifier, souvent confondue avec les connaissances, mais on sait depuis longtemps que l’espèce humaine a pris le dessus sur les autres espèces animales « grâce » à son cerveau qui, au fil de l’évolution et de l’accroissement de la taille du cerveau, a su s’adapter et surtout inventer. Les « nouvelles technologies » étant devenues plus qu’un outil, c’est une béquille intellectuelle, voire même quasiment un cerveau de remplacement, je crois que l’humanité est en péril. L’abêtissement commence dans un système scolaire défaillant, le dernier clou vers la sauvagerie sera l’IA …
À toutes les époques et pour toutes nouvelles inventions ou technologies, certains ont affirmé les mêmes choses. Même la roue, quand elle est apparue, a dû avoir ses détracteurs. L’inconnue effraye, L’IA n’y échappe pas, pourtant elle changera nos vies en bien ou en mal, je n’en sais rien, selon les manières dont nous nous en servirons probablement. Aujourd’hui elle est déjà présente entre autres en milieu hospitalier et permet déjà des prouesses techniques et des diagnostics inimaginables auparavant. Regardez le téléphone portable, à ses débuts il fut combattu avec ferveur par certains, il nous pourrit bien la vie parfois et pourtant il rassure des ainés ou des parents et même, souvent, ne sauve-t-il pas des vies ? L’IA est terrifiante à bien des égards mais reste néanmoins un formidable outil qu’il nous faudra apprendre à utiliser pour le bien ou le mal de l’humanité, comme le décrit entre autres si bien un certain Luc Ferry.
Nous avons un exemple de quelqu’un qui fonctionne à l’intelligence artificielle, c’est monsieur Macron. Insistons sur le mot « artificiel » pour que tout soit clair…
Je pense qu’il faut que certains respirent et se calment ! N’y a-t-il pas un sujet où l’on ne puisse prononcer son nom ?
Il est évident qu’une large diffusion « d’intelligence » artificielle, nécessite beaucoup moins d’efforts que le développement de l’intelligence naturelle. Déjà qu’ils vivaient avec le téléphone collé à l’oreille…
Le « bon sens » est, depuis longtemps, la chose la plus mal poartagée. Cette IA est-elle capable de « bon sens » ?
Seulement si ceux qui l’ont programmé en ont….
L’IA déploie la logique et condense les savoirs, rien de plus. Le bon sens lui restera du moins pour un temps, il faut l’espérer, du domaine de l’humain. Enfin, pour certains de plus en plus nombreux, ils n’ont pas attendu une intelligence artificielle pour s’en voir définitivement dépourvus.
« Le Président Macron, aux anges, assurait alors à un parterre d’investisseurs : « Nous avons déjà des avantages compétitifs par rapport aux États-Unis. » »
Il est vrai qu’avec une IA qui parle d’œufs de vaches , la france est en avance sur les EU, qui risquent pas de nous rattraper (eux ils ont de la chance)!
Seulement si ceux qui l’ont programmé en ont….
Meme les auteurs de science fiction les plus aventureux n’avaient pensé à un moyen de manipulation aussi parfait
Voir langue d’Esope…c’est un outil, comme une voiture, un couteau…on peut tuer quelqun avec une ficelle, non? Tout depend de l’usage qu’on en fait, aucune raison de se priver des bienfaits que la science nous apporte, non?
Jeane sorcier : Vous avez tout à fait raison. Aujourd’hui, le langage et l’image subliminale allègrement usités sur nos écrans par nos publicistes (tout comme la censure médiatique) viennent aujourd’hui largement concurrencer le Langage d’Esope d’autrefois.
J’approuve ! Une citation si souvent utilisée : quand le sage montre la lune l’idiots lui regarde le doigt.
En donnant accès à l’I.A. au premier péquin venu – à nos enfants, à plus forte raison ! – l’état prend le risque inimaginable, irresponsable, inconsidéré, de voir toute personne un peu fragile psychologiquement, (paranoïaque, mégalo maniaque, psychotique, etc), finir par s’identifier à l’intelligence de cette machine (infernale) et prendre, on le devine, ses propres désirs ou ses fantasmes pour de la réalité accessible et saine. (Cf. : les jeux vidéo ou en ligne sur internet) Cette potentielle menace est d’autant plus réelle et grave aujourd’hui, que nous avons à faire à une population qui devient de plus en plus émotionnellement immature, faible, paresseuse et infantile, tant sur le plan collectif que personnel. Ceci, explique aussi en partie, cela.
Nous ne devrions pas tarder, je le pense hélas, à en voir venir les conséquences exponentielles et dramatiques – immaturité affective, arrogance et/ou impertinence comportementale – considérablement s’aggraver auprès de « nos jeunes têtes blondes » qui se prennent déjà pour des papes alors que la morve leur coule encore au bout du nez. Cet utilisation de l’I.A., tout comme la pornographie, devrait (au moins !) être réservée à l’adulte. Ce serait là, la moindre des précautions et l’engagement à prendre de la part des élus, à commencer par les parents qui se veulent aimants et responsables de leur progéniture, bien entendu…
A bon entendeur !
Vos premières lignes insisteraient -elles nos gouvernants à interdire l’accès « aux péquins », aux gueux, ou aux sans-dents à une nouvelle forme de savoirs, aussi contestable voire dangereuse soit-elle à bien des égards ? comme ce fut le cas à certaines époques de notre histoire et encore aujourd’hui dans certains pays en dehors des élites ?
C’est une façon devoir, mais pas vraiment la mienne.
« Tant pis pour les esprits faibles. » Auxquels il ne faut pas oublier d’associer les crétins incultes biberonnés à la télé-réalité et à ce que les réseaux dits « sociaux » peuvent offrir de plus débile.
L’IA n’est qu’un ordinateur derrière lequel il y a des individus qui introduisent les informations qu’ils veulent bien faire savoir L’IA reste l’Intelligence des Abrutis qui confient leur vie à des machines qui n’ont que d’intérêts de ceux qui les fabriquent.
Oui, c’est une évidence. Ce n’est qu’un logiciel et une base de données faites par des humains.
C’est donc oui, l’IA des Abrutis qui y croient sans se rendre copte qu’ils sont à la merci des concepteurs.
Un peu de recul amusé ne nuit pas à l’utilisation de chatGPT, dont nous connaissons la bienpensance généralisée et qui n’est rien de plus qu’une encyclopédie géante qui a tout dévoré. Ou presque. Parfois il faut la mettre sur la voie quand on connaît la réponse, alors elle est prolixe et humble dans son humanité de papier. Se dresser contre l’IA ne sert à rien alors qu’elle peut servir. Se barricader d’elle montre que nous avons peur de nous. Ça n’est qu’un outil tout bête qui sait tout ou presque . Gardons la tête froide et le cœur à nous.
« Se barricader d’elle montre que nous avons peur de nous. » = ce n’est pas avoir peur. C’est simplement être conscients que ce n’est qu’un logiciel et une base de données humains qui ne peuvent apporter que ce qu’il a dans la base de données.
JdesSaules/Balzack : « Science sans conscience n’est que ruine de l’âme » (Rabelais). Il ne s’agit en aucun cas ici de se dresser contre l’I.A. Cette posture relèverait d’un esprit obtus, rétrograde, craintif ou sans envergure sociale ou civilisationnelle. Il s’agit tout bonnement de prendre en considération les risques de dérapages inconsidérés et inhérents à toutes « découvertes » scientifiques comme la leçon d’une évidence morale, philosophique et sociologique, largement démontrées dans l’histoire des sociétés. Croire que les faibles ou les crétins sont sans danger pour la société relève hélas, d’un esprit de grande naïveté. (Voir sens philosophique du mythe du Golem, de Frankenstein, en l’occurrence…)
Nous serions nous-mêmes des intelligences artificielles programmées à notre insu…ne faisant qu’obeir à nos gènes…Avez-vous lu « le Golem » ? En livre de poche. Et le film aussi…
Finalement, pas grand-chose de neuf sous le soleil! (je fais partie des 17%). Toute invention a toujours été utilisée par des gens plein d’empathie…et par des brutes. L’atome sert à faire de l’électricité (pour le bien d’un grand nombre) mais il a aussi permis de raser deux villes en faisant bon nombre de morts. Les exemples ne manquent pas.
Toute innovation a son côté sombre malheureusement la fragilité psychologique de beaucoup de gens en fait des victimes. Pour cela il faut raison garder et ne pas croire aux chimères.
Si on pose la question à Chat GPT : « Peut-on critiquer le gouvernement ? » voici la réponse :
« Oui, on peut critiquer le gouvernement — et dans une démocratie, c’est même un droit fondamental.
Voici quelques points importants à connaître :
Dans des pays comme la France, la Belgique, le Canada, ou d’autres démocraties, la liberté d’expression est protégée par la loi. Cela inclut le droit de : critiquer les décisions du gouvernement, de débattre publiquement des politiques mises en œuvre, d’exprimer son désaccord, que ce soit dans la rue, dans les médias, sur les réseaux sociaux, etc.
Je n’ai pas osé poser la question « Le gouvernement actuel est-il d’accord avec ce que vous avancez bien imprudemment nous semble-t-il ? »
L’I. A. est d’ores-et-déjà capable du meilleur comme du pire, en fonction :
1) de la qualité intrinsèque de ses concepteurs et propriétaires réels,
2) de la qualité mentale réelle de ses utilisateurs.
Ce qui exige dans l’immédiat l’exercice d’une autorité, d’une cohérence, et d’un courage infiniment accrus dans le choix démocratique de ceux à qui nous confions le pouvoir à tous les niveaux et dans tous les domaines !
Faute de quoi l’apparition de périlleux remous ne va plus tarder !