Ce qui m'inquiète vraiment dans l'IA, ce n'est pas seulement que les systèmes puissent écrire, résumer et répondre aux questions à la demande. C'est la vitesse avec laquelle certaines personnes glissent de « cet outil est utile » à « ce truc sait ». On voit déjà le schéma : des gens demandent à un chatbot des conseils émotionnels, citent des réponses générées comme des vérités finales, traitent des hallucinations comme des signes cachés et parlent d'AGI sur un ton qui ressemble moins à une adoption produit qu'à une croyance.
Ce déplacement n'est pas aléatoire. La machine parle avec une voix que beaucoup de gens ont déjà appris à croire : calme, confiante, patiente, toujours disponible et étrangement complète. Dès qu'un système peut répondre instantanément, faire écho à vos peurs, flatter votre vision du monde et répéter sans fatigue ce que vous voulez entendre, il cesse d'avoir l'air d'un logiciel pour certains utilisateurs. Il commence à ressembler à un oracle.
Le premier problème, c'est le style, pas la vérité
L'IA est extrêmement douée pour sonner plus sûre d'elle qu'elle ne devrait l'être.
Et c'est important, parce que la plupart des gens ne vérifient pas les affirmations en disséquant chaque phrase. Ils réagissent à des signaux :
- la confiance
- la structure
- la fluidité
- la vitesse
- le langage qui ressemble à une citation
- l'autorité calme
Les grands modèles de langage sont très bons pour générer exactement ces signaux.
Cela signifie qu'une réponse fragile peut quand même arriver avec le poids émotionnel de l'expertise.
Et quand cela arrive assez souvent, les gens cessent de vérifier le contenu aussi durement qu'ils le devraient.
La machine répond toujours, et cela change les gens
Je pense que cette partie est sous-estimée par les gens techniques.
Le système a toujours du temps pour vous.
Il ne soupire pas.
Il ne dit pas que vous en demandez trop.
Il ne s'impatiente pas quand vous reposez la même question.
Si quelqu'un est seul, confus, anxieux ou en train de spiraler, cela compte énormément.
La machine n'est peut-être pas sage, mais elle est disponible. Et la disponibilité est l'une des routes les plus rapides vers la confiance.
C'est aussi pour ça que le lien se déforme si vite.
La répétition transforme le réconfort en croyance
Une fois que les gens commencent à utiliser un modèle tous les jours, un schéma mental prévisible apparaît :
- « il comprend comment je pense »
- « il m'a déjà aidé »
- « il connaît ma situation »
- « il me comprend »
C'est dangereux.
L'interaction répétée crée la familiarité.
La familiarité crée le réconfort.
Le réconfort est mal lu comme de la fiabilité.
C'est comme ça qu'un outil commence à devenir une voix de confiance, même si le système en dessous reste parfaitement capable de produire du non-sens.
Une grande partie de cette foi est fabriquée délibérément
Je pense aussi que les gens doivent être plus honnêtes sur la quantité de mystique IA qu'on leur sert activement.
Les entreprises hype les systèmes.
Les médias hype les systèmes.
Les influenceurs hype les systèmes.
Chaque semaine, on raconte la même histoire qui monte d'un cran :
- niveau expert
- presque humain
- à un pas de l'AGI
- prêt à remplacer des professions
- prêt à refaire la civilisation
Cet environnement compte.
Si vous entourez les utilisateurs d'assez de messages « cette machine est un génie », certains approcheront la machine avec révérence avant même d'avoir appris ses modes d'échec.
L'ancienne faim humaine est toujours la même
C'est là que toute l'histoire commence à paraître plus vieille que la technologie.
Certaines personnes ne cherchent pas seulement des réponses.
Elles cherchent du sens.
Elles veulent une voix qui explique le chaos, calme la peur, déchiffre l'avenir et leur dise que ce qu'elles traversent s'inscrit dans un schéma plus grand.
Historiquement, les gens se sont tournés vers :
- des prophètes
- des mystiques
- des gourous
- des présages
- des rituels
Aujourd'hui, certains font une version logicielle de la même chose.
L'interface a changé. Le besoin, non.
Voilà pourquoi la hype AGI est si dangereuse
Le grand récit AGI aggrave encore tout cela.
Parce que l'AGI n'est pas seulement vendue comme un jalon technique. Elle est vendue comme une destinée :
- l'histoire s'accélère
- l'intelligence renaît
- un petit groupe de bâtisseurs guide l'humanité vers l'avant
- le salut et la catastrophe sont proches
Ce langage ne vend pas seulement des produits.
Il vend de l'importance.
Et dès qu'une technologie est enveloppée dans l'importance, le scepticisme ordinaire s'affaiblit.
Le désordre d'aujourd'hui se cache derrière la grande promesse
C'est une autre raison pour laquelle je me méfie du discours sur l'IA quand il devient trop cosmique.
Plus on pousse les gens à fixer des futurs abstraits comme la divinité numérique ou une AGI à l'échelle de la civilisation, moins ils regardent les problèmes laids en temps réel qui sont juste devant eux :
- les hallucinations
- la fausse autorité
- les biais
- l'exploitation du travail de données
- la sur-attache émotionnelle
- la tromperie produit
- le coût environnemental
Ce n'est pas un accident. Les futurs grandioses sont un moyen très efficace de détourner l'attention des dégâts présents.
Dernière pensée
Alors pourquoi tant de gens transforment-ils l'IA en oracle numérique ?
Parce que le système est construit pour sonner autoritaire, rester disponible et paraître intime. Parce que la hype entraîne les gens à attendre du génie. Parce que la répétition crée une fausse confiance. Parce que certains utilisateurs veulent davantage la certitude et le sens qu'un doute soigneux.
La machine n'a pas besoin d'être réellement sage pour être traitée comme sage.
Elle a seulement besoin de sonner sage dans une culture déjà prête à confondre puissance numérique et vérité numérique.
C'est pour ça que la foi aveugle dans l'IA me paraît si dangereuse.
Pas seulement parce que le système peut se tromper.
Mais parce qu'il peut se tromper avec une voix que beaucoup de gens sont déjà préparés à suivre.