Peut-on ne rapporter que des faits exacts et néanmoins tromper son lecteur ? Richard C. Abitbol examine la manière dont la sélection, la hiérarchie et l’agencement des informations peuvent déformer notre compréhension du réel. Une réflexion sur le langage et la propagande, prolongée par une interrogation sur les réponses de l’intelligence artificielle.
Le mensonge sémantique : quand la vérité devient l’instrument du mensonge
Pour une vision topologique du langage, de la propagande et de l’intelligence artificielle
Le mensonge le plus redoutable n’est pas celui qui invente des faits, mais celui qui sélectionne des vérités, les extrait de leurs relations et les réorganise pour produire une représentation trompeuse du réel. Cette forme de manipulation, que l’on pourrait appeler le « mensonge sémantique », révèle une propriété fondamentale du langage : le sens ne réside pas seulement dans les mots ou les propositions, mais dans la structure des relations qui les unissent. À l’ère de l’intelligence artificielle, cette question devient essentielle : comment reconnaître une représentation mensongère lorsque tous les faits qui la composent sont exacts ?
« Le mensonge le plus difficile à combattre n’est pas celui qui s’oppose à la vérité.
C’est celui qui se sert de la vérité pour mentir. »
La vérité peut-elle mentir ?
Nous avons pris l’habitude d’opposer la vérité au mensonge comme deux catégories clairement distinctes. Une proposition serait vraie lorsqu’elle correspond aux faits, fausse lorsqu’elle les contredit.
Cette distinction, indispensable, demeure pourtant insuffisante.
Car un discours n’est jamais une simple addition de propositions indépendantes. Il est une construction dans laquelle chaque information prend son sens à travers ses relations avec les autres.
Il est donc parfaitement possible de ne prononcer que des phrases exactes et de produire, par leur assemblage, une représentation profondément mensongère.
C’est précisément le mécanisme de la propagande la plus efficace.
La propagande grossière invente des faits. La propagande sophistiquée choisit les faits qu’elle révèle, ceux qu’elle dissimule, les rapprochements qu’elle suggère et les relations qu’elle supprime.
Elle ne falsifie pas nécessairement les éléments de la réalité. Elle falsifie leur organisation.
La propagande réussie n’est pas celle qui ment sur les faits, mais celle qui conduit son destinataire à percevoir comme vérité une représentation mensongère construite à partir de faits vrais.
Le sens est une propriété relationnelle
Pour comprendre ce phénomène, il faut abandonner une conception purement linéaire du langage.
Un mot ne possède pas une signification entièrement indépendante de son environnement. Une phrase ne peut être comprise sans son contexte. Un événement historique ne prend toute sa portée qu’à travers ses antécédents, ses causes, ses conséquences et ses relations avec d’autres événements.
Autrement dit, le sens possède une dimension topologique.
Dans une vision topologique du réel, un objet ne peut être compris uniquement par ses propriétés intrinsèques. Il doit également être considéré à travers sa position et ses relations au sein du système auquel il appartient.
Cette proposition s’applique directement au langage.
Une information peut être exacte en elle-même et devenir trompeuse lorsqu’elle est isolée des relations qui lui donnent sa véritable signification.
Le mensonge sémantique ne consiste donc pas nécessairement à modifier une proposition. Il consiste à modifier l’environnement relationnel dans lequel cette proposition est interprétée.
Ce n’est plus le fait qui est falsifié. C’est sa place dans le réel.
De la Babel des langues à la Babel sémantique
Le mythe de la tour de Babel nous raconte une humanité qui, ne parlant plus la même langue, devient incapable de se comprendre. La diversité des mots et des langages y constitue l’obstacle à la communication.
Mais notre époque connaît un phénomène plus insidieux encore : nous utilisons les mêmes mots sans leur donner le même sens.
Nous sommes passés de la Babel des langues à une Babel sémantique.
Autrefois, la différence des mots révélait immédiatement la difficulté de communiquer. Aujourd’hui, leur identité masque la divergence des significations.
Le contenant est identique, mais le contenu diffère.
Des notions aussi fondamentales que la liberté, la démocratie, la justice, la vérité, le progrès ou les droits de l’homme sont employées par des interlocuteurs qui croient partager un langage commun alors qu’ils mobilisent des univers conceptuels parfois radicalement différents.
Le problème n’est plus seulement que nous ne nous comprenons pas. C’est que nous croyons nous comprendre parce que nous employons les mêmes mots.
Cette Babel sémantique représente une rupture plus profonde que la Babel linguistique : elle fait disparaître jusqu’à la conscience de l’incompréhension.
Dans une vision topologique du langage, cette situation s’explique aisément. Un mot ne tire pas son sens de sa seule forme, mais de l’ensemble des relations conceptuelles, culturelles, historiques et affectives dans lesquelles il s’inscrit.
Deux interlocuteurs peuvent donc employer un signifiant identique tout en l’inscrivant dans deux systèmes relationnels différents. Leurs mots se ressemblent, mais leurs significations ne coïncident plus.
L’intelligence artificielle peut amplifier ce phénomène. En produisant un langage apparemment universel, fluide et cohérent, elle peut donner l’illusion d’une compréhension partagée alors qu’elle mobilise des significations différentes de celles de son interlocuteur.
Le mensonge sémantique trouve ici un terrain particulièrement favorable : il n’est même plus nécessaire de transformer les faits ou leurs relations. Il suffit parfois de conserver les mêmes mots en déplaçant silencieusement leur signification.
La Babel des langues empêchait les hommes de se comprendre. La Babel sémantique leur donne l’illusion de se comprendre alors qu’ils ne parlent plus de la même chose.
Le mensonge par omission n’est que la forme élémentaire du mensonge sémantique
On connaît depuis longtemps le mensonge par omission : taire une information essentielle pour modifier la compréhension d’une situation.
Mais le mensonge sémantique va beaucoup plus loin.
Il ne se limite pas à dissimuler certains faits. Il agit sur l’ensemble de la structure du discours.
Il sélectionne, hiérarchise, rapproche, sépare, contextualise ou décontextualise les informations.
Il peut ainsi transformer une succession chronologique en relation de causalité, une exception en phénomène général, une conséquence en cause ou un fait secondaire en explication dominante.
Le destinataire reçoit alors des informations exactes, mais les relations suggérées entre ces informations le conduisent vers une conclusion erronée.
Le mensonge n’est plus localisable dans une phrase particulière. Il réside dans l’architecture même du discours.
C’est pourquoi sa détection est si difficile : celui qui cherche une affirmation factuellement fausse peut n’en trouver aucune.
L’exemple révélateur de l’histoire
Imaginons que l’on veuille présenter le comportement d’un personnage historique.
On peut sélectionner une déclaration authentique, parfaitement documentée, et construire autour d’elle un récit qui paraît irréprochable.
Mais que devient ce récit si l’on a omis d’autres déclarations, des décisions politiques, des comportements ou des conséquences historiques qui en modifient profondément la signification ?
La citation reste exacte.
La représentation globale, elle, peut devenir fausse.
Le phénomène est encore plus frappant lorsqu’un fait relativement secondaire est systématiquement mis en avant au détriment d’éléments plus déterminants.
Le lecteur finit alors par confondre le fait le plus fréquemment cité avec le fait le plus significatif.
Cette confusion n’est pas anodine.
Elle permet de construire une mémoire collective qui peut être composée de faits authentiques tout en donnant une image profondément déformée de l’histoire.
Une mémoire sélective peut ainsi devenir une falsification de l’histoire sans qu’aucun document ait été matériellement falsifié.
La topologie du mensonge
On peut tenter de formaliser ce phénomène.
Considérons un ensemble de propositions vraies constituant une représentation partielle du réel.
La vérité de chacune de ces propositions ne garantit pas la fidélité de la représentation globale, car celle-ci dépend également des relations qui les unissent.
Si nous désignons par P l’ensemble des propositions, par R leurs relations et par C leur contexte, le sens peut être représenté par une fonction : S = F(P, R, C).
Une opération de sélection transforme cet ensemble en une nouvelle configuration : (P, R, C) → (P’, R’, C’).
Les propositions conservées peuvent demeurer exactes, tandis que leur signification globale change.
Ainsi, la fidélité d’une représentation ne dépend pas uniquement de la véracité de ses éléments, mais aussi de la pertinence des relations conservées.
Le mensonge sémantique apparaît lorsque la transformation de cette structure conduit le destinataire à une représentation incompatible avec les relations déterminantes du phénomène étudié.
Cette approche rejoint une question fondamentale de la modélisation scientifique : à partir de quel moment la réduction d’un système lui fait-elle perdre sa signification ?
Car toute modélisation est nécessairement réductrice.
Nous ne pouvons jamais représenter la totalité du réel. Nous sélectionnons les variables et les relations que nous estimons pertinentes pour comprendre un phénomène.
La question n’est donc pas de savoir si une représentation est complète — elle ne l’est jamais — mais si les simplifications qu’elle introduit préservent les propriétés essentielles de l’objet étudié.
La frontière entre une modélisation légitime et une représentation trompeuse se situe dans la conservation des relations nécessaires à la compréhension du phénomène.
L’intelligence artificielle et le biais subliminal
C’est ici que l’intelligence artificielle introduit une difficulté nouvelle.
Nous nous préoccupons beaucoup de ses hallucinations, c’est-à-dire de sa capacité à produire des informations inexactes ou inventées.
Mais ce risque, aussi important soit-il, n’est peut-être pas le plus insidieux.
Une hallucination peut être identifiée en confrontant une affirmation à une source fiable. Le mensonge sémantique est autrement difficile à détecter.
Une intelligence artificielle peut présenter des faits exacts, citer des sources authentiques, produire un raisonnement grammaticalement impeccable et néanmoins conduire son utilisateur à une compréhension profondément déformée du sujet.
Pourquoi ?
Parce qu’elle sélectionne les informations, détermine leur ordre, choisit les formulations, privilégie certains rapprochements et en néglige d’autres.
Elle construit donc une représentation du réel.
Or cette représentation dépend de ses données d’entraînement, de ses mécanismes de génération, de ses critères d’optimisation et des orientations qui lui ont été incorporées.
Le résultat peut être un biais subliminal : non pas une affirmation mensongère immédiatement identifiable, mais une orientation implicite de la compréhension.
Et ce biais n’exige même pas une intention consciente de tromper. Il peut résulter du fonctionnement ordinaire du système.
L’intelligence artificielle peut produire les effets d’une propagande sans être elle-même animée d’une intention de propagande.
Le paradoxe de la compétence
Le problème devient particulièrement préoccupant lorsque l’utilisateur ne maîtrise pas le sujet sur lequel il interroge l’intelligence artificielle.
Lorsqu’il possède une connaissance approfondie du domaine, il peut identifier les omissions, les approximations, les relations artificielles ou les éléments indûment privilégiés.
Mais lorsqu’il découvre un sujet, comment peut-il reconnaître ce qui manque à une réponse ?
Comment identifier une relation essentielle qui n’a jamais été présentée ?
Comment distinguer une représentation fidèle d’une représentation orientée lorsque toutes les affirmations semblent exactes ?
Nous rencontrons ici un paradoxe majeur.
Plus l’intelligence artificielle maîtrise le langage, plus elle est capable de produire des discours fluides, cohérents et convaincants.
Mais cette qualité formelle peut masquer les déformations de sa représentation. L’utilisateur risque alors de confondre la cohérence du discours avec sa vérité.
Et plus il ignore le sujet, plus il est susceptible d’accorder sa confiance à cette cohérence apparente.
L’intelligence artificielle devient ainsi potentiellement la plus persuasive précisément là où son utilisateur est le moins capable de la contrôler.
De la vérification des faits à la vérification du sens
La lutte contre la désinformation s’est largement construite autour du fact-checking : vérifier qu’une affirmation correspond à une réalité documentée.
Cette démarche est nécessaire. Mais elle ne suffit pas.
On peut vérifier chacune des propositions d’un discours sans jamais découvrir la déformation globale produite par leur assemblage.
Il faudrait donc compléter la vérification factuelle par une vérification relationnelle et sémantique.
Non seulement demander : « Cette affirmation est-elle vraie ? »
Mais également : « Pourquoi cette information a-t-elle été sélectionnée ? Quelles relations essentielles ont été écartées ? Quelle interprétation résulte de cette organisation ? Et cette interprétation demeure-t-elle fidèle au phénomène étudié ? »
Une telle démarche ne garantirait pas une objectivité absolue.
Elle permettrait cependant de rendre visibles les opérations de réduction et de sélection qui interviennent dans la construction d’un discours.
Elle conduirait surtout à reconnaître que la vérité d’une représentation ne peut être évaluée par la seule exactitude de ses composants.
Conclusion — Le mensonge le plus dangereux est celui que la vérité rend crédible
Nous entrons dans une époque où la production d’informations devient presque illimitée.
L’intelligence artificielle permet désormais de construire en quelques secondes des raisonnements complexes, des synthèses historiques, des analyses scientifiques et des démonstrations apparemment rigoureuses.
Mais l’abondance de l’information ne garantit nullement la fidélité de la connaissance. Le danger n’est pas seulement que l’on nous présente des faits faux.
Il est que l’on nous présente des faits vrais, organisés de telle manière que nous en tirions une compréhension fausse.
C’est le mensonge sémantique.
Il ne falsifie pas nécessairement les mots. Il falsifie leurs relations.
Il ne détruit pas la vérité des éléments. Il détruit la fidélité de l’ensemble.
Et c’est pourquoi une intelligence artificielle véritablement digne de confiance ne devra pas seulement apprendre à ne pas inventer des faits.
Elle devra apprendre à rendre compte des choix par lesquels elle transforme les faits en signification.
Car le mensonge le plus difficile à combattre n’est pas celui qui s’oppose à la vérité. C’est celui qui se sert de la vérité pour mentir.
Richard C. Abitbol
Vous ne payez pas pour lire HaBayta. Vous pouvez choisir de soutenir son indépendance, sa liberté éditoriale et le débat qu’il fait vivre.