Pour la seconde table ronde de la Fête de la Rose 92, Julie Martinez, co-présidente du think tank Noûs et juriste dans la tech, et Romain Gallea, chercheur en relations internationales, ont échangé avec Sébastien Girardot, ingénieur cybersécurité, qui animait la séance. Leur constat : l’intelligence artificielle ne crée pas la désinformation, elle en change l’échelle. La réponse tient à l’éducation, à des sources fiables rendues visibles et à la régulation des plateformes.
Vidéo complète des échanges ci-dessous.
Une définition, un phénomène ancien
Une fausse information, c’est une information qu’on sait délibérément fausse et qu’on diffuse pour tromper. Le phénomène n’est pas nouveau : les libelles qui circulaient contre Marie-Antoinette en sont un exemple.
Ce qui change, c’est le coût. Avant, il fallait de grandes fermes de personnes chargées de rédiger et de relayer les contenus. Depuis l’arrivée des grands modèles de langage, un abonnement de quelques dizaines d’euros suffit à produire et propager massivement. Les algorithmes font le reste : ils ciblent les personnes les plus réceptives selon leurs émotions.
Une France ciblée par les ingérences étrangères
La France, membre du Conseil de sécurité de l’ONU, est une cible pour plusieurs puissances. La Russie est présentée comme l’acteur le plus virulent, notamment depuis la guerre en Ukraine. La Chine joue aussi sa partie dans la zone indo-pacifique, où les territoires d’outre-mer français sont concernés. La Turquie, l’Azerbaïdjan et l’Iran utilisent également ces outils.
Les moyens vont de la diplomatie publique à des entreprises privées, comme Wagner en Afrique, qui a exploité l’image d’une France néocoloniale avant de prendre sa place après son retrait. Viginum, l’agence nationale créée en 2021, analyse ces ingérences. L’État comprend et se défend mieux, mais réagit peu en offensive.
L’objectif de ces attaques n’est pas seulement de faire croire. Les épisodes des punaises de lits à Paris ou des Étoiles de David ont mis plusieurs semaines à être qualifiés d’ingérences, et une fausse information reste plus longtemps en mémoire que son démenti.
« À force de nous imbiber de fausses informations qui, par la suite, sont débunkées, […] le peuple français ne croit plus en rien. »
C’est le risque démocratique décrit par Hannah Arendt : non pas que les citoyens croient tout, mais qu’ils ne croient plus rien et cessent de s’engager.
Pourquoi l’IA aggrave des maux existants
Internet devait offrir à tous un accès méritocratique à l’information. Il a surtout produit un sentiment d’omniscience numérique : on n’a jamais eu autant accès à l’information, ni été autant trompé. À cela s’ajoute une défiance historique envers les responsables politiques et les journalistes, plus forte en France que chez nos voisins allemands, espagnols ou belges.
Les plateformes entretiennent le mécanisme. Leur revenu dépend du temps d’attention, donc de contenus qui maintiennent l’émotion, ce qui favorise la fausse information.
« Elles vivent de fausses informations. »
L’esprit critique, premier rempart
La Finlande sert de modèle : un programme transversal dès la maternelle, plus des campagnes nationales avant chaque période électorale, destinées à tous les âges et en particulier aux seniors, qu’on invite à signaler les contenus suspects. Le pays arrive en tête d’un classement des États qui résistent le mieux à la désinformation. À l’inverse, le système éducatif français arrive tard : l’esprit critique, la lecture d’une image ou le fonctionnement d’un algorithme y sont peu enseignés avant 14-15 ans, alors que les enfants ont un téléphone dès 10 ans.
L’IA vient aussi tirer l’effort de réflexion vers le bas. Se laisser résumer l’information par les moteurs de recherche, c’est abandonner l’exercice de synthèse qui fait la réflexion. Apprendre aux enfants à utiliser l’outil et à en détecter les biais est nécessaire, mais cela ne doit pas faire de la vitesse la priorité. Dans l’enseignement supérieur, certains chercheurs se font piéger par de fausses références universitaires que génèrent les modèles.
Des sources fiables visibles, des plateformes régulées
Deux propositions ressortent. La première : permettre à des journalistes labellisés comme fiables d’émerger en priorité dans les fils des réseaux sociaux, sur le modèle de la Journalism Trust Initiative, au lieu de laisser les contenus émotionnels dominer.
La seconde : réguler les plateformes. Le DSA, le DMA et le RGPD existent, mais ils sont rarement suivis de sanctions, par crainte des menaces douanières américaines. Il reste des outils, dont le droit de la concurrence, pour limiter le pouvoir économique des plateformes. Le RGPD montre que l’extraterritorialité fonctionne : après avoir menacé de couper l’accès aux Européens, les acteurs américains se sont adaptés, et plusieurs pays, comme le Brésil ou les Émirats arabes unis, s’en sont inspirés à la demande de leurs propres citoyens.
Sortir des bulles de filtre
Les bulles de filtre sont un choix économique et politique des plateformes : si vous cliquez sur des chats, on vous en envoie, et si ce sont des contenus qui suscitent la peur, vous continuez d’en recevoir. Cela polarise la société, avec des commentaires clivants et sans nuance, et nous empêche de dialoguer.
Une proposition possible du projet socialiste serait d’imposer aux grandes plateformes de sortir de ces bulles, en réservant un tiers ou un quart des contenus à des opinions différentes, pour confronter chacun à l’altérité.
Les échanges avec la salle
Les questions ont porté sur plusieurs terrains. La première : les personnes âgées, qu’on croit plus exposées aux contenus générés par l’IA et aux arnaques (par exemple des vidéos de faux artisans relayées sur Facebook). La réponse a été de s’inspirer des campagnes finlandaises, qui engagent les citoyens à signaler et à vérifier.
La salle a aussi nuancé : les jeunes, nés avec Internet, ne lisent pas la presse et s’informent par flux, et même de très bons utilisateurs ne comprennent pas ce qui se passe derrière l’outil. La désinformation locale, relayée sur les réseaux utilisés par les collectivités, a été évoquée. Enfin, la question de l’école est revenue : il faudrait enseigner l’esprit critique dès le primaire, impliquer toute la société civile, élèves compris, plutôt que de se contenter d’interdire les réseaux sociaux.
Ce qu’il faudrait faire
- Enseigner l’esprit critique et la vérification de l’information dès l’école primaire, avec des campagnes grand public avant chaque élection.
- Rendre visibles en priorité les journalistes labellisés comme fiables sur les réseaux sociaux.
- Faire appliquer et sanctionner le DSA, le DMA et le RGPD, et mobiliser le droit de la concurrence.
- Imposer aux plateformes une part de contenus d’opinions différentes pour sortir des bulles de filtre.
- Mobiliser tous les citoyens : vérifier avant de partager, et ne pas oublier les seniors.
- Mieux préparer l’enseignement supérieur et la recherche aux fausses références générées par l’IA.
- Renforcer la capacité de riposte de l’État face aux ingérences étrangères.
Vous pouvez retrouver l’intégralité des échanges sur notre chaîne YouTube