Les défis et les opportunités que présente l’IA dans la lutte contre les ingérences étrangères.
Organisé par le Cercle Pégase, cet événement a réuni deux experts de renom pour discuter des défis et des opportunités liés aux ingérences étrangères à
l'ère de l'intelligence artificielle.
Intervenants :
Sacha Houlié
Sacha Houlié, député de la Vienne et ancien président de la commission des Lois de l'Assemblée nationale, a apporté son éclairage sur les défis législatifs
et institutionnels liés aux ingérences étrangères.
Chloé Debiève
Chloé Debiève, experte en influence et lutte informationnelle au CICDE, nous a partagé ses précieuses connaissances sur les stratégies d'influence et les manipulations
de l'information.
1. Nature et évolution des ingérences étrangères
Les ingérences étrangères en France ont évolué et se manifestent sous diverses formes, notamment les cyberattaques, les manipulations de l'information, et l'utilisation du droit comme arme (lawfare). Les principales
menaces proviennent de la Russie, de la Chine, de la Turquie ou encore de l'Iran, chacune ayant des objectifs spécifiques :
- Russie : Déstabilisation des régimes démocratiques par la manipulation de l'information et l'ingérence dans les processus électoraux. Exemple : manipulation de l'élection présidentielle
roumaine via TikTok.
- Chine : Prédation économique et scientifique, notamment par la captation des savoirs économiques et scientifiques français. Exemple : intérêt pour les ressources naturelles comme le nickel
en Nouvelle-Calédonie.
- Turquie : Manipulation des communautés culturelles en France, notamment par le financement d'associations cultuelles. Exemple : l'affaire des Loups gris.
- Iran : Diplomatie des otages et menaces directes contre les ressortissants français et alliés. Exemple : les actions du Hamas et du Hezbollah.
2. Impact des ingérences sur la société et la politique
Les ingérences étrangères visent à déstabiliser la société française en amplifiant les faiblesses existantes, telles que les tensions sociales et politiques. Notre conférence est revenue sur
plusieurs exemples concrets :
- Cyberattaques : Attaques sur les hôpitaux, comme celle de Corbeil-Essonnes, et sur les ministères, notamment France Travail.
- Manipulations électorales : Utilisation des réseaux sociaux pour influencer les élections, comme en Roumanie.
- Campagnes de désinformation : Exemples incluent les fausses informations sur les punaises de lit avant les Jeux Olympiques et les étoiles de David sur les murs du 17e arrondissement pour nourrir le sentiment d'antisémitisme.
Ces actions cherchent à semer la confusion, à affaiblir la confiance dans les institutions démocratiques et à créer des divisions au sein de la société.
3. Rôle de l'intelligence artificielle dans les ingérences et la lutte contre celles-ci
L'IA est utilisée à la fois comme outil d'ingérence et comme moyen de défense. Les compétiteurs étrangers utilisent l'IA pour créer des contenus manipulés et amplifier leur diffusion. En réponse,
la France développe des outils d'IA pour détecter et contrer ces manipulations.
Utilisation offensive de l'IA :
- Création de contenus manipulés : Les deepfakes sont des vidéos ou des enregistrements audios falsifiés créés à l'aide de l'IA. Ils peuvent être utilisés pour diffuser de
fausses déclarations attribuées à des personnalités publiques, créant ainsi de la confusion et de la désinformation. Par exemple, un deepfake pourrait montrer un dirigeant politique faisant des déclarations
compromettantes ou fausses, influençant ainsi l'opinion publique.
- Images et textes générés par IA : Les IA peuvent générer des images et des textes réalistes mais faux, utilisés pour créer des articles de presse, des posts sur les réseaux
sociaux, ou des commentaires en ligne qui semblent authentiques mais qui sont en réalité des fabrications destinées à manipuler l'opinion publique.
- Manipulation des algorithmes de réseaux sociaux : Les compétiteurs étrangers utilisent des bots et des comptes automatisés pour amplifier les messages de désinformation. En manipulant les algorithmes
des réseaux sociaux, ils peuvent faire en sorte que ces messages atteignent un large public rapidement. Par exemple, lors de l'élection présidentielle roumaine, des comptes d'influenceurs ont été activés
pour générer des millions d'impressions en quelques jours, influençant ainsi le résultat de l'élection.
- Ciblage précis : L'IA permet de cibler des groupes spécifiques de la population avec des messages personnalisés. En analysant les données des utilisateurs, les compétiteurs peuvent identifier les
segments de la population les plus susceptibles de croire à la désinformation et de la partager.
Utilisation défensive de l'IA :
- Détection des comportements suspects : La France utilise des algorithmes pour analyser les données de connexion et détecter les comportements suspects. Par exemple, un algorithme peut identifier des schémas
de réservation de voyages qui correspondent à ceux utilisés par des agents étrangers. Cela permet de repérer rapidement les individus qui pourraient être impliqués dans des activités d'ingérence.
- Surveillance des réseaux sociaux : Des outils d'IA sont utilisés pour surveiller les réseaux sociaux et détecter les campagnes de désinformation en temps réel. Ces outils peuvent identifier
les comptes automatisés et les bots, ainsi que les contenus manipulés, permettant ainsi de réagir rapidement pour limiter leur impact.
- Détection des deepfakes : Des algorithmes spécifiques sont développés pour détecter les deepfakes. Ces algorithmes analysent les vidéos et les enregistrements audio pour identifier les signes
de manipulation. Par exemple, ils peuvent détecter des incohérences dans les mouvements des lèvres ou des anomalies dans les fréquences audios qui indiquent qu'un enregistrement a été falsifié.
- Collaboration avec les plateformes : La France collabore avec les plateformes de réseaux sociaux pour mettre en place des systèmes de détection des deepfakes. Ces systèmes permettent de signaler rapidement
les contenus suspects et de les retirer avant qu'ils ne se propagent largement.
4. Mesures législatives et institutionnelles pour contrer les ingérences
La France a mis en place plusieurs mesures pour lutter contre les ingérences étrangères, notamment :
Loi sur les ingérences étrangères de 2024 :
- Contrôle algorithmique des données de connexion : La loi autorise le développement et l'utilisation d'algorithmes pour surveiller les données de connexion et détecter les comportements suspects. Cela
permet de repérer rapidement les activités d'ingérence et de prendre des mesures pour les contrer.
- Confiscation des biens : La loi permet également la confiscation des biens des agents étrangers impliqués dans des activités d'ingérence. Cela inclut les biens financiers et matériels, ce
qui limite les ressources disponibles pour mener des opérations de déstabilisation.
Création de Viginum en 2021 :
- Détection et caractérisation des manipulations de l'information : Viginum est un service dédié à la vigilance et à la protection contre les ingérences numériques. Il utilise
des outils d'IA pour détecter et caractériser les manipulations de l'information, permettant ainsi de sensibiliser le public et de prendre des mesures pour contrer ces manipulations.
- Sensibilisation et formation : Viginum joue également un rôle clé dans la sensibilisation et la formation des citoyens, des entreprises et des institutions sur les risques liés aux ingérences numériques
et sur les moyens de s'en protéger.
Structuration de la réponse interministérielle et interalliée : Coordination entre les différents ministères et avec les alliés internationaux pour une réponse cohérente et efficace.
Par exemple, le ministère des Armées travaille avec le ministère de l'Europe et des Affaires étrangères pour coordonner les efforts de lutte contre les ingérences.
5. Importance de la cohésion nationale et de l'éducation
La cohésion nationale est essentielle pour réduire l'impact des ingérences étrangères. Des événements comme les Jeux Olympiques montrent que lorsque la société fait corps, les tentatives de
manipulation sont moins efficaces. L'éducation joue un rôle crucial dans cette lutte :
- Formation des citoyens : Développement de l'esprit critique et de la résilience face aux manipulations de l'information. Initiatives comme celles du CLEMI (Centre pour l'éducation aux médias et à
l'information) sont essentielles pour sensibiliser et former les jeunes et les enseignants.
- Rôle des médias : Les médias doivent continuer à vérifier les faits et à informer le public de manière transparente et précise. Des initiatives comme l'alliance pour les faits,
lancée par plusieurs médias français et européens, visent à lutter contre la désinformation et à garantir l'intégrité de l'information.
Conclusion
La lutte contre les ingérences étrangères à l'heure de l'IA nécessite une approche multidimensionnelle, combinant des mesures législatives, des outils technologiques avancés, une coopération internationale
et une éducation renforcée. La cohésion nationale et la vigilance de chaque citoyen sont des éléments clés pour protéger la démocratie et les valeurs républicaines face à ces menaces.