Une enquête a révélé l’existence d’un réseau de sites Web basés en Russie qui se font passer pour des journaux locaux américains. Ces sites diffusent de fausses informations dans le cadre d’une opération alimentée par l’intelligence artificielle, qui cible de plus en plus les élections américaines. L’un des principaux acteurs de ce réseau est John Mark Dougan, un ancien policier américain vivant désormais à Moscou.La désinformation en ligne est devenue un problème majeur dans notre société connectée. Avec l’avènement de l’intelligence artificielle (IA), les propagateurs de fausses informations ont trouvé un nouvel outil puissant pour manipuler les opinions publiques
Ce qui suit aurait fait l'effet d'une bombe - si c'était vrai.
Olena Zelenska, la première dame d'Ukraine, aurait acheté une rare voiture de sport Bugatti Tourbillon pour 4,5 millions d'euros lors d'une visite à Paris pour les commémorations du jour J en juin. L'argent proviendrait de l'aide militaire américaine.
L'histoire est apparue il y a quelques jours sur un site web français et a été rapidement démentie.
Des experts ont relevé d'étranges anomalies sur la facture mise en ligne. Un lanceur d'alerte cité dans l'article n'apparaissait que dans une vidéo bizarrement éditée qui pourrait avoir été créée artificiellement. Bugatti a publié un démenti cinglant, qualifiant l'information de "fake news", et son concessionnaire parisien a menacé d'intenter une action en justice contre les personnes à l'origine de cette fausse histoire :
Ce lundi 1er juillet 2024, la concession BUGATTI Paris, exploitée par la société AUTOFFICINA PARIGI, du Groupe Car Lovers, a été victime de plusieurs infractions pénales. Un prétendu commercial se revendiquant du groupe Car Lovers et de son label sportif Schumacher Group, a publié une vidéo sur les réseaux sociaux dans laquelle il indique que la concession Bugatti Paris aurait été la vendeuse d’un véhicule au couple présidentiel ukrainien, Monsieur et Madame Zelensky. Pour tenter de fonder ces informations erronées, l’auteur de la vidéo publie une prétendue facture de vente d’un véhicule BUGATTI Tourbillon, au nom de Madame Olena Zelenska, en date du 7 juin 2024. Le Groupe Car Lovers dément fermement à la fois l’existence de cette transaction et, partant, l’existence de cette facture. Non seulement les mentions légales obligatoires ne figurent pas sur la facture, mais le prix du véhicule est également erroné, le prix des options et leurs descriptions sont inexacts et incohérents, la charte graphique est désuète, et le Groupe Car Lovers n’aurait jamais permis l’édition d’un tel document. Ces informations erronées attireront, nous l’espérons, l’attention de chacun.Le Groupe Car Lovers a d’ores et déjà saisi la justice des faits ci-dessus exposés en déposant une plainte pénale pour faux, usage de faux, usurpation d’identité et diffamation, notamment. Une nouvelle fois, le Groupe Car Lovers dénonce avec force cette campagne de désinformation.
Une large opération de diffusion de fake news
Mais avant que la vérité ne puisse éclater, le mensonge est devenu viral. Les influenceurs avaient déjà repris la fausse histoire et l'avaient largement diffusée. Un utilisateur X, l'activiste pro-Russie et pro-Donald Trump Jackson Hinkle, a posté un lien vu par plus de 6,5 millions de personnes. Plusieurs autres comptes ont diffusé l'histoire à des millions d'autres utilisateurs X - au moins 12 millions au total, selon les mesures du site.
Il s'agissait d'un faux article, publié sur un faux site d'information, conçu pour se propager largement en ligne et dont l'origine se trouve dans une opération de désinformation basée en Russie que BBC Verify a révélée pour la première fois l'année dernière - à ce moment-là, l'opération semblait viser à saper le gouvernement ukrainien.
La dernière enquête du quotidien britannique, menée sur plus de six mois et impliquant l'examen de centaines d'articles sur des dizaines de sites web, a révélé que l'opération avait une nouvelle cible : les électeurs américains. Des dizaines de faux articles suivis par la BBC semblent viser à influencer les électeurs américains et à semer la méfiance avant les élections de novembre. Certaines ont été ignorées, mais d'autres ont été partagées par des influenceurs et des membres du Congrès américain.
L'histoire de la Bugatti a touché plusieurs des thèmes principaux de l'opération : la corruption ukrainienne, les dépenses d'aide des États-Unis et les rouages de la haute société française.
Un autre faux, devenu viral au début de l'année, visait plus directement la politique américaine.
Publié sur un site web appelé The Houston Post - l'un des dizaines de sites aux noms à consonance américaine qui sont en réalité gérés depuis Moscou - il prétendait que le FBI avait illégalement mis sur écoute le centre de villégiature de Donald Trump en Floride.
Cette affaire s'inscrit parfaitement dans le cadre des allégations de Trump selon lesquelles le système judiciaire est injustement monté contre lui, qu'il existe une conspiration visant à contrecarrer sa campagne et que ses adversaires utilisent de sales coups pour le saper. Trump lui-même a accusé le FBI d'espionner ses conversations.
La partie émergée de l'iceberg
Selon les experts, cette opération n'est qu'une partie d'un effort beaucoup plus vaste, mené depuis Moscou, pour diffuser de la désinformation pendant la campagne électorale américaine.
Bien qu'aucune preuve tangible n'ait été apportée quant au fait que ces sites de fausses nouvelles sont gérés par l'État russe, les chercheurs affirment que l'ampleur et la sophistication de l'opération sont largement similaires aux efforts antérieurs soutenus par le Kremlin pour diffuser de la désinformation en Occident.
« La Russie sera impliquée dans les élections américaines de 2024, comme d'autres », a déclaré Chris Krebs, qui, en tant que directeur de l'Agence américaine de cybersécurité et de sécurité des infrastructures, était chargé de veiller à l'intégrité de l'élection présidentielle de 2020. « Nous les voyons déjà - d'un point de vue plus large des opérations d'information sur les médias sociaux et ailleurs - entrer dans la mêlée, en poussant sur des points déjà litigieux de la politique américaine », a-t-il ajouté.
Suivi de 611 sites de désinformation sur la Russie et l'Ukraine
Comment les fake news se sont propagées
Depuis que les campagnes de désinformation soutenues par les États et les opérations lucratives de "fake news" ont attiré l'attention lors de la campagne électorale américaine de 2016, les marchands de désinformation ont dû redoubler d'imagination pour diffuser leur contenu et le faire paraître crédible.
L'opération sur laquelle BBC Verify a enquêté utilise l'intelligence artificielle pour générer des milliers d'articles d'actualité, publiés sur des dizaines de sites dont les noms sont censés sonner typiquement américains - Houston Post, Chicago Crier, Boston Times, DC Weekly et d'autres. Certains utilisent le nom de vrais journaux qui ont disparu il y a des années ou des décennies.
La plupart des articles publiés sur ces sites ne sont pas des faux. Ils sont plutôt basés sur des articles réels provenant d'autres sites et apparemment réécrits par un logiciel d'intelligence artificielle.
Dans certains cas, les instructions données aux moteurs d'intelligence artificielle étaient visibles sur les articles finis, comme par exemple : « Veuillez réécrire cet article en adoptant une position conservatrice ».
Les articles sont attribués à des centaines de faux journalistes aux noms inventés et, dans certains cas, aux photos de profil prises ailleurs sur l'internet. Par exemple, la photo de l'écrivain à succès Judy Batalion a été utilisée pour plusieurs articles sur un site web appelé DC Weekly, « écrit » par une personne en ligne appelée « Jessica Devlin ».
« J'étais totalement désorientée », a déclaré Batalion. « Je ne comprends toujours pas ce que ma photo faisait sur ce site ». Batalion a déclaré qu'elle avait supposé que la photo avait été copiée et collée à partir de son profil LinkedIn. « Je n'avais aucun contact avec ce site web », a-t-elle déclaré. « Cela m'a rendue plus consciente du fait que toute photo de vous en ligne peut être utilisée par quelqu'un d'autre ».
Faire passer le faux pour le vrai
Le nombre d'articles - des milliers chaque semaine - et leur répétition sur différents sites web indiquent que le processus de publication de contenu généré par l'IA est automatisé. Les navigateurs occasionnels pourraient facilement avoir l'impression que ces sites sont des sources florissantes d'informations légitimes sur la politique et les questions sociales brûlantes.
Toutefois, ce tsunami de contenu est parsemé de la véritable substance de l'opération : de fausses histoires visant de plus en plus le public américain.
Ces histoires mélangent souvent des questions politiques américaines et ukrainiennes - par exemple, l'une d'entre elles affirme qu'une employée d'un organisme de propagande ukrainien a été consternée de découvrir qu'on lui avait confié des tâches destinées à faire tomber Donald Trump et à soutenir le président Biden.
Un autre rapport invente un voyage de shopping à New York effectué par la première dame d'Ukraine et prétend qu'elle s'est montrée raciste à l'égard du personnel d'une bijouterie.
La BBC a découvert que de faux documents et de fausses vidéos YouTube ont été utilisés pour étayer ces deux fausses histoires. Certains de ces faux ont été diffusés et ont obtenu un taux d'engagement élevé sur les médias sociaux, a déclaré Clement Briens, analyste principal du renseignement sur les menaces à la société de cybersécurité Recorded Future.
Son entreprise affirme que 120 sites web ont été enregistrés par l'opération - qu'elle appelle CopyCop - en seulement trois jours au mois de mai. Ce réseau n'est qu'une des nombreuses opérations de désinformation menées par la Russie.
D'autres experts - chez Microsoft, à l'université de Clemson et chez Newsguard, une société qui traque les sites de désinformation - ont également suivi le réseau. Newsguard affirme avoir dénombré au moins 170 sites liés à l'opération. « Au départ, l'opération semblait modeste », a déclaré McKenzie Sadeghi, rédacteur en chef de Newsguard pour les questions d'influence étrangère et d'intelligence artificielle. « Au fil des semaines, elle a semblé prendre de l'ampleur en termes de taille et de portée. Les gens en Russie citaient et renforçaient régulièrement ces récits, par l'intermédiaire de la télévision d'État russe, des responsables du Kremlin et des personnes influentes du Kremlin ».
« Presque toutes les semaines ou toutes les deux semaines, il y a un nouveau récit qui provient de ce réseau », a-t-elle déclaré.
Pour renforcer la crédibilité des fausses histoires, les agents créent des vidéos sur YouTube, mettant souvent en scène des personnes qui prétendent être des « lanceurs d'alerte » ou des « journalistes indépendants ».
Dans certains cas, les vidéos sont racontées par des acteurs, dans d'autres, il semble qu'il s'agisse de voix générées par l'IA.
Plusieurs vidéos semblent être tournées sur un arrière-plan similaire, ce qui laisse penser qu'il s'agit d'un effort coordonné pour diffuser des fake news. Les vidéos ne sont pas destinées à devenir virales et sont très peu vues sur YouTube. En revanche, elles sont citées comme « sources » et reprises dans des articles sur les sites web des faux journaux.
Conclusion
La désinformation alimentée par l’IA est un défi majeur pour notre démocratie. En tant que citoyens, nous devons être conscients de ces manipulations et chercher des sources d’information fiables. Ensemble, nous pouvons contrer cette menace et protéger notre société contre la propagation de fausses informations.
Sources : communiqué de presse, Instagram Bugatti, BBC Verify, Voice of America, NewsGuard
Et vous ?
La désinformation en ligne : Comment pouvons-nous mieux identifier et contrer les fausses informations qui circulent sur Internet, en particulier pendant les périodes électorales ? L’IA et la manipulation : Quels sont les avantages et les inconvénients de l’utilisation de l’intelligence artificielle pour diffuser de la désinformation ? Comment pouvons-nous réguler son utilisation ? La responsabilité des plateformes : Les grandes plateformes en ligne ont-elles suffisamment de responsabilités pour lutter contre la désinformation ? Comment pourraient-elles améliorer leurs efforts ? La confiance dans les médias : Comment pouvons-nous rétablir la confiance du public dans les médias traditionnels et les sources d’information fiables ? 
Envoyé par BugFactory
