Désinformation : une guerre du XXIe siècle - Le dessous des cartes | ARTE

Summary

The video script delves into the contemporary warfare of narratives, particularly focusing on the Russian invasion of Ukraine and the role of social media and artificial intelligence in amplifying misinformation. It discusses how a manipulated image of a Nazi flag alongside a Ukrainian flag was used to propagate the idea that Ukraine is a threat, mirroring Moscow's historical justifications for intervention. The script outlines the evolution of strategic information manipulation from the 20th century, exemplified by Nazi Germany's propaganda, to the current era where the UN categorizes disinformation into three types: disinformation, misinformation, and mal-information. It highlights state-level tactics, including the use of diplomats, state-controlled media, and the establishment of influence networks like RT and Sputnik. The narrative further explores covert state influence, such as the 'grey zone' warfare exemplified by the Ghostwriter operation. The script also touches on the digital strategies of authoritarian regimes, including the Russian RuNet law and the use of social media platforms by trolls and influence entrepreneurs like Yevgeny Prigozhin. It concludes by acknowledging the dual-edged nature of social media in democratic societies, where it can both disseminate false narratives and provide a direct line of communication for citizens and leaders alike, as demonstrated by the Ukrainian response to Russian propaganda.

Takeaways

• 📸 A manipulated photo of a Nazi flag alongside a Ukrainian flag on an official building circulated on social media to suggest Ukraine as a threat, similar to World War II narratives.
• 🎥 The photo was actually taken during the filming of a 2012 movie about a football match between Kiev players and German soldiers in 1942, highlighting the use of fake images in information warfare.
• 📡 The 20th-century saw the rise of strategic information manipulation, notably by the Nazi regime through the creation of the Ministry of Public Enlightenment and Propaganda led by Joseph Goebbels.
• 🌐 The advent of social media and artificial intelligence has amplified the power of images and their use, especially by non-democratic regimes, in shaping public opinion and narratives.
• 🔍 The United Nations categorizes misinformation into three types: disinformation (deliberate harm based on false facts), misinformation (unintentional spread of false information), and mal-information (partially true information used to harm).
• 🌍 State-sponsored influence, or 'white influence,' involves diplomats and state-controlled media outlets, which are used by authoritarian governments for information operations.
• 📰 RT (Russia Today) and Sputnik are examples of Russian state media used for influencing global narratives, with RT expanding its presence in Africa after being banned in Europe due to the Ukraine conflict.
• 🏢 Xinhua is central to China's international influence strategy, with other Chinese media required to republish its dispatches on 'sensitive' events.
• 🛡️ 'Grey state influence' refers to more discreet information warfare conducted by states, such as the Ghostwriter operation, which aimed to spread disinformation about the origins of COVID-19.
• 📈 Authoritarian regimes have been quick to adopt new technologies for propaganda and disinformation, with the Russian 'Sovereign Runet' law allowing increased control over the Russian-speaking segment of the internet.
• 🤝 Social media platforms are a key battleground for information wars, with states using trolls and influence entrepreneurs to sow discord and cast doubt, as well as to support political candidates and narratives.

Q & A

What is the significance of the photo that circulated on Russian social media at the beginning of the war?

The photo, which shows a Nazi flag alongside a Ukrainian flag on an official building, was used to spread the idea that Ukraine is a threat and that Russia, like during World War II, needs to intervene. However, the building and flags were from a 2012 film set, not a real event.

How has technology amplified the power of images in warfare?

Social media and artificial intelligence have significantly increased the reach and impact of images, particularly in the hands of non-democratic regimes, making the manipulation and distribution of information more potent.

What is the role of the United Nations in distinguishing between different types of misinformation?

The UN has categorized misinformation into three types: disinformation (deliberate harm based on false facts), misinformation (non-intentional but false information), and mal-information (partially true information used to harm).

How did the KGB and Stasi use disinformation in the 1980s?

They launched Operation INFEKTION to spread the false belief that the HIV virus was created by a U.S. Army laboratory, using a German biologist named Jakob Segal to lend credibility to the claim.

What is the 'white' state influence and how is it used?

White state influence refers to overt state actions, such as diplomats like China's Lu Shaye publicly denying human rights abuses or questioning the sovereignty of other nations. State-controlled media also play a role in these operations.

What is the role of RT and Sputnik in Russia's information strategy?

RT (formerly Russia Today) and Sputnik are state-controlled media outlets used by the Kremlin to disseminate its narratives and influence global opinion. They have been particularly active in spreading disinformation.

How does China exert its international influence through media?

China uses its state-run media agency, Xinhua, as a central part of its international influence strategy. Other Chinese media are required to republish Xinhua's dispatches on 'sensitive' events.

What is the 'grey' state influence and how does it differ from 'white' state influence?

Grey state influence is a more discreet form of information warfare conducted by a state. It includes operations like Ghostwriter, where hackers aligned with Russian interests spread disinformation to sow discord.

How has the Russian state used digital technology to control information?

Russia has implemented laws like the 'Sovereign RuNet' law to install software for analyzing data on the Russian-speaking segment of the internet, and to slow down or block access to certain platforms or media considered 'foreign agents'.

What is the impact of social media on information warfare?

Social media platforms like Facebook, Instagram, Twitter, YouTube, and Reddit are heavily targeted by trolls and states for disinformation campaigns, using fake profiles to sow discord and doubt.

How do influence entrepreneurs like Yevgeny Prigozhin contribute to information warfare?

Influence entrepreneurs like Prigozhin create organizations like the Internet Research Agency to produce politically oriented content and comments. They have been known to support political candidates and spread disinformation on a global scale.

How have Ukrainians used social media to counteract Russian narratives?

Ukrainians have leveraged social media to challenge Russian narratives and mobilize both national and international public opinion, with regular videos from President Zelensky playing a significant role.

Outlines

00:00

📸 Disinformation and War Narratives in the Digital Age

The first paragraph discusses the role of manipulated images and narratives in warfare, exemplified by a photo that circulated on Russian social media during the invasion of Ukraine. The photo, which depicted a Nazi flag alongside a Ukrainian one, aimed to portray Ukraine as a threat, justifying Russian intervention. However, the photo was revealed to be from a 2012 film set, not an actual event. The paragraph also touches on the historical use of propaganda, notably by Nazi Germany, and the modern distinctions between disinformation, misinformation, and mal-information, highlighting the use of social media and AI by non-democratic regimes to amplify their messages.

05:03

🌐 State Influence and Media Manipulation

The second paragraph delves into the state-level strategies for information manipulation, distinguishing between 'white,' 'grey,' and covert influence. It outlines the use of diplomats, state-controlled media, and the establishment of media outlets like RT and Sputnik by Russia to propagate its narratives. The paragraph also mentions China's Xinhua News Agency and its role in shaping international narratives. Additionally, it discusses the 'grey' strategies, such as the Ghostwriter operation, which aimed to spread disinformation about the origins of COVID-19. The digital era and AI have amplified these strategies, with authoritarian regimes at the forefront of utilizing new technologies for information warfare.

10:08

🛡️ Social Media and the Battle for Information Control

The third paragraph focuses on the exploitation of social media platforms by states for information warfare. It details how platforms like Facebook, Instagram, Twitter, YouTube, and Reddit are targeted by trolls and bots to sow discord and doubt. The paragraph also discusses the use of messaging apps like Telegram and WhatsApp to circumvent account bans and continue spreading disinformation. It highlights the role of influence entrepreneurs like Evgueni Prigozhin and the Internet Research Agency in creating content for political purposes, including operations to support Donald Trump's presidential campaign and broader efforts to influence Western societies. The paragraph concludes by emphasizing the dual nature of social media as a tool for both harm and democratic engagement, as demonstrated by the Ukrainian response to Russian narratives.

Keywords

💡Information Warfare

Information warfare refers to the use of information, or the manipulation of information, to achieve strategic objectives. In the context of the video, it is used to describe how states, particularly non-democratic regimes, use social media and AI to amplify images and narratives to influence public opinion and justify their actions, such as the Russian invasion of Ukraine.

💡Disinformation

Disinformation is the deliberate spread of false information with the intent to harm or deceive. The video discusses this in the context of the COVID-19 pandemic and historical examples like the INFEKTION operation by the KGB and Stasi to falsely claim that HIV/AIDS was created by the U.S. military.

💡Misinformation

Misinformation differs from disinformation in that it is not intentionally deceptive, but rather the result of error or carelessness. An example given in the video is Colin Powell's presentation at the UN, where he unknowingly shared incorrect information about anthrax, leading to misinformation about the justification for the Iraq War.

💡Mal-information

Mal-information involves the use of true information in a misleading way to cause harm. The video uses the example of Russia exploiting images of members of the Azov battalion with Nazi tattoos to falsely claim that Ukraine as a whole is overrun by Nazis, despite the Azov battalion not being representative of the Ukrainian army.

💡State Influence

State influence refers to the actions taken by a state to shape public opinion or behavior, both domestically and internationally. The video discusses overt state influence, such as through diplomats and state-controlled media, and covert influence, such as through cyber operations like Ghostwriter, which aimed to spread disinformation about the origin of COVID-19.

💡Digital Censorship

Digital censorship is the suppression of online content by state authorities. The video explains how Russia has implemented laws to control the flow of information on the internet within its borders and in occupied territories, such as Crimea and parts of Ukraine, to restrict access to independent media and maintain a controlled information environment.

💡Social Media Platforms

Social media platforms like Facebook, Instagram, Twitter, YouTube, and Reddit are highlighted as key tools in information warfare. They are exploited by state actors to spread disinformation and manipulate public opinion. The video mentions how these platforms are targeted by trolls and bots to sow discord and doubt.

💡Trolls

Trolls are individuals who create fake profiles online to spread disinformation, harass others, or create confusion. The video discusses how trolls are used by states, particularly Russia and Iran, to conduct operations on social media platforms to influence public opinion and create a narrative that supports their strategic interests.

💡Influence Entrepreneurs

Influence entrepreneurs are individuals who use their resources and influence to shape information and public opinion. The video mentions Yevgeny Prigozhin, a Russian businessman known for his private military company Wagner and his involvement in information warfare through the creation of the Internet Research Agency.

💡Internet Research Agency (IRA)

The Internet Research Agency is a Russian organization known for its role in spreading disinformation and conducting influence operations, particularly during the 2016 U.S. presidential election. The video discusses how the IRA was used to create content and comments aimed at influencing public opinion on social media platforms.

💡Sovereign Runet Law

The Sovereign Runet Law is a Russian legislation that allows the Russian government to control and analyze data transiting through the Russian-speaking segment of the internet. The video explains how this law has been used to restrict access to certain platforms and maintain a controlled information environment within Russia.

Highlights

A photo of a Nazi flag alongside a Ukrainian flag on an official building circulated on Russian social media at the start of the war, aiming to portray Ukraine as a threat and justify Russian intervention.

The photo was revealed to be from a 2012 film set, depicting a football match organized by Nazis in 1942 between Kiev players and German soldiers.

The manipulation of information for strategic purposes became widespread in the 20th century, notably exploited by the Nazi regime through the creation of the Ministry of Public Enlightenment and Propaganda.

The UN distinguishes between disinformation (deliberate harm based on false facts), misinformation (non-intentional false information), and mal-information (partially true information used to harm).

The COVID-19 pandemic led to a massive spread of false information, highlighting the need to categorize and address different types of information manipulation.

Authoritarian governments use state-controlled media as tools in their information operations, contrasting with public service media in democratic regimes.

Russia's state media, such as RT and Sputnik, have been used to influence global narratives, with RT seeking to redeploy in Africa after being banned in Europe.

Iran's state media, including PressTV, sometimes relay Russian propaganda, reflecting shared anti-Western interests between Russia and Iran.

Transcripts

Ravie de vous retrouver pour ce  nouveau numéro du Dessous des Cartes. 

On commence avec une photo qui a tourné en  boucle sur les réseaux sociaux russes au  

début de la guerre et qui nous rappelle  que l’invasion de l’Ukraine menée par  

Vladimir Poutine est aussi une guerre des récits. Voici donc ce que nous présente apparemment cette  

image : un drapeau nazi flottant à côté d’un  drapeau ukrainien sur un bâtiment officiel.

Cette photo est apparue sur twitter en  mars 2022, juste après l’invasion russe. 

Objectif : diffuser l’idée que l’Ukraine, pays  voisin de la Russie est une menace et que,  

comme lors de la seconde guerre  mondiale, Moscou doit intervenir.

Sauf que bien évidemment, ce bâtiment avec ces  deux drapeaux n’existe pas, il s’agit d’une photo  

prise sur le tournage d’un film, sorti en 2012,  qui racontait un match organisé par les Nazis  

en 1942 entre les footballers de Kiev -qu’ils  occupaient- et une équipe de soldats allemands. 

Cette guerre des images tandis qu’un conflit  armé se déroule, en soi ce n’est pas nouveau.

Mais ce qui est nouveau c’est la  technologie : les réseaux sociaux,  

l’Intelligence artificielle qui donnent une  puissance décuplée à ces images et l’usage  

qu’en font particulièrement les régimes  non démocratiques. Sortons nos cartes !

C’est au XXe siècle que la  manipulation de l’information  

à des fins stratégiques va se  diffuser à grande échelle.  

L’un des exemples les plus emblématiques en  est son exploitation par le régime nazi.  

● 1933 est créé le Ministère de l’Éducation du  Peuple et de la Propagande. Joseph Goebbels,  

qui le dirige, s’attaque dans un premier  temps à la “Lügenpresse” (ou « presse  

menteuse ») pour disqualifier les médias  considérés comme “juifs” ou “étrangers”.

● Mais le Troisième Reich ne se  contente pas de “fabriquer” des  

ennemis publics : Goebbels lance une campagne  autour du concept « d’espace vital » avec un  

programme baptisé Schéma général de  l’Est pour inciter les populations  

germanophones à s’installer sur le  flanc Est de l’Allemagne nazie …

Venons en au XXIe : et commençons par  établir une distinction entre les processus  

informationnels délibérés et involontaires… Depuis la pandémie de COVID-19 et la diffusion  

massive de fausses informations qui s’en est  suivie, l’ONU distingue ainsi trois catégories :

● La désinformation, d’abord. Elle  repose sur des faits totalement faux,  

et vise à nuire délibérément. Il s’agit donc  bien d’une manipulation de l’information.  

Exemple au XXe siècle : dans les années  1980, le KGB et la Stasi est-allemande  

lancent ainsi l’opération INFEKTION pour tenter  de faire croire, par l’entremise de Jakob Segal,  

un biologiste est-allemand, que le virus du Sida a  été créé par un laboratoire de l’armée américaine.

● Deuxième catégorie, la mésinformation : elle se  distingue de la désinformation par son caractère  

non-intentionnel, bien que les informations  concernées soient tout aussi fausses.  

Exemple : en 2003, lorsque le secrétaire  d’État américain Colin Powell brandit à  

l’ONU une fiole censée contenir de l’anthrax  pour justifier l’intervention en l’Irak,  

selon lui, il ignorait que le dossier  qu’on lui fournit est sciemment truffé  

d'erreurs… le conduisant de fait  à mésinformer, les Nations Unies…

● Enfin, troisième catégorie  : la mal-information : elle se  

distingue par son caractère partiellement  véridique, avec des informations utilisées  

pour nuire. Il s’agit d’une présentation  volontairement trompeuse d’un fait réel.  

Exemple récent : quand la Russie exploite des  images de membres du bataillon ukrainien Azov  

portant des tatouages nazis pour affirmer que  l'Ukraine, dans son ensemble, est gangrénée  

par le nazisme. Ce bataillon existe, mais il  n’est pas représentatif de l'armée ukrainienne

De façon générale, les États s’engageant  dans des manipulations de l’information  

disposent de différents outils et techniques  d’influence, et c’est ce qu’on va voir maintenant.

Premier niveau : l’influence  étatique dite “blanche”.

Avec d’abord, le rôle des diplomates, à  l’image de cet ambassadeur chinois en France,  

Lu Shaye, qu’on surnommait le “loup guerrier”,

Ce dernier n’hésite pas à nier dans  les médias toute exaction de Pékin  

à l’encontre de la minorité musulmane  des Ouïghours dans la région autonome  

du Xinjiang, ou à remettre en cause  la souveraineté des pays de l’ex-URSS.

Les médias d’État sont aussi  des outils qu’utilisent les  

gouvernements autoritaires dans leurs  opérations informationnelles puisqu’ils  

contrôlent l’intégralité du  contenu qu’ils diffusent,

à la différence des médias de service public des  régimes démocratiques comme la BBC au Royaume-Uni,  

RFI en France ou même Arte, qui n’hésitent pas  à critiquer leurs gouvernements respectifs.

● En Russie, Le Kremlin s’appuie ainsi sur  la chaîne RT, anciennement Russia Today,

Mais après avoir été interdite d’émission en  Europe en mars 2022 avec la guerre en Ukraine,  

RT cherche à se redéployer en Afrique. La  chaîne a prospecté au Kenya et en Afrique  

du Sud pour y établir les bureaux de ses  versions francophones et anglophones,  

et un nouveau bureau a été ouvert à Alger,  fin mars 2023, pour sa version arabophone.

Autre média d’influence russe, Sputnik, qui  se distingue de RT par ses publications au  

ton souvent plus offensif, et qui est lui aussi  lié au groupe Rossiya Segodnya, l’organisme de  

communication officiel de  la Russie à l’international

● Direction maintenant l’Iran. Le  régime islamique s’appuie quant à  

lui sur deux acteurs médiatiques à  portée internationale : ParsToday  

et PressTV, détenus et financés par  l’organisme de radiodiffusion d’État.

Il faut souligner que PressTV se fait  parfois le relais de la propagande russe,  

puisqu’on y retrouve régulièrement des  contenus récupérés sur RT et Sputnik,  

notamment du fait des intérêts anti-occidentaux  communs à la Russie et à l’Iran.

● A présent, direction la Chine, l’agence de  presse Xinhua occupe une place centrale dans  

sa stratégie d'influence internationale de  Pékin puisque les autres médias chinois ont  

l’obligation de reprendre ses dépêches pour  tout événement considéré comme “sensible”.  

Dès 1998, Pékin a par ailleurs érigé une  “grande muraille numérique” afin de contrôler  

l’information sur son propre territoire  et limiter l’accès à des sites étrangers.  

Alors au-delà de cette influence « à découvert  », on parle aussi “d’influence étatique grise”.  

La guerre de l’info est alors toujours menée  par un Etat, mais de façon plus discrète :  

Exemple avec l’opération Ghostwriter, menée  par des hackers biélorusses alignés sur les  

intérêts de la Russie, et dont l’objectif était  de pirater des sites de médias ou des comptes de  

personnalités européennes afin d’y diffuser  l'idée selon laquelle le COVID-19 avait été  

répandu en Europe par les forces américaines  de l’OTAN stationnées sur le continent.

On l’aura compris, si les  stratégies de propagande et  

de désinformation des États ne datent pas d’hier,  

elles ont été démultipliées par l’apparition du  numérique et de l’intelligence artificielle.  

Des nouvelles technologies dont se  sont emparées de façon avant-gardiste  

certains régimes autoritaires, et  c’est-ce qu’on va voir maintenant…

Dès les années 2010, internet est ainsi  au cœur des préoccupations du Kremlin.  

● En novembre 2019, la loi dite du RuNet  souverain prévoit ainsi l’installation  

de logiciels permettant d’analyser les données  transitant sur le segment russophone d’internet.

● Début 2021, c’est grâce à cette loi  que l’État russe a été en mesure de  

ralentir la plateforme Twitter ou  de bloquer l’accès à des médias  

indépendants considérés comme  des « agents de l’étranger ».

S’il reste possible de contourner  cette censure (via des VPN,  

des logiciels dissimulant sa localisation  d’origine), un grand nombre d’internautes  

russophones sont désormais maintenus dans  un environnement informationnel restreint.

Ces techniques ne sont pas  seulement utilisées sur la  

population russe, mais aussi contre  les territoires occupés en Ukraine.

● Depuis 2014 et l’invasion  de la Crimée, les systèmes  

ukrainiens permettant d’accéder à internet depuis  la Crimée ont été rattachés au réseau russe.

● Enfin, entre fin mai et début juin 2022,  

lorsque l'armée de Poutine russe a  envahi les régions du sud de l’Ukraine,  

des techniciens russes sont aussitôt intervenus  à Kherson pour que les internautes de la région  

ne puissent plus s’informer sur Internet  que par des sources validées par Moscou.

Les réseaux sociaux sont par ailleurs l’élément le  plus exploité dans les guerres de l’information.

● Facebook, Instagram ou Twitter, mais  aussi, YouTube ou encore Reddit font  

partie des plateformes ciblées par les  trolls, c’est-à-dire par des personnes  

créant de faux profils pour semer  la discorde ou le doute en ligne.

Entre janvier 2018 et avril 2019,  la Russie et l’Iran ont fait partie  

des États les plus actifs sur Facebook et  Instagram pour mener ce genre d’opérations,

Les applications de messagerie telles que  Telegram ou WhatsApp permettent parfois  

aussi de contourner les suppressions de  compte de trolls sur les réseaux sociaux,  

et de continuer de diffuser des infox dans  des groupes qui leur servent de relais.

Pour mener à bien leurs  opérations de désinformation,  

certains États ont recours à un nouveau type  d’acteurs : les entrepreneurs d’influence,  

tels que l’homme d’affaires  russe Evgueni Prigozhin,  

désormais connu pour ses milices Wagner, mais qui  est aussi un spécialiste de la guerre de l’info.

● Juillet 2013, il crée l’Internet Research  Agency à St Pétersbourg pour recruter des  

professionnels de la création de contenus  et de commentaires à visées politiques.

● En 2016, cette agence va notamment s’illustrer  

en soutenant le candidat puis le  président des États-Unis Donald  

Trump en diffusant des contenus orientés à… ○ 126 millions d’Américains sur Facebook, 

○ 20 millions d’utilisateurs sur Instagram ○ ou encore 1,4 million d'utilisateurs de Twitter

● Cette opération menée depuis la  Russie s’inscrivait dans le cadre  

d’un projet plus global Lakhta lequel visé  tout l’Occident, avec des bureaux ouverts 

○ au Ghana, ○ au Nigeria, 

○ mais aussi au Mexique pour complexifier  la détection de ces usines à trolls  

● Un entrepreneur d’influence et  mercenaire comme Evgueni Prigozhin  

sait monnayer les services de ces entreprises... ○ En Syrie et en Libye, il a ainsi mis la main  

sur des ressources, principalement  minières, gazières et pétrolières.

○ En Afrique subsaharienne, les sociétés  de Prigozhin exploitent notamment des  

concessions minières : ■ à Madagascar, 

■ au Soudan. ■ en République centrafricaine 

■ et des demandes d’exploitation  sont en cours au Mali

Voilà pour cette guerre de l’information  ou de la désinformation qui se joue d’abord  

et avant tout désormais sur les réseaux sociaux.

Les réseaux sociaux, capables  du pire mais aussi du meilleur,  

quand on vit en démocratie : car ils  donnent alors à chacun, dirigeant et  

citoyen un accès direct au monde informationnel. Des réseaux sociaux qui ont notamment permis aux  

Ukrainiens de contrer le narratif russe et  de mobiliser l’opinion publique nationale  

et internationale, notamment grâce  aux vidéos régulières de Zelensky.

C’est une spécialiste de la Russie de l’Ukraine  et de la Biélorussie, la chercheuse Céline Marangé  

publie avec Maud Quessard, Les guerres de  l’information à l'ère numérique chez Puf.

Ainsi s’achève ce nouveau  numéro du Dessous des Cartes,  

rendez-vous bien sûr la semaine  prochaine, même endroit, même heure.

Et d’ici là n’oubliez pas arte.tv où vous  retrouverez l’ensemble de nos vidéos. 

À bientôt.