AI Deepfakes Pose Threat to Elections Worldwide | VOANews

Summary

Au cours des semaines précédant les élections du 14 février en Indonésie, les électeurs ont été submergés par des vidéos et des audio manipulés, y compris des deepfakes de politiciens. Les fact-checkers de la MAFO dénoncent l'utilisation de l'IA génératice pour diffuser des désinformations, un phénomène qui s'est intensifié en 2024. Aux États-Unis, les élections primaires ont également fait face à des défis liés à l'AI, avec des appels téléphoniques et des publicités électorales modifiés. La plupart des électeurs interrogés par VA expriment leur manque de confiance pour distinguer les deepfakes des contenus réels, mettant en lumière l'importance du rôle des médias et des mesures gouvernementales pour protéger les consommateurs contre les tromperies AI.

Takeaways

• 🗳️ Des élections en Indonésie prévues le 14 février, où les électeurs sont submergés par des vidéos et des sons manipulés, y compris des deepfakes de politiciens.
• 🎭 L'utilisation de l'IA génératif est un élément clé des campagnes de désinformation lors des élections de 2024, distincte des précédentes élections.
• 🔍 Les fact-checkers comme Santi Indra Asti de la communauté anti-discrimination de l'Indonésie (MAFO) identifient et dénoncent les deepfakes.
• 📉 Une évolution des techniques de désinformation de discreditation des adversaires en 2014, à la discreditation des organisateurs de l'élection en 2019, jusqu'à la discreditation du processus démocratique lui-même en 2024.
• 📹 Des vidéos deepfake ont été divulguées montrant des dirigeants politiques en train de parler arabe pour séduire les électeurs musulmans, malgré le fait qu'ils ne parlent pas arabe en réalité.
• 🤔 Les électeurs sont peu confiants dans leur capacité à distinguer les deepfakes des contenus réels, mettant l'accent sur le rôle des médias pour vérifier l'information.
• 🇺🇸 Les élections primaires aux États-Unis ont débuté avec des défis posés par l'AI, y compris des appels téléphoniques deepfake et des publicités de campagne.
• 📈 L'AI est de plus en plus présente dans les élections, de fin 2023 à 2024, devenant la nouvelle norme du paysage politique et électoral.
• 🛡️ Des mesures de protection contre les hoax AI sont mises en place au niveau fédéral aux États-Unis, mais leur efficacité est incertaine.
• 📋 Aucune exigence actuelle pour étiqueter le contenu généré par l'IA, même s'il est utilisé à des fins politiques ou pour la désinformation.
• 📊 L'entreprise Deep Media, contractée par le Département de la Défense des États-Unis pour détecter les deepfakes, estime que 500 000 clips ont été diffusés en 2023, un chiffre susceptible de croître en 2024.