AI Deepfakes Pose Threat to Elections Worldwide | VOANews

Summary

In den Wochen vor den Wahlen in Indonesien am 14. Februar 2024 wurden Wähler mit manipulierten Videos und Deepfakes konfrontiert. Diese Technologien, insbesondere generative KI, sind die treibende Kraft hinter modernen Desinformationskampagnen, die mittlerweile nicht nur politische Gegner diskreditieren, sondern auch den gesamten demokratischen Prozess infrage stellen. Deepfakes, wie gefälschte Gespräche und falsche Videos, die Kandidaten fälschlicherweise als arabisch sprechend zeigen, nehmen zu. Ähnliche Herausforderungen treten auch in den US-Wahlen 2024 auf, mit KI-generierten Medien, die das Vertrauen der Wähler auf die Probe stellen und die politischen Landschaften weltweit beeinflussen.

Takeaways

• 😀 In den Wochen vor den indonesischen Wahlen am 14. Februar 2024 wurden Wähler mit manipulierten Videos und Deepfakes konfrontiert, die politische Persönlichkeiten betrafen.
• 😀 Der Einsatz von generativer KI ist ein neues Element in Desinformationskampagnen, das die Wahlinformationen 2024 von denen in den Jahren 2014 und 2019 unterscheidet.
• 😀 Hoaxes 2024 zielten darauf ab, nicht nur Gegner zu diskreditieren, sondern den gesamten demokratischen Prozess in Frage zu stellen.
• 😀 Ein Beispiel für Deepfake-Desinformation ist eine gefälschte Telefonkonversation von Megawati Sukarnoputri, in der sie den Präsidentschaftskandidaten Ganjar Pranovo scharf zurechtweist.
• 😀 Weitere Deepfake-Videos zeigten Präsidentschaftsaspiranten wie Anies Baswedan und Andi Fluently, die fließend Arabisch sprechen – eine Fähigkeit, die sie in Wirklichkeit nicht besitzen, um Wähler aus der muslimischen Gemeinschaft anzusprechen.
• 😀 Hoaxes im Jahr 2024 dienen nicht nur der Diskreditierung von Gegnern, sondern in einigen Fällen auch der Glorifizierung bestimmter Kandidaten.
• 😀 Auch in den USA beeinflusst KI die Wahlkampagnen, mit KI-generierten Medien, von Anrufen über Deepfake-Audio bis hin zu Kampagnenanzeigen.
• 😀 Viele Wähler sind sich unsicher, ob sie Deepfakes von echten Inhalten unterscheiden können, was die Zuverlässigkeit der Wahlinformation beeinträchtigt.
• 😀 Präsident Biden erließ im Oktober 2023 eine Exekutivanordnung, die Regierungsbehörden auffordert, Leitlinien zum Schutz der Verbraucher vor KI-Hoaxes zu entwickeln, jedoch mit begrenztem Erfolg.
• 😀 Es gibt derzeit keine Vorschrift, die vorschreibt, dass KI-generierte Inhalte als solche gekennzeichnet werden müssen, selbst bei politischen Kampagnen und Desinformationsinhalten.
• 😀 Deepfake-Analysten schätzen, dass weltweit 2023 etwa eine halbe Million Deepfake-Audio- oder Video-Clips verbreitet wurden, mit einer voraussichtlichen Zunahme im Jahr 2024.

Q & A

Was ist der Hauptfaktor, der die Desinformationskampagnen 2024 von denen der vorherigen Wahlen unterscheidet?

Der Hauptfaktor ist der Einsatz von generativer Künstlicher Intelligenz (KI), um Deepfakes zu erstellen, die zunehmend in politischen Desinformationskampagnen verwendet werden.

Wie wurden Deepfakes in den indonesischen Wahlen 2024 genutzt?

In Indonesien wurden Deepfake-Videos verbreitet, die falsche Gespräche und Darstellungen von Politikern, wie z.B. das Erstellen von Videos, in denen Kandidaten fließend Arabisch sprechen, um bestimmte Wählergruppen anzusprechen, zeigten.

Warum wurden Deepfakes in den Wahlen 2024 nicht nur verwendet, um Gegner zu diskreditieren?

Einige Deepfakes wurden genutzt, um die favorisierten Kandidaten zu verherrlichen, indem sie in Videos als überlegene oder charismatische Figuren dargestellt wurden.

Wie reagieren Wähler auf Deepfakes und deren Verbreitung in Wahlkämpfen?

Viele Wähler gaben an, dass sie unsicher sind, ob sie Deepfakes von echten Inhalten unterscheiden können, und hoffen darauf, dass die Medien ihren Job richtig machen, um Fehlinformationen zu entlarven.

Welche Maßnahmen wurden von der US-Regierung ergriffen, um gegen Deepfake-Desinformation vorzugehen?

Präsident Biden unterzeichnete im Oktober eine Exekutivanordnung, die Regierungsbehörden aufforderte, Richtlinien zum Schutz der Verbraucher vor KI-hoaxes zu erlassen.

Wurden diese Maßnahmen als effektiv angesehen?

Die Maßnahmen wurden als nicht sehr effektiv betrachtet, da es derzeit keine Vorschrift gibt, die vorschreibt, dass KI-generierte Inhalte als solche gekennzeichnet werden müssen.

Wie viele Deepfake-Videos und -Audioaufnahmen wurden 2023 weltweit verbreitet?

Schätzungen zufolge wurden 2023 weltweit etwa eine halbe Million Deepfake-Videos oder -Audioaufnahmen verbreitet.

Welches Risiko besteht im Hinblick auf die Verbreitung von Deepfakes im Jahr 2024?

Analysten befürchten, dass die Verbreitung von Deepfakes im Jahr 2024 weiter zunehmen wird, insbesondere während der politisch aufgeladenen Wahljahre.

Warum ist es so schwer, Deepfakes von echten Inhalten zu unterscheiden?

Die Technologien zur Erstellung von Deepfakes sind so fortgeschritten, dass sie sehr realistisch wirken, was es für den durchschnittlichen Wähler nahezu unmöglich macht, zwischen echten und manipulierten Inhalten zu unterscheiden.

Welche Rolle spielt KI in der politischen Landschaft der kommenden Wahlen?

KI hat die politische Landschaft verändert, indem sie als Werkzeug für die Manipulation von Wählern durch das Erstellen von Deepfake-Inhalten eingesetzt wird, was zu einer neuen Ära der politischen und Wahlmanipulation führt.