Verfälschte Kurzvideos kursieren vor US-Midterms

Am Dienstag stehen in den USA die für die zweite Hälfte der Amtszeit eines US-Präsidenten richtungsweisenden Midterm Elections an. Erreichen die Demokraten die Mehrheit sowohl im Senat als auch in Repräsentantenhaus, hat es die Regierung von Donald Trump deutlich schwerer, ihre Agenden durchzubringen. Wenig überraschend stieg knapp vor den Wahlen auch die Zahl an Falschbehauptungen massiv an (1). Oft werden dabei Prominenten falsche Aussagen in den Mund gelegt (2,3,4,5).

Einschätzung: Bei den vor der Wahl in Sozialen Medien massiv verbreiteten Kurzvideos warnen Prominente vermeintlich davor, die Demokraten zu wählen. Die Videos beruhen auf echten Clips und wurden mit Hilfe von Künstlicher Intelligenz (KI) verfälscht, um die demokratische Partei zu diskreditieren. Die Machart und Verbreitung der Videos erinnern frappant an Desinformationskampagnen, die in der Vergangenheit Russland und Russland-nahen Akteuren zugeschrieben wurden.

Überprüfung: Ausländische Informationsmanipulation und Einflussnahme (FIMI, Foreign Information Manipulation and Interference) ist besonders vor Wahlen verstärkt zu beobachten (6). Ein typisches Mittel von Desinformations-Akteuren ist es, Journalistinnen und Journalisten sowie Faktencheckerinnen und Faktenchecker zu beeinflussen. Dieses Vorgehen wird unter „Operation Matrjoschka“ bzw. „Operation Overload“ zusammengefasst (7,8a).

Darunter versteht man nur das versuchte Lahmlegen („overload“) und Bündeln der Ressourcen in Redaktionen, sondern auch das Ausspielen gefälschter Inhalte an Privatpersonen mittels massiver Verbreitungsversuche in diversen sozialen Medien. Die Inhalte geben vor, aus vertrauenswürdigen Medienhäusern zu stammen, indem sie Logos oder Schriftzüge bekannter westlicher Medienhäuser verwenden. Das wird als „Media Spoofing“ bezeichnet (8b).

Prominenten rufen in Fake-Videos auf, Demokraten nicht zu wählen

Auch vor den US-Midterms gibt es einen groß angelegten Fall von „Media Spoofing“. Dabei wurde zuletzt ein populäres Video-Format des bekannten US-Magazins „Vanity Fair“ als Vehikel benutzt. In den mehrere Minuten langen Videos der Reihe „Scene Selection“ sprechen Schauspielerinnen und Schauspieler über ihre größten Film- und Show-Erfolge (9).

Diese Vanity Fair-Videos etwa von den Schauspielerinnen wie etwa Jennifer Aniston, Meryl Streep, Jennifer Garner oder dem Schauspieler Mark Ruffalo dienen als Grundlage für verfälschte Kurzclips. Deren Ablauf ist immer derselbe: Anfangs wird ein Schnipsel aus dem echten Vanity-Fair-Video gezeigt, wohl um Authentizität aufzubauen. Nach der Einleitung durch die prominente Person jedoch ersetzen Symbolvideos (bspw. Geld, eine Hand die einen Stimmzettel ankreuzt oder ein Politiker hinterm Rednerpult) den visuellen Teil. Der Audio-Clip scheint weiterzugehen, doch auch hier handelt sich um einen Fake. Scheinbar rufen die Schauspielerinnen und Schauspieler dazu auf, gegen die demokratische Partei zu stimmen und kritisieren deren Politik.

Die Stimmen sind jedoch KI-generiert; die Schauspielerinnen und Schauspieler haben das, was ihnen in den Mund gelegt wird, nie gesagt. Für das Training dieser künstlichen Stimm-Modelle reichen oft nur wenige Minuten an Material, um eine verblüffend ähnliche Kopie („Sprach-Klon“ bzw. „Voice Clone“) zu erstellen (10).

Am Ende sind wieder die Schauspieler im Original zu sehen, auch diese Ausschnitte stammen von Vanity Fair bzw. in Ruffalos Fall aus einer Videoreihe des Männermagazins GQ. Zudem sollen die Videos glaubhaft machen, dass verschiedene Hashtags, die die US-Demokraten kritisieren, derzeit im Trend lägen. Wer insinuiert, dass es eine große, von Prominenten getragene Kampagne gegen die demokratische Partei gebe, macht sich den sogenannten „Bandwagon Effect“ zunutze. Jene, die das Video sehen, springen sozusagen „auf den Zug auf“, dem ja scheinbar schon vertrauenswürdige Personen angehören (11).

Große Ähnlichkeit mit Operationen Russland-naher Akteure

Die entsprechenden Videos sind meist nur wenige Stunden auf Plattformen wie X oder TikTok online, ehe sie dort automatisiert gelöscht werden. Aus diesem Grund liegen sie in diesem Text auch nur noch in archivierter Form vor (2,3,4,5).

Die Drahtzieher der Kampagne sind zwar nicht bekannt, sie ähnelt jedoch früheren Operationen, die Russland oder Russland-nahen Akteuren zugeordnet wurden. APA-Faktencheck stellte ähnliche Muster der Einflussnahme vor Wahlen auch schon zu früheren Zeitpunkten fest, etwa vor Wahlen in Armenien, Moldau oder den jüngsten Regionalwahlen in Deutschland (12,13,14).

Besonders brisant ist die Einflussnahme vor den Zwischenwahlen in den USA vor dem Hintergrund der jüngsten politischen Entwicklungen. Erst kürzlich schlossen Russland und die USA ein Diesel-Abkommen ab, nachdem Treibstoffpreise auch in den USA und wegen des von den USA verursachten Iran-Konflikts in den vergangenen Monaten angestiegen waren (15).

Quellen:

(1) „Guardian“ zu Desinformation vor den Midterm Elections: https://go.apa.at/KIPVyMon (archiviert: https://go.apa.at/nZRD02w6)

(2) Verfälschtes TikTok-Video mit Jennifer Aniston (nur archiviert): https://perma.cc/48EG-LJR8; Video archiviert: https://go.apa.at/69q8glUT; (Originalvideo Vanity Fair: https://go.apa.at/EGkYZIQN )

(3) Verfälschtes TikTok-Video mit Meryl Streep (nur archiviert): https://perma.cc/2JK2-LK3S; Video: https://go.apa.at/feqJCnmU (Originalvideo Vanity Fair: https://go.apa.at/p6NNlqfA)

(4) Verfälschtes TikTok-Video mit Jennifer Garner (nur archiviert): https://perma.cc/W2Z9-8FU8 Originalvideo Vanity Fair: https://go.apa.at/hGLQJToH Original: https://go.apa.at/mbcJvfik

(5) Verfälschtes TikTok-Video mit Mark Ruffalo (nur archiviert): https://perma.cc/RN94-LU48; Video: https://go.apa.at/ClbFPGfx (Originalvideo GQ: https://go.apa.at/xFVuSD42; archiviert: https://go.apa.at/CUmnSLhM )

(6) Infos deutsche Bundesregierung zu FIMI: https://go.apa.at/6nJmoLnY (archiviert: https://go.apa.at/KfC7AlS1)

(7) „tagesschau.de“ zu Desinformationskampagnen: https://go.apa.at/UKaqFhSO (archiviert: https://go.apa.at/2Sg6KIzD)

(8a) CeMAS zu Desinformationskampagnen: https://go.apa.at/Zno5Rr1Y (archiviert: https://go.apa.at/cuo3FY0r)

(8b) International Press Institute (IPI) zu „Media Spoofing“: https://go.apa.at/UTezkWQ6 (archiviert: https://go.apa.at/ypCmKUSa)

(9) „Scence Selection“ von Vanity Fair: https://go.apa.at/h1UxNxUK (archiviert: https://go.apa.at/6P4QHP6z)

(10) „derstandard.at“ zu KI-Audios: https://go.apa.at/6GsLPfVg (archiviert: https://go.apa.at/MtXOXN9M)

(11) Bandwagon-Effekt: https://go.apa.at/94TNUG36 (archiviert: https://go.apa.at/ZXKNn8WL)

(12) APA-Faktencheck vor der Wahl in Armenien: https://go.apa.at/KQvQ1XxQ

(13) APA-Faktencheck vor der Wahl in Moldau: https://go.apa.at/Fzb8zc1I

(14) APA-Faktencheck vor den Regionalwahlen in Deutschland: https://go.apa.at/V0zSn35s

(15) „Handelsblatt“ zum Dieselabkommen: https://go.apa.at/9w6IXBO8 (archiviert: https://go.apa.at/qxpfM78B)

Stefan Rathmanner / Christina Schwaha / Gisela Linschinger / Janika Sörensen

Wenn Sie zum Faktencheck-Team Kontakt aufnehmen oder Faktenchecks zu relevanten Themen anregen möchten, schreiben Sie bitte an faktencheck@apa.at. Die Texte vieler deutschsprachiger Faktencheck-Teams finden Sie auf der Seite des German-Austrian Digital Media Observatory (GADMO) unter: www.gadmo.eu