Vermehrt „KI-Slop“ zu Ukraine und Selenskyj

Die Menge an „KI-Slop“, also minderwertige Inhalte, die mit Hilfe von Künstlicher Intelligenz (KI) erstellt und via Social Media verbreitet werden, hat im vergangenen Jahr deutlich zugenommen. Immer öfter betreffen diese Inhalte auch die Ukraine und Präsident Wolodymyr Selenskyj persönlich (1,2,3,4,5,6). Sie sind relativ einfach zu entlarven, zielen aber auch weniger auf Irreführung ab als auf Stimmungsmache.

Einschätzung: Die Kurzvideos wurden allesamt mit Hilfe von KI generiert. Ziel des oftmals absurden oder kindischen Contents ist es, Selenskyj zu diskreditieren und die Ukraine als schwach darzustellen.

Überprüfung: Diskreditierende Behauptungen über den ukrainischen Präsidenten Wolodymyr Selenskyj sind nicht neu und tauchen im Netz immer wieder auf. Aktuell sind es besonders KI-generierte Videos, die ihn mittels fragwürdigem Humors diskreditieren sollen.

Putin und Selenskyj gemeinsam im Fitnessstudio? Eher nicht!

Eines zeigt zum Beispiel, wie Trump, Putin, Kim Jong-Un und Selenskyj gemeinsam an einem Streetfood-Stand sitzen und Trump Selenskyj immer wieder einen Taco vor die Nase hält und unter dem Gelächter der anderen wegzieht, als dieser hineinbeißen will (3). Am Ende scheint Putin Selenskyj wirklich füttern zu wollen, zieht jedoch ebenfalls im letzten Augenblick den Taco weg.

Ein anderes KI-Video zeigt scheinbar Selenskyj und Putin im Fitnessstudio (1). Ein kleinwüchsiger Selenskyj prahlt erst mit seinen Muskeln herum und bereitet sich dann scheinbar aufs Kreuzheben vor. Er hebt dann allerdings eine sehr kleine, leichte Hantel an, was Putin im Hintergrund mit einem Prusten quittiert und sich vor Lachen aus dem Bild bewegen muss. In einem letzten Video zieht Trump Selenskyj im Sprung die Füße weg, sodass dieser mit dem Kopf in einer Schlammlacke landet (2).

KI-Fakes werden immer glaubwürdiger

Die Videos zeigen, dass KI-Fakes immer schwieriger zu erkennen werden. Hier ist vor allem der Kontext entscheidend, denn über alle diese Personen wird in seriösen Medien umfassend berichtet. Auch ist es richtiggehend unmöglich, dass etwa Putin und Selenskyj zusammen ins Fitnessstudio gehen würden. Zudem stimmen in diesem Video die Proportionen nicht; tatsächlich ist Selenskyj etwas kleiner als Putin, aber nicht um so viel kleiner (7). Im Schlamm-Video fällt besonders auf, dass Selenskyj seinen sauberen Kopf aus dem Schlamm hebt. Eigentlich müsste er dreckverschmiert sein.

Im dritten Video muss man etwas länger suchen, um offensichtliche Fehler zu entdecken. Vermutlich wurde ein reales Video von einem Tacostand hergenommen und die Figuren wurden mittels KI darauf montiert. Da es für die vier Politiker viel Videomaterial gibt, kann die KI sie sehr originalgetreu darstellen.

Auch andere Politiker Ziel

Die Videos stammen mutmaßlich von Accounts (8,9), die reihenweise KI-generierten Content über die Akteure und Akteurinnen im Ukraine-Krieg posten. Die Videos verbreiten sich so im Internet.

Meist treten Putin, Trump und Selenskyj auf, häufig zusammen mit anderen internationalen Politikern und Politikerinnen wie Ursula von der Leyen, Emmanuel Macron oder Kim Jong-un. Auffällig ist, dass eigentlich immer Putin als Sieger aus den Auseinandersetzungen geht oder derjenige ist, der am Ende lacht. Der Witz geht also auf Kosten des Westens.

Kofferwort „Slopaganda“ erklärt fragwürdigen Trend

Das Phänomen, dass eingängige Propagandavideos mittels KI schnell und einfach produziert und auf die sozialen Medien gestellt werden, nennt sich „Slopaganda“. Es ist ein Kofferwort aus den Begriffen „Slop“, KI-generiertes Material von niedriger Qualität, und „Propaganda“. Bekannt wurde es vor allem durch die KI-generierten LEGO-Kurzgeschichten, die zu Beginn der US-israelischen Angriffe auf den Iran erschienen (10). Dort wurde ebenfalls Humor, aber auch LEGO als von vielen heißgeliebtes Kinderspielzeug eingesetzt, um der eigenen Botschaft, der Iran würde sich heldenhaft gegen die ungerechte Übermacht wehren, Glaubwürdigkeit zu verleihen.

Kinderspielzeug und Witze als Propagandainstrumente?

Positive Emotionen wie Humor oder Freude über ein geliebtes Kinderspielzeug werden somit „gekapert“ und kommen der Verbreitung der dahinterliegenden Nachricht zugute. Das schreiben die Forschenden, die den Begriff „Slopaganda“ geprägt haben (11). Die sozialen Medien helfen mit personalisierten Feeds und gezieltem Targeting auf Basis von Werbedaten, die Videos zu verbreiten.

Durch die Verfügbarkeit von generativer KI ist es zudem sehr günstig geworden, diese Videos in großer Zahl, sehr schnell und passgenau auf aktuelle Situationen herzustellen. Und selbst, wenn die Menschen diese Videos als KI-generiert und unwahr erkennen, bleibt bei ausreichender Wiederholung jedoch ein Körnchen der „Botschaft“ stecken. Konsumiert man viel von diesem fabrizierten Content, so wirkt er außerdem immer familiärer und das Wahrheitsgefühl beim Anschauen steigt.

Falschbehauptungen dienen dazu, Selenskyj zu diskreditieren

Eine wiederkehrende Falschbehauptung, die wohl darauf abzielt, die Legitimität des ukrainischen Präsidenten zu untergraben, ist jene, dass Selenskyj den Krieg absichtlich verlängern wolle und deshalb an Frieden mit Russland gar kein Interesse habe (4). Tatsächlich hat Selenskyj bereits mehrmals seine Bereitschaft zu Friedensverhandlungen unter bestimmten Voraussetzungen erklärt (12). Einen ukrainischen Vorschlag zur Waffenruhe hatte der Kreml erst jüngst abgelehnt (13). Auch ein von der Ukraine, gemeinsam mit den USA und Europa ausgearbeitetes Papier über eine umfassende Friedenslösung wies der Kreml noch vor der Vorlage des Entwurfs Ende August umgehend zurück (14).

KI-Video von weinendem Soldaten erneut im Umlauf

International macht aktuell ein weiteres Video mit Ukraine-Bezug, das ebenfalls KI-generiert ist, die Runde. Darin bittet ein weinender ukrainischer Soldat in einem emotionalen Statement um Hilfe und sagt laut deutschen Untertiteln „Ich will nicht sterben“ (5,6). Doch das Video ist nicht neu. Es ging bereits vor rund einem Jahr viral, mehrere Faktencheck-Organisationen, darunter das Team von APA-Faktencheck (15), analysierten den Clip und kamen zu dem Schluss, dass es sich dabei um synthetisch hergestelltes Material handelt. Insbesondere eine Niete am Schutzhelm des Soldaten, die ihre Form binnen weniger Sekunden verändert, deutet auf den Einsatz von KI hin.

Wie die dpa in einem Faktencheck herausfand, führt zudem eine Bilderrückwärtssuche (16) mit einem Screenshot des Helmes zu einem Bild auf eine Verkaufsplattform (17). Dort wird ein Helm angeboten, der in Farbe und Form dem Helm aus dem Clip stark ähnelt. Ukrainische Soldaten tragen ähnliche Modelle, wie echte Fotos aus Medienberichten nahelegen (18,19), dennoch weisen all diese Helme bei genauerer Betrachtung klare Unterschiede zu dem Helm mit der Niete aus dem Video auf.

Fragen wirft zudem das angegebene Alter des Mannes – 23 Jahre – auf, denn in der Ukraine werden erst Männer ab 25 Jahren in die Armee einberufen (20). Eine Gesichtserkennungssuche legt unterdessen nahe, dass in dem Video ein russischer Streamer aus St. Petersburg zu sehen sein könnte. Er ist unter dem Pseudonym Kussia88 bekannt, wie ein Faktencheck der „Deutschen Welle“ vom Vorjahr zeigt (21). Das heißt allerdings nicht, dass der Mann das Video tatsächlich selbst hergestellt hat.

KI-Inhalte auf Social Media immer präsenter und gezielter

Generell ist der Anteil an Falschinformationen, die KI-Elemente enthalten, im letzten Jahr rasant gestiegen, wie die monatlichen Erhebungen des European Digital Media Observatory (EDMO) zeigen (22, Seite 8). Sahen Videos mit ähnlich diskreditierendem Inhalt vor etwa zwei Jahren noch vergleichsweise plump aus (23), ist auch bei KI Slop wie bei vielen anderen KI-generierten Inhalten die technische Qualität der Clips und Bilder seither gestiegen.

Nötig wäre das freilich nicht: In solchen Clips geht es nicht darum, dass das Gezeigte tatsächlich geglaubt wird. Vielmehr haben sie zum Ziel, Propaganda zu verbreiten, unliebsame politische Figuren ins Lächerliche zu ziehen und die Gesellschaft zu spalten. Damit sind sie nicht als harmloser Clickbait oder Spam abzutun, sondern als reale Bedrohung für demokratische Prozesse und Strukturen – ein typisches Merkmal gut dokumentierter Desinformationskampagnen (24,25), die von einer großen Mehrheit der Bevölkerung auch als Gefahr gesehen werden (26).

Quellen:

(1) Facebook-Post (Fitnessstudio): Facebook (Post archiviert: https://go.apa.at/5Qb5WuZs) (Video archiviert: https://go.apa.at/471Cb7Te)

(2) Facebook-Post II (Schlamm): https://go.apa.at/sxoXSWd9 (Post archiviert: https://go.apa.at/5t7X8xj3, Video archiviert: https://go.apa.at/86kSsFHq)

(3) Facebook-Post III (Tacos): https://go.apa.at/gMmyRqx4 (Post archiviert: https://go.apa.at/nLP3LaY9, Video archiviert: https://go.apa.at/yeoGTfil)

(4) Facebook-Post (Selenskyj Frieden): https://go.apa.at/rafuVErT (archiviert: https://go.apa.at/b5NTRedM)

(5) Facebook-Post mit weinendem Soldaten I: https://go.apa.at/dfHFMkOl (archiviert: https://go.apa.at/V9CjHCBF)

(6) Facebook-Post mit weinendem Soldaten II: https://go.apa.at/iAlXWMVC (archiviert: https://go.apa.at/K1lda0gw)

(7) Putin Selenskyj Größe: https://go.apa.at/Km05zcJQ (archiviert: https://go.apa.at/qHbMHQzd)

(8) Account 1: https://go.apa.at/BfNKKCGh (archiviert: https://go.apa.at/GIgrugqB)

(9) Account 2: https://go.apa.at/GIgrugqB (archiviert: https://go.apa.at/vM845Tam)

(10) BBC Slopaganda: https://go.apa.at/ptL3PnpE (archiviert: https://go.apa.at/SvKtjR1k)

(11) Paper Slopaganda: https://go.apa.at/gHIezODG (archiviert: https://go.apa.at/BjnBYKsR)

(12) „Ukrainische Friedensformel“ auf Website der ukrainischen Präsidentschaftskanzlei: https://go.apa.at/H3lrVIUL (archiviert: https://go.apa.at/Ar5lPurQ)

(13) „orf.at“ zu Waffenruhevorschlag: https://go.apa.at/bxW8PMFy (archiviert: https://go.apa.at/uYXpCheb)

(14) „welt.at“ zu Friedenslösung: https://go.apa.at/Vd8Kd6Ja (archiviert: https://go.apa.at/WU7MQVYx)

(15) APA-Faktencheck zu Video mit weinendem Soldaten: https://go.apa.at/w7S5L6uI

(16) Infos zu Bilderrückwärtssuche auf CheckBar: https://go.apa.at/jmdc41ms (archiviert: https://go.apa.at/LKVwPGKW)

(17) Helm auf Verkaufsplattform: https://go.apa.at/DfWvsip8 (archiviert: https://go.apa.at/bGBYsr23)

(18) Bild mit Helm eines ukrainischen Soldaten: https://go.apa.at/ALMUe3iZ (archiviert: https://go.apa.at/7lBQddUT)

(19) Artikel Deutsche Welle: https://go.apa.at/H2QkD7Rv (archiviert: https://go.apa.at/kJ4DFmWy)

(20) Artikel „orf.at“ zu Mobilisierung von Soldaten in der Ukraine: https://go.apa.at/PCCZOb71 (archiviert: https://go.apa.at/cl1J95FC)

(21) Faktencheck „Deutsche Welle“: https://go.apa.at/oDCGGZ9y (archiviert: https://go.apa.at/eXRNaOMB)

(22) EDMO Situational Report, ua. zu KI-Inhalten: https://go.apa.at/FVzOs9mF (archiviert: https://perma.cc/2SB5-SXZM)

(23) APA-Faktencheck vom 19. Dezember 2024: https://go.apa.at/h01RYpgw

(24) Deutsches Innenministerium zu Desinformation: https://go.apa.at/jJQYDIdK (archiviert: https://perma.cc/KB5H-XA6U)

(25) Deutschlandfunk zu Desinformationskampagnen: https://go.apa.at/u4bW3dcd (archiviert: https://perma.cc/4A8W-HN5S)

(26) Studie der Bertelsmann-Stiftung: https://go.apa.at/RiJCge0v (archiviert: https://perma.cc/4ZLU-DQ8N)

Christina Schwaha / Janika Sörensen / Stefan Rathmanner

Wenn Sie zum Faktencheck-Team Kontakt aufnehmen oder Faktenchecks zu relevanten Themen anregen möchten, schreiben Sie bitte an faktencheck@apa.at. Die Texte vieler deutschsprachiger Faktencheck-Teams finden Sie auf der Seite des German-Austrian Digital Media Observatory (GADMO) unter: www.gadmo.eu