blog / Mittwoch 24.05.23

Typische KI-Merkmale bei Fake-Bild von Pentagon

APA/AFP/Archiv

Nachdem das Potenzial KI-generierter Bilder in den letzten Monaten mit modischen Papst-Darstellungen oder erfundenen Verhaftungen des Ex-US-Präsidenten Donald Trump spielerisch erprobt wurde, hat nun ein gefälschtes Bild mit viel Reichweite (1,2) eventuell sogar die Aktienmärkte beeinflusst. Das Bild einer mutmaßlichen Explosion vor dem Pentagon weist klare KI-typische Merkmale auf, auf die man als User achten sollte.

Einschätzung: Vor dem Pentagon hat es keine Explosion gegeben. Das Bild wurde mithilfe einer Künstlichen Intelligenz (KI) generiert.

Überprüfung: Am 22. Mai soll es, glaubt man den Beiträgen in sozialen Medien, in den USA zu einer Explosion vor dem Hauptsitz des US-Verteidigungsministeriums Pentagon gekommen sein. Dies stellte sich allerdings schnell als Falschmeldung heraus.

Die Feuerwehr von Arlington County, wo auch das Pentagon zu finden ist, stellte auf Twitter klar (3), dass es keine Explosion oder vergleichbare Vorfälle beim Pentagon gegeben habe. Obwohl der Tweet sogar vom offiziellen, aber nicht-verifizierten Twitter-Account der Bundesbehörde Pentagon Force Protection Agency (PFPA) weitergeleitet worden ist (4), wurde die Klarstellung bis dato nur etwas mehr als hundert Mal geteilt.

Befeuert durch zahlreiche Twitter-Accounts mit dem blauen ehemaligen Verifizierungs-Häkchen, das heute alleine durch ein Twitter-Blue-Abonnement (5) erworben werden kann, und russische Medien, gelangte die Falschinformation schließlich zu größerer Reichweite (6,7). Dies hatte eventuell auch zur Folge, dass der Aktienindex S&P 500 am Montagvormittag (Ortszeit) kurzzeitig eingebrochen ist (8). Zumindest war im täglichen Kursverlauf innerhalb des Zeitrahmens der Verbreitung der Falschbehauptung ein rasanter Sturzflug zu beobachten (7), den viele mit den Gerüchten über eine Explosion beim Pentagon in Verbindung brachten (6,9,10).

Tatsächlich gibt es mehrere Hinweise im Bild selbst, die darauf hindeuten, dass es von einer KI erzeugt worden ist. So ist am Bild etwa gar nicht das Pentagon zu sehen. Bei einem Abgleich mit Aufnahmen von Kartendiensten zeigt sich, dass es in Wirklichkeit anders aussieht (11). Die Washington Post zitiert einen Feuerwehrmann von Arlington County, der sagte, dass es kein derartiges Gebäude dort gebe (6).

Bei KI-generierten Bildern gilt es derzeit, vor allem auf Symmetrie, Einheitlichkeit, Parallelität und Logik zu achten. Mit bloßem Auge lässt sich so etwa erkennen, dass der Zaun vor dem abgebildeten Gebäude nicht einheitlich verläuft, sondern auf der linken Seite plötzlich zu einer Art Absperrgitter übergeht, wie sie auf Demonstrationen eingesetzt werden. Auch die Höhe des Gehsteigs senkt sich immer weiter ab, je weiter man nach rechts blickt.

Am Gebäude selbst fällt auf, dass weder Fenster noch Säulen einheitlich sind. Die Säulen in der Mitte des Bauwerks wirken sogar, als wären sie Vorhänge, die vom Dach runterhängen. Auch dies deutet auf ein typisches Merkmal von KI im derzeitigen Stadium hin, da mehrmals unterschiedliche Elemente miteinander verschmolzen werden.

KI-generierte Bilder sind derzeit noch nicht perfekt, daher gibt es noch zahlreiche Hinweise auf die man achten kann. In einem anderen APA-Faktencheck wurden bereits zahlreiche Tipps zur Überführung von KI-Bildern gegeben, insbesondere wenn sie Personen enthalten (12).

Darüber hinaus gelten Grundsätze klassischer journalistischer Recherche. So ließen sich etwa keine weiteren Aufnahmen des angeblichen Vorfalls finden, die bei einer solchen Rauchwolke mit hoher Wahrscheinlichkeit existieren müssten. Außerdem gibt es sogar Aufnahmen von Menschen, die angaben, vor Ort zu sein, auf denen keinerlei Schäden oder Rauchspuren zu sehen waren – etwa bei mehreren Aufnahmen eines selbstständigen Fotografen auf Youtube und Twitter (13,14).

Wenn Sie zum Faktencheck-Team Kontakt aufnehmen oder Faktenchecks zu relevanten Themen anregen möchten, schreiben Sie bitte an faktencheck@apa.at. Die Texte vieler deutschsprachiger Faktencheck-Teams finden Sie auf der Seite des German-Austrian Digital Media Observatory (GADMO) unter: www.gadmo.eu

Florian Schmidt / Stefan Rathmanner

Kontaktieren Sie uns

Typische KI-Merkmale bei Fake-Bild von Pentagon