„The Future of Fact Checking”: Desinformation und Gegenstrategien

Nach der Premiere im September 2023 widmete sich die APA vergangene Woche erneut dem Thema Fact Checking, das angesichts immer ausgeklügelterer Desinformationskampagnen und damit einhergehender Angriffe auf demokratische Institutionen an Bedeutung gewinnt. Die Diskussionen unter der Moderation von Ambra Schuster und Idan Hanin, ORF/ZIB-TikTok, drehten sich dabei unter anderem darum, wie Media Literacy vermittelt werden kann, welche Rolle Falschinformationen auf Wahlergebnisse haben können und welche Rolle der Januskopf der Künstlichen Intelligenz in all diesen Themenbereichen einnimmt.

Freie Medien sind der Schlüssel

In seinen Eröffnungsworten sprach APA-Geschäftsführer Clemens Pig zunächst von der Notwendigkeit, für Demokratie zu kämpfen. „Democracy will win if we fight for it“, zitierte Pig den ehemaligen US-Präsidenten Barack Obama. In diesem Kampf seien freie Medien unerlässlich. „Ohne freie Medien ist es ein Leichtes, Andersdenkende und die Opposition auszuschalten und letztlich auch die unabhängige Justiz unter staatliche Kontrolle zu stellen“, so der APA-Geschäftsführer. Aktuell seien freie Medien von zwei Seiten in Bedrängnis. Einerseits durch die Algorithmus-gestützte Meinungsbildung in den Sozialen Netzwerken, die häufig die Reichweite von Falschinformationen begünstige. Andererseits durch „klassische“ Cyberangriffe, die Medien genauso wie andere Unternehmen treffen können und gerade im Wahljahr 2024 vermehrt aufkommen könnten. KI habe das Potenzial, all diese Gefahren zu potenzieren. Deshalb sei es notwendig, meinte Pig, hin zu einer „Trusted AI“ zu kommen, die sich durch ein verantwortungsvolles Zusammenspiel von Mensch und Maschine auszeichne. Für Österreich skizzierte Pig die Gründung eines „Austria Media LLM“, in dem alle unabhängigen Medien ihre faktenbasierten und zuverlässigen Nachrichten in einem gemeinsamen sicheren System zum Trainieren von Sprachmodellen vereinen.

Keynote: Bildungssysteme neu denken

In der anschließenden Keynote führte YouTuber Alexander Prinz/„Der dunkel Parabelritter“ einmal quer durch die Möglichkeiten, die KI-Systeme heute bieten. Besonderes Augenmerk lag dabei auf der Geschwindigkeit, mit der die Entwicklung aktuell voranschreitet. „An Tools wie Midjourney (ein KI-Tool zur Bildgenerierung, Anm.) kann man bildlich gut erkennen, wie schnell die Entwicklung dieser Large Language Models passiert“, so Prinz. Während es bei älteren Versionen noch klar ersichtlich gewesen sei, dass es sich um KI-generierte Bilder handle, sei das bei der neuesten Version nur noch schwer und mit freiem Auge oft gar nicht mehr erkennbar.

Ein weiteres Beispiel seien künstlich erzeugte Stimmen. Als aktuelles Beispiel verwies Prinz auf den Streit zwischen Scarlett Johansson und Open AI, das seinem Chatbot ChatGPT eine Stimme gegeben hat, die wie die Schauspielerin klingt – allerdings ohne deren Erlaubnis. Prinz resümierte: „Es ist einfacher denn je, verkürzte und falsche Informationen weiterzugeben. Ich bin deshalb der Meinung, dass man das Bildungssystem komplett neu denken und aufsetzen muss.“

Panel 1: Jugendliche, Media Literacy und Vertrauen

Damit lieferte Prinz einen stimmigen Übergang zum ersten Panel des Tages, in dem er gemeinsam mit Barbara Buchegger, Safer Internet, Anna Jandrisevits, „Die Chefredaktion“, Thomas Rott, Kurier-Bildungsplattform „Was jetzt Schule“, und Isabella Zins, Vorsitzende der AHS-DirektorInnen, über die Bedeutung von Media Literacy sprach. Ein von Schülerinnen und Schülern der AHS BORG Mistelbach produziertes Video, in dem sie Mitschüler:innen interviewten, zeigte dabei zu Beginn, dass ein überwiegender Teil Informationen über TikTok und andere Plattformen bezieht, zu klassischen Medien aber wenig Bezug hat.

AHS-Direktorin Zins stellte mit Bezug auf das präsentierte Video fest, dass es sicher einen realistischen Einblick zeige: „Die Lebenswelt von Jugendlichen hat sich rasant geändert. Es gibt heute eine Flut von Quellen, vielen Lehrkräften fehlt der Einblick in diese Welt.“ Auch wenn sich in den Schulen in den vergangenen Jahren viel in punkto Didaktik und Lernmethoden getan habe, sei es den Lehrkräften allein nicht möglich, immer mit den neuesten Trends Schritt zu halten. Es brauche, so Zins weiter, gemeinsame Anstrengungen von Eltern, Lehrkräften und Medien.

Jandrisevits sah im fehlenden Verständnis für die Arbeit von Journalist:innen einen Schlüssel zur Lösung des Problems. Die Nachrichtenflut überfordere viele junge Menschen, es stelle sich die Frage, wem man noch vertrauen könne. „Die Chefredaktion“ verfolge einen anderen Ansatz: „Auch bei Themen, die auf den ersten Blick banal wirken, lassen sich journalistisch hochwertig aufbereitete Beiträge machen“, so die Chefredakteurin. Sie unterstrich dabei, wie wichtig der direkte Austausch mit Jugendlichen sei.

Buchegger stimmte dem Befund des fehlenden Vertrauens in Medien bzw. Quellen zu, ergänzte mit dem Verweis auf eine Safer-Internet-Studie aber, dass auch Influencer, deren Inhalte von Jugendlichen konsumiert würden, kein Vertrauen entgegengebracht werde. „Die Jugendlichen wissen, dass Social Media nur begrenzt vertrauenswürdig ist“, meinte Buchegger. Das Problem sei allerdings, dass das Bewusstsein dafür fehle, welche vertrauenswürdigen Quellen es gäbe. Sie betonte zudem, dass es mehr Nachrichten direkt für Jugendliche und Kinder brauche: „Kinder kennen keine Nachrichten mehr, weil sie zuhause nicht mehr laufen, und dann können sie irgendwann nicht mehr unterscheiden zwischen seriösen Quellen und Memes.“

Daran schloss Rott mit einem Beispiel aus der Praxis der Kurier-Redaktion an. Dort hat man mit „Was jetzt Schule“ eine Plattform ins Leben gerufen, die pro Woche drei Medienbeiträge didaktisiert und als Unterrichtsmaterial aufbereitet. Entstanden sei das Ganze kooperativ: „Wir hatten in der Entwicklungsphase 150 Schüler:innern und Lehrer:innen an Bord.“ Kurze Trailervideos sollen Interessierte nach Social-Media-Logik „hineinholen“, auf der Plattform selbst gibt es tiefergehende Beiträge, die sich auf Basis mehrerer Quellen mit einem Thema intensiv beschäftigen.

Impulsvortrag: Desinformation unter dem Digital Service Act

Vor dem Beginn des zweiten Panels gab die stellvertretende Vorsitzende der KommAustria, Susanne Lackner, einen Überblick zum Thema Desinformation vor dem Hintergrund des Digital Service Acts. Zunächst begegnete Lackner dem oft geäußerten Vorwurf der Zensur, wenn es um die Bekämpfung von Desinformation geht: „Darum geht es überhaupt nicht, sondern es geht um illegale Inhalte.“ Im Kampf gegen Desinformation seien für die Plattformen unter anderem verifizierte Faktenchecks, wie sie die APA anbiete, zentral.

Panel 2: Desinformation und Wahlen

Das zweite Panel des Tages widmete sich dem Thema Desinformation und Wahlen. Sophie Timmermann von Correctiv, Karl-Heinz Grundböck, Leiter der Kommunikation des Österreichischen Parlaments, Jakob-Moritz Eberl, Wahlforscher an der Uni Wien, Carola Schneider, Leiterin des ORF-Büros in Moskau, und Ulrike Schiesser, Leiterin der Bundesstelle für Sektenfragen, diskutierten über die Gefahren, die von Desinformationskampagnen im Wahljahr 2024 ausgehen können.

Timmermann hielt einleitend fest, dass Desinformationen seit der Covid-Pandemie im Alltag stärker spürbar sei. Welche Desinformations-Narrative das Wahljahr prägen werden, ließe sich bereits jetzt abschätzen: „Wir sehen bestimmte Themengebiete, die immer wieder auftauchen, das sind etwa Migration, Klima, Krisen und Konflikte, etwa die Kriege in Ukraine oder Gaza.“ Auf einen gemeinsamen Nenner gebracht, eigne sich generell alles, was emotionalisiert, Angst schürt und das Potenzial hat, etwas in uns auszulösen, so Timmermann weiter.

Bezogen auf die Gefährdung des Wahlvorganges durch Desinformationen betonte Grundböck, dass der Wahlvorgang selbst in Österreich nicht manipulierbar sei, weil er auf analogen Bedingungen beruhe. „Worüber wir sprechen, ist die Frage der Manipulierbarkeit von Informationsgrundlagen auf Basis derer eine Wahlentscheidung stattfindet“, so Grundböck. Als großes übergeordnetes Thema sah Grundböck den Vertrauensverlust der Öffentlichkeit in klassische journalistische Medien und in politische Repräsentation. Das Parlament versuche dem entgegenzuarbeiten, indem man darüber aufkläre, wie Parlamentarismus und Demokratie funktionieren, so Grundböck.

Solche Initiativen bewertete Eberl grundsätzlich positiv, das Problem sah der Wahlforscher aber tiefer: „Wir haben einerseits Einwirkung von außen durch Drittstaaten, aber auch innerhalb Österreichs, die ein Interesse daran haben, dieses Vertrauen zu schwächen und zu zersetzen.“ Auf die Gefahren von Deepfakes angesprochen, relativierte Eberl: „Ich würde davor warnen, vor zu großen Effekten vor Wahlen auszugehen. Gerade jene, die schon öfter wählen waren, haben verfestigte politische Überzeugungen, da muss schon viel passieren, damit sich die ändern.“

Beim Thema Beeinflussung von außen kam die Debatte häufig auf Russland zu sprechen. Schneider hielt fest, dass der Staat einer der großen Akteure in Europa sei, wenn es darum gehe, für Vertrauensverlust zu sorgen. „Man darf aber nie vergessen, Russland erfindet die Konflikte nicht, die es anheizt, sondern versucht bestehende Themen, wie Migration oder den Zweifel an Wissenschaft, aufzublasen“, so die Leiterin des ORF-Büros in Moskau. Das passiere etwa mit Trollfabriken, Bots oder Deepfakes. Dass dahinter Kalkül stecke, zeige etwa der Umgang mit den Covid-Impfungen. Während in Russland Impfungen durch die heimischen Medien befürwortet wurden, nahmen Ableger russischer Medien in Europa die gegenteilige Position ein. „Das Ziel ist, dass in Europa niemand mehr an etwas glaubt“, so Schneider.

Nicht vergessen dürfe man außerdem, ergänzte Schiesser, dass hinter Fake News auch ein Geschäftsfeld stehe, in dem sich etwa durch Spendenaufrufe oder mit dem Verkauf vermeintlicher Wundermittel Geld verdienen lasse. Lassen sich diese Verschwörungsgläubigen noch erreichen? „Ich würde nicht mehr versuchen, mit Informationen an diese Personen zu kommen. Das ist eine Frage des Glaubens, da werden bessere Informationen nichts helfen. Ich würde eher darüber diskutieren, woher sie ihre Fakten nehmen und warum sie bestimmten Quellen Vertrauen schenken“, so Schiesser.

Panel 3: Künstliche Intelligenz

Das dritte Panel erörterte ein Thema, das implizit bereits den ganzen Tag über mitschwang: Künstliche Intelligenz. Darüber diskutierten Stefan Woltran, KI-Forscher an der TU Wien, Viorela Dan, Medienforscherin an der Uni Innsbruck, „Kurt Fleisch“, KI-Video-Künstler, Wolfgang Fasching-Kapfenberger, Head of Communication and PR, Google Österreich, und Valerie Schmid, APA-Faktencheck.

Am Beginn räumte Woltran mit der Vorstellung auf, dass es sich bei Künstlicher Intelligenz um ein neues Phänomen handle: „Es gibt KI-Forschung schon sehr lange, seit etwa Ende der 50er-Jahre. Dabei kann man zwei Strömungen unterscheiden, die symbolische KI, die klassisch auf Algorithmen basiert, und was jetzt neu dazugekommen ist, ist die sogenannte subsymbolische KI, unter die etwa Machine Learning und generative KI fallen.“ In der Grundlagenforschung sei man aktuell bestrebt, diese beiden zusammenzuführen.

Man beobachte die aktuellen Entwicklungen sehr genau, meinte Schmid vom APA-Faktencheck-Team. „In der Slowakei wurde letzten September 48 Stunden vor der Wahl ein Audio-Deepfake eines Kandidaten verbreitet. So kurz vor der Wahl ist bei vielen Menschen dann nicht mehr angekommen, dass es sich bei der Aufnahme um ein Deepfake handelte“, führte Schmid aus.

Die Gefahr, die von Deepfakes ausgehe, sei derzeit aber überschaubar, meinte Dan: „Die meisten der Inhalte, die im Moment kursieren, sind nicht glaubwürdig genug dafür, dass Menschen ihre Wahlentscheidungen davon abhängig machen.“ Die langfristigen Auswirkungen könne man aktuell noch nicht abschätzen, weil es die Systeme noch nicht lang genug gäbe, meinte Dan weiter, man solle aber jedenfalls Schwarzmalerei vermeiden.

Auch bei Google beobachtet man die Entwicklungen genau. Fasching-Kapfenberger: „Wir haben gerade im Superwahljahr große Aufmerksamkeit auf das Thema. Für Wahlwerbung muss man sich bei Google registrieren, das kann nicht einfach jeder machen.“ Bei YouTube setze man zudem seit kurzem darauf, dass realistische Inhalte, die von einer KI-erzeugt wurden, entsprechend gekennzeichnet werden müssen. Solche Kennzeichnungen verwendet auch „Kurt Fleisch“: „Schon um mich selbst abzusichern, achte ich darauf, dass das erkennbar ist.“ Es brauche aber, meinte er weiter, keine Deepfakes, um Fake News zu verbreiten.

Valerie Schmid von APA-Faktencheck wies darauf hin, dass es zumeist gar keine KI brauche, um „erfolgreiche“ Fakes zu erstellen – meist genügen einfach gemachte Fakes, wie alte Bilder oder Videos als neu auszugeben oder in einem falschen Kontext zu verbreiten. Schmid warf außerdem ein, dass Tools zur Detektion von Fakes und KI nur bedingt geeignet seien, da diese Desinformation häufig nicht als solche erkennen würden. Umso essenzieller wären deshalb auch weiterhin die klassischen qualitätsjournalistischen Kompetenzen für Recherche und Verifikation.

Video-Aufzeichnung – Teil 1

Keynote: Alexander Prinz (YouTuber „Der dunkle Parabelritter“)

Panel 1: Jugendliche und Desinformation
Barbara Buchegger, Saferinternet.at/Österr. Institut für angewandte Telekommunikation
Anna Jandrisevits, Die Chefredaktion
Alexander Prinz, YouTuber „Der dunkle Parabelritter“
Thomas Rott, KURIER-Bildungsplattform „WAS JETZT SCHULE“
Isabella Zins, BORG Mistelbach / Vorsitzende der AHS-DirektorInnen

Video-Aufzeichnung – Teil 2

Impulsvortrag: Susanne Lackner (KommAustria)

Panel 2: Desinformation und Wahlen
Jakob-Moritz Eberl, Universität Wien
Karl-Heinz Grundböck, Österreichisches Parlament
Ulrike Schiesser, Bundesstelle für Sektenfragen
Carola Schneider, ORF/Moskau
Sophie Timmermann, Rechercheplattform Correctiv

Video-Aufzeichnung – Teil 3

Panel 3: Künstliche Intelligenz und Gesellschaft
Viorela Dan, Universität Innsbruck
Wolfgang Fasching-Kapfenberger, Google Österreich
„Kurt Fleisch“, KI-Video-Künstler
Valerie Schmid, APA-Faktencheck
Stefan Woltran, Technische Universität Wien

Das Event wurde von Google, der Stadt Wien, der KommAustria und dem Österreichischen Parlament unterstützt.