Über die Mittel und Möglichkeiten, wie digitale Desinformation bekämpft werden kann, diskutierten am 31. Mai 2022 im Rahmen des 22. Mainzer Mediengesprächs: Prof. Dr. Tobias Gostomzyk, Professor für Medienrecht, Technische Universität Dortmund, Oliver Klein, Redakteur bei ZDFheuteCheck, Heike Raab, Staatssekretärin in der Staatskanzlei Rheinland-Pfalz und Bevollmächtigte des Landes Rheinland-Pfalz beim Bund und für Europa und Medien und Marie-Teresa Weber, Public Policy Manger bei Meta. Die digitale Veranstaltung moderierte Prof. Dr. Tobias O. Keber, Professor für Medienpolitik und Medienrecht, Hochschule der Medien in Stuttgart. Thematisiert wurde dabei u.a., was digitale Desinformation ist, wie man sie erkennen kann und wie Gesetzgeber und Plattformen dagegen vorgehen.

Nach der Begrüßung der Teilnehmerinnen und Teilnehmer durch Prof. Dr. Matthias Cornils, Direktor des Mainzer Medieninstituts gab Prof. Gostomzyk in einem Impulsvortrag einen Überblick zu digitaler Desinformation aus wissenschaftlicher Perspektive. Dabei stellte er heraus, dass ein wichtiges Merkmal von Desinformation die Täuschungsabsicht des Urhebers der Information sei, die digital – regelmäßig über Plattformen – verbreitet werde. Problematisch sei dabei auch die rechtliche Einordnung einer solchen Handlung, da auch legale Äußerungen gesellschaftlich schädlich sein könnten. Auf regulatorischer Ebene gebe es verschiedene Ansätze strafrechtlicher, zivilrechtlicher und öffentlich-rechtlicher Art, um gegen digitale Desinformation vorzugehen. Beispielhaft nennt er auf Länderebene den Medienstaatsvertrag, auf Bundesebene das Strafgesetzbuch und auf unionaler Ebene den Digital Services Act. Im Ergebnis seien dies wichtige Ansatzpunkte, es gebe aber noch kein geschlossenes Konzept. Jedoch habe das Recht Grenzen, da ein großer Teil von Desinformation nicht zwingend ein bestimmtes Rechtsgut betreffe. Hier kämen Governance-Strukturen verschiedener Akteure zum Tragen. Dazu zählt er Plattformen, Nutzer:innen und externe Faktenchecker. Zum Abschluss seines Vortrags beleuchtete Gostomzyk die veränderte Rolle der Medien bei der Mitwirkung am Meinungsbildungsprozess. Er verwies etwa auf die Rechtsprechung des Bundesverfassungsgerichts, die dem öffentlich-rechtlichen Rundfunk eine Orientierungsfunktion im digitalen Raum zuweise und andere Organisationen und Institutionen, die als Faktenchecker tätig werden (dpa, correctiv).

Dieser Verweis auf die Rolle der Medien leitete über zu dem zweiten Impulsvortrag von Oliver Klein, der einen praktischen Einblick zum Thema „Factchecking und Verification beim ZDF“ gab. Anhand eines aktuellen Videos veranschaulichte er das Vorgehen bei der Überprüfung von möglicher Desinformation. Er erklärte, wie er mit einem Kollegen die Protagonisten des Videos über Suchmaschinen für Gesichter gefunden habe und wie die Metadaten im möglichen Ursprungspost auf Telegram gezeigt hätten, dass das einminütige Video aus einem deutlich längeren Video sinnentstellend zusammengeschnitten wurde. Dabei verwies Klein auch auf die Probleme, die sich bei einer solchen Recherche stellten: Aufgrund des hohen benötigten Aufwandes könne nicht bei jedem vermeintlichen Fake-Video eine solche Recherche durchgeführt werden, sondern erst ab einer bestimmten höheren Verbreitung. Außerdem lasse sich der tatsächliche Ursprung eines Videos häufig nicht abschließend feststellen. Hinzu komme, dass bei Fotos und Videos in sozialen Netzwerken – mit Ausnahme von Telegram – regelmäßig keine Metadaten vorhanden seien.

Die anschließende Diskussion begann Moderator Tobias Keber mit einem geschärften Blick auf den Desinformationsbegriff, der Voraussetzung für eine effektive Regulierung sei. Schwierigkeiten bei der Regulierung mache laut Gostomzyk zum Beispiel die Abgrenzung zum rechtlich geschützten Phänomen der Satire, bei der es auf eine Offenlegung von Verfremdungseffekten ankäme. Damit zulässige journalistische Verknappung, z.B. im Zusammenhang mit einem Interview, sich nicht dem Vorwurf von Desinformation aussetze, müsse sie sich an normativen Standards orientieren, sodass der Sinnzusammenhang einer Aussage nicht verändert werde.

Einen ersten Schwerpunkt setzte Keber mit der Frage nach einem sinnvollen regulatorischen Umgang mit Desinformation. Da diese für Verantwortliche in der Medienpolitik aktuell vor allem in Gestalt von Propaganda virulent werde, sieht Heike Raab neben regulatorischen Instrumenten vor allem Qualitätsjournalismus und Medienkompetenz als wirksame Gegenmittel im Kampf gegen Desinformation. Die Sperrung russischer Propagandasender im Rahmen der europäischen Sanktionsmaßnahmen sehe sie ambivalent und sei besorgt, dass Medienfreiheit „in den Ausnahmezustand“ gerate. Bei Propaganda handele es sich nicht immer um Desinformation, sondern teilweise auch um einseitige Information. Grundsätzlich wünsche sie sich eher, mit anderen Mitteln als Verboten gegen Desinformation vorzugehen. Im Umgang mit dem russischen Staatssender RT sei es Deutschland über den Medienstaatsvertrag möglich gewesen, rechtliche Schritte einzuleiten.

Detaillierte Einblicke in den Umgang mit Desinformation bei Meta lieferte Marie-Teresa Weber. Beim Einsatz von Regulierungsinstrumenten in seinen sozialen Netzwerken unterscheide das Technologieunternehmen zwischen „misinformation“ und „desinformation“. In der Kategorie „misinformation“ ginge es um den Umgang mit potenziellen Falschinformationen. Meta halte es hier nicht für angemessen, selbst über richtig und falsch zu entscheiden, sondern arbeite mit professionellen Faktencheckern zusammen, um identifizierte Falschinformationen als solche auf seinen Plattformen kennzeichnen und die Reichweite des Inhalts reduzieren zu können. In Situationen, in denen Falschinformationen Gefahren für Leib und Leben hervorrufen können, würden diese von Meta sogar komplett von der Plattform entfernt. Die Kategorie der „desinformation“ habe bei Meta einen breiteren Kontext. Voraussetzung sei, dass ein Akteur bewusst manipulierend in den Meinungsbildungsprozess eingreifen wolle, zum Beispiel durch das massenhafte Erstellen von Fake-Accounts. Hier setze Meta schon bei den Akteuren selbst an, indem deren Profile auch durch die Plattform gesperrt werden könnten.

Einen weiteren Schwerpunkt setzte Keber mit einem Fokus auf die technischen Aspekte bei der Regulierung und dem Einsatz von künstlicher Intelligenz (KI) zur Bekämpfung von Desinformation. Bei Meta komme KI laut Weber dort zum Einsatz, wo es um die Frage ginge, wie schnell und weit sich ein bestimmter Inhalt schon auf einer Plattform verbreitet habe. Auch im Bereich von Deep Fakes und gefälschten Fotos nutze man die Technik. Beim Faktencheck selbst käme künstliche Intelligenz nicht zum Einsatz, dies bliebe weiterhin Aufgabe von ausgebildetem Personal. Gostomzyk setze in seinem Forschungsprojekt zur Bewältigung einer großen Masse von gemeldeten Inhalten bei begrenzten menschlichen Ressourcen darauf, mit Hilfe von künstlicher Intelligenz eine Vorsortierung von Inhalten bereitzustellen, die letztlich von geschultem Personal auf Desinformation hin ausgewertet werden kann. Klein würde sich bei seiner Arbeit in der Redaktion wünschen, dass die Künstliche Intelligenz in Zukunft „noch intelligenter wäre“. Beim Faktenchecken mache er derzeit noch sehr viel „Handarbeit“, indem er KI basierte Tools mit Informationen füttere. Selbst wenn die KI irgendwann einen Großteil der Prüfungsarbeit erledige, müssten Redakteure dann immer noch entsprechende Erkenntnisse über Desinformation in Artikel erläutern und journalistisch aufarbeiten.

Aus dem Auditorium wurde schließlich die Frage aufgeworfen, wer eigentlich die Faktenchecker überprüfe. Klein verweist darauf, dass seine Arbeit als redaktioneller Faktenchecker letztlich von jedem überprüfbar sei, weil die Art und Weise stets transparent dargestellt werde. Es würde nicht bloß festgestellt, dass es sich bei bestimmten Inhalten um Falschinformationen handelt, sondern auch begründet und durch Quellenangaben nachvollziehbar gemacht, warum dies der Fall ist. Darüber hinaus, so gab Weber zu Bedenken, könne jeder gerichtlich überprüfen lassen, ob bei einem Faktencheck Fehler gemacht worden seien.

Als zentrales Learning der Veranstaltung erwies sich für Moderator Keber schließlich, dass es bei der Regulierung von Desinformation in Zukunft wohl noch mehr auf einen interdisziplinären Ansatz ankäme. Mit abschließenden Worten und Dank an die Teilnehmerinnen und Teilnehmer und den Moderator beendete Cornils die instruktive Veranstaltung.

Den Faktencheck von Oliver Klein zu dem im Vortrag benannten Video finden Sie hier.

_________________________________________________________________________________________________________________________

Digitale Desinformation - Was tun gegen Fake und Manipulation im Netz?

Es scheint, als hätten Lügen im Internet lange oder zumindest viele schnelle Beine. Falschbehauptungen und Unterstellungen erregen Aufmerksamkeit und sind damit prädestiniert, durch die Algorithmen der sozialen Netzwerke im digitalen Raum viral verteilt zu werden. Technische Manipulationsmöglichkeiten wie Deep Fakes erschweren die Unterscheidung von Wirklichkeit und Trug und automatisierte Social Bots ermöglichen es, das Netz orchestriert mit Fake News zu infizieren.

Vom Gerücht bis zur gezielten Desinformationskampagne können Falschnachrichten Persönlichkeitsrechte verletzen, Verunsicherung und Ressentiments schüren und die öffentliche Meinung steuern. So geraten sie zum Risiko für die Demokratie schlechthin, die auf zuverlässige Informationen als Grundlage für freiverantwortliche Willensbildung angewiesen ist.

Zwar hat die Sensibilität für Unwahrheit im Netz zugenommen. Faktenchecker professionalisieren das kritische Hinterfragen von Inhalten und erste Regulierungsansätze, etwa der EU-Aktionsplan gegen Desinformation, nehmen sich des Problems an.

Doch immun gegen virale Lügen ist unsere Gesellschaft längst nicht. Welche Mittel sich als Gegengift eignen, um digitale Desinformation zu bekämpfen, darüber wollen wir diskutieren.

> Einladung

Termin:
Dienstag, 31. Mai 2022 um 18:00 Uhr

Ort der Veranstaltung:
Aktuelle Änderung: Findet nur als Online-Video-Konferenz statt!
(Der Veranstaltungsort Alte Mensa (Atrium maximum) der Johannes Gutenberg-Universität Mainz entfällt!)

Eine Anmeldung ist erforderlich:
Bitte melden Sie sich bis zum 27. Mai 2022 an über: anmeldung@mainzer-medieninstitut.de
Die Zugangsdaten zur Konferenz erhalten Sie einen Tag vor Veranstaltungsbeginn per E-Mail.

__________________________________________________________________________________________________________

begrüssung

Prof. Dr. Matthias Cornils
Direktor des Mainzer Medieninstituts

Einführung

"Digitale Desinformation aus wissenschaftlicher Perspektive – Umgang und Regulationsmöglichkeiten"

Prof. Dr. Tobias Gostomzyk 
Professur für Medienrecht, Technische Universität Dortmund

"Factchecking und Verification beim zdf "

Oliver Klein 
Redakteur ZDFheuteCheck

diskussion

Prof. Dr. Tobias Gostomzyk
Professur für Medienrecht, Technische Universität Dortmund

Oliver Klein
Redakteur ZDFheuteCheck

Heike Raab
Staatssekretärin in der Staatskanzlei Rheinland-Pfalz und Bevollmächtigte des Landes Rheinland-Pfalz beim
Bund und für Europa und Medien

Marie-Teresa Weber
Public Policy Manager/Public Policy DACH, Meta

Moderation

Prof. Dr. Tobias O. Keber
Professur für Medienpolitik und Medienrecht an der Hochschule der Medien in Stuttgart
__________________________________________________________________________________________________________

Unsere Veranstaltung findet mithilfe des Tools Zoom Webinar des US-amerikanischen Videokonferenzdienstes ZOOM Video Communications, Inc. statt. Das Unternehmen wird als Auftragsdatenverarbeiter für uns tätig. Das bedeutet, dass die von Zoom erfassten, personenbezogenen Daten ausschließlich für die Bereitstellung des Konferenzdienstes verarbeitet und Dritten nicht zugänglich gemacht werden dürfen. Zur Absicherung verwendet Zoom beispielsweise die Verschlüsselung AES  256bit GCM.

Wir empfehlen, immer die neueste Zoom-Version zu nutzen, um die aktuellsten Sicherheitsmechanismen nutzen zu können, die Zoom bereitstellt. Weitere Informationen finden Sie im ZOOM Global Data Processing Addendum, das unter https://zoom.us/docs/doc/Zoom_GLOBAL_DPA.pdf abrufbar.