Desinformation und Hate Speech – Ermutigendes vom NETTZ Community Event

Politisch stark engagierte Frauen, insbesondere wenn sie in Machtpositionen gelangen, werden regelmäßig zur Zielscheibe von Angriffen im Netz. Diese beziehen sich zunächst auf ihr Äußeres, sexualisieren die Frauen und zielen schließlich darauf ab, ihre Kompetenzen in Frage zu stellen. “Die Aberkennung von Qualifikation hat System.”, sagt Swasan Chebli (FR), die beim NETTZ Community Event in der Fishbowl saß. Durch gezielte Desinformation sollen Frauen und feministische Ansätze aus dem politischen Diskurs gedrängt werden. Das macht wütend.

Beobachter*in sein genügt nicht.

Zusammen mit Eren Okcu von der Bildungsinitiative Ferhat Unvar e.V. und Younes Al-Amayra von der Datteltäter Academy, sprach die Berliner Politikerin darüber, wie sich die Wut in Anbetracht von Hass und Hetze gegen marginalisierte Personengruppen durch Zivilcourage in Mut verwandeln lässt. Sobald sich Sawsan Chebli in den sozialen Medien äußert oder über sie geschrieben wird, finden sich unter den Beiträgen lauter diffamierende, herabwürdigende und bedrohliche Kommentare, die sie als weibliche Politikerin mit Migrationsgeschichte treffen sollen. Wie wichtig Counter Speech ist, kann sie gar nicht laut genug sagen: „Ich sehe diese positiven Nachrichten und die bringen total viel. Die nehmen Betroffene wahr.“ Als sie in den Saal fragte, wer sich von den Anwesenden in Gegenrede übe, meldeten sich erschreckend wenige. “Wir müssen die Beobachter-Rolle verlassen.”, ist darum der Call to Action, den wir aus der Gesprächsrunde mitnehmen. -> Die Diskussion auf Youtube

Aktiv werden in der Wertschöpfungskette Desinformation

Raus aus der Zuschauer*innen-Position. Rein in die Aktion. So könnte man den Switch vom bequemen Verfolgen der Expert*innen-Diskussion am Vormittag zur Positionierung der eigenen Person/Organisation innerhalb der Wertschöpfungskette Desinformation nennen, den die Teilnehmenden in der Open Space Session bei Katja Jäger vom betterplace lab gemacht haben. Unser Themenlead Digitale Demokratie/Desinformation nutzte die Gelegenheit, die Anwendung des Modells von Desinformation als Wertschöpfungskette mit Menschen auszuprobieren und zu diskutieren, die sich in ihrem beruflichen oder auch aktivistischen Wirken mit dem Thema Desinformation auseinandersetzen.

Nach der Mittagspause fanden sich 12 Leute auf der bUm-Terasse ein und wurden zunächst mit dem Modell Wertschöpfungskette vertraut gemacht, das aus fünf einzelnen Kettengliedern besteht: Initiieren-Produzieren-Platzieren-Verbreiten-Beeinflussung.

Um es anschaulicher zu machen und die direkte Verbindung zu den Arbeitsfeldern der anwesenden Vertreter*innen von Organisationen, Universitäten und Stiftungen herzustellen, verknüpfte Katja Jäger in ihrem Input die einzelnen Teile der Kette mit Beispiel-Organisationen, die in ihrer Reaktion auf Desinformation entlang der Wertschöpfungskette agieren.

Das erste Glied Initiieren steht für das gezielte Organisieren von Kampagnen, um Widerstand gegen Desinformation in Politik und Gesellschaft zu mobilisieren. Als mögliche Beispiel-Organisation steht Campact sowohl für eigene Kampagnenarbeit als auch für die Finanzierung von Initiativen, die Kampagnen auf die Beine stellen. Das zweite Kettenglied ist als Reaktion auf das Produzieren von Desinformation zu verstehen: Von Desinformation Betroffene (z.B. in Form von übler Nachrede und Verleumdung) werden professionell bei der Durchsetzung ihrer Rechte unterstützt. Daraus folgend werden Täter wenn möglich strafrechtlich verfolgt. Als Organisation in diesem Wirkungsbereich wird HateAid genannt. Auf das Platzieren als drittem Glied der Kette reagiert im Beispiel eine Organisation wie Corporate Europe Observatory (die Lobbyarbeit von Big Tech aufdecken), indem sie Regulierung ermöglicht. Auf das vierte Glied der Kette, dem Verbreiten, folgt die Aufklärung der Rolle von Big Tech, z.B. durch Social Media Watchblog. Das letzte Glied bildet die Beeinflussung. Dabei gilt es beispielsweise empirisch zu ermitteln, wie weit sich eine Polarisierung der Gesellschaft vollzieht. Ausgeführt wird diese Forschungsarbeit durch More in Common.

Nach dem theoretischen Input legte Katja Zettel mit den Kettengliedern auf dem Holzboden der Terrasse aus und bat die Teilnehmer*innen sich bzw. deren Organisationen auf der Wertschöpfungskette zu verorten.

Zurück im Plenum: Wer ist sowohl agierender als auch reagierender Teil der Wertschöpfungskette? Die Big Tech Plattformen. Und am Ende stellt sich die Frage, wer schneller und stärker ist: die Desinformationsmaschinerie, die Social Media Plattformen nutzt oder jene, die Desinformation eingrenzen und technische Barrieren in den Weg stellen. Sabine Frank von Youtube auf dem Panel am 2. Tag des NETTZ Community Events sieht dort, wo es Herausforderungen gibt, auch Potential. Schließlich lässt sich KI genauso einsetzen, um manipulativen Content im großen Stil zu erzeugen, wie wiederum z.B. strafrechtlich relevante oder gegen Community Codex verstoßende Inhalte zu erkennen und auszusortieren oder zu blockieren. Dass dies niemals nur durch Maschinen erfolgen kann, ist laut Sabine Frank allerdings auch klar. -> Das Panel auf Youtube

Bingo, dieses Meme verstößt gegen das Gesetz

Schwierig wird es, wenn Humor eine Rolle spielt. Was Younes Al-Amayra schon in der Fishbowl-Runde zum Thema Shadow Banning aufgrund der Unfähigkeit von KI beim Erkennen von Ironie und Humor gesagt hatte, wurde in der Session zu rechtsextremen Memes unterstrichen. Beim Humor kommt die Maschine nicht so richtig hinterher. Das machen sich rechtsextreme Akteure seit Jahren zu nutze, indem sie Memes verwenden. Perfekt lassen sich Botschaften durch die Kombination von Bild und Text so verschlüsseln, dass es schwer ist, gegen verbotenen Content vorzugehen. Aber nicht nur die KI kapituliert. Auch wenn wir Menschen fähig sind, den "Witz" dahinter zu verstehen, fehlt uns doch häufig Wissen, um Memes als verboten einzustufen. Die Forscher*innen der BAG “Gegen Hass im Netz” haben das Urteilsvermögen ihrer Workshop-Teilnehmenden bzgl. Memes einem Test unterzogen. Das Ergebnis: Die wenigsten Wort-Bild-Inhalte wurden richtig zugeordnet auf einer 5-Schritt-Skala von “Total okay” bis "Verstößt gegen geltendes Recht”. Die Meinungen gingen bis auf wenige Beispiele weit auseinander. Die Krux bei der Sache ist, dass wir nicht wirklich anhand von Beispielen lernen können. Dass in dem Workshop Content zum Teil verbotenen Darstellungen genutzt wurden, ist eine große Ausnahme, denn es ist keineswegs sinnvoll, solche Inhalte zu reproduzieren. Auch in der wissenschaftlichen Auseinandersetzung ist das eine Schwierigkeit. Sobald man die Erkenntnisse veröffentlichen will, besteht die Herausforderung, wie man sie verpackt.

Gemeinsam wirken – Zivilgesellschaft und Tech für ein Netz ohne Hass

Zwischen Inputs und gemeinsamer inhaltlicher Arbeit spielte wie immer das Zusammensein eine große Rolle an den beiden Tagen des NETTZ Community Events im bUm Berlin. Viel Platz für Netzwerkelei und Austausch stand zur Verfügung, denn das UND im Motto der Veranstaltung “DELETE CACHE – Was Zivilgesellschaft und Tech für ein Netz ohne Hass tun können” steht auch dafür, dass sich Wirkung vor allem durch gelingende Kollaboration entfalten kann. Lest weitere Eindrücke auf der NETTZ-Homepage.

Titelfoto: Stefanie Loos