Für mehr Sicherheit im Netz: Hass und Desinformation bekämpfen

change | Imran Ahmed, was hat Sie veranlasst, das Center for Countering Digital Hate (CCDH) zu gründen?

Imran Ahmed | Während des Brexit-Referendums habe ich als politischer Berater für die Labourpartei gearbeitet. 2016 starb meine Kollegin Jo Cox in ihrem Wahlkreis im Norden Englands, wo ich herkomme, durch einen brutalen Angriff eines Brexit-Hardliners. Der Täter hatte auf sie mehrmals geschossen und brutal eingestochen. Er war teilweise im Netz radikalisiert worden. Das hat mir das Herz gebrochen. Mir wurde klar, was mit unserem Informationsökosystem geschehen war: Wir hatten aus den Augen verloren, was wirklich im Land passiert. Wie wir Informationen teilen, wie wir unsere Normen, unser Verhalten, unseren sozialen Moralkodex, unsere Werte verhandeln, sogar was wir als Fakten betrachten – alles hat sich in Online-Räume verlagert. Und dort gelten andere Regeln.

Welche Konsequenzen haben Sie daraus gezogen?

Ich bin aus der Politik ausgestiegen und direkt zu den Online-Plattformen gegangen. Dort hieß es: Wir haben verstanden und werden es in Ordnung bringen. Ich brauchte drei Jahre, um zu erkennen, dass nichts passiert. Und deshalb beschloss ich aus Frustration und Wut: Wenn das, was sie mir privat erzählen, nichts verändert, dann bringe ich es an die Öffentlichkeit. Ich habe das Center for Countering Digital Hate (CCDH) im September 2019 gegründet, um Einfluss auf diese Unternehmen auszuüben. Um sie zu zwingen, Verantwortung zu übernehmen, ihre Algorithmen zu überdenken, ihre eigenen Inhaltsrichtlinien durchzusetzen, gegen das Problem vorzugehen, das sie mitverursacht haben.
 

Welche Chancen gibt es, gegenzusteuern?

Unsere Theorie der Veränderung ist einfach: Wir recherchieren, wir machen öffentlichkeitswirksame Kampagnen und gehen an die Medien. Wir bauen ein öffentliches Bewusstsein auf, das wiederum politische Akteur:innen zum Handeln bewegen soll. Es geht schlicht um ausreichende Kontrollen, die echte Auswirkungen auf das Endergebnis haben.

Wie sieht die Arbeit des CCDH konkret aus?

Wir haben zwei Möglichkeiten: Wenn den Unternehmen derzeit keine Kosten für die negativen Effekte entstehen, muss man erstens Regulierungen einführen. Zweitens muss man ihre Einnahmen reduzieren, die zu 90 Prozent aus der Werbung kommen. Man muss also den Markt dazu bringen, keine Gelder mehr in ihre Portemonnaies fließen zu lassen. Das ist eines der mächtigsten Instrumente.

Beispielsweise hatte X während der gewaltsamen Ausschreitungen in Großbritannien (Anmerkung: nach dem tödlichen Messerangriff auf drei Mädchen in Southport im Juli) Anzeigen für das Internationale Olympische Komitee, GlaxoSmithKline und die British Medical Association geschaltet. Wir sind sehr gut darin, mit diesen Werbepartnern in Kontakt zu treten und zu fragen: Wollt ihr wirklich auf einer Plattform werben, die Kinder tötet oder unsere Demokratie zerstört? Und viele von ihnen sagen dann: Nein, wir gehen.
 

Was bedeutet es für Sie, dass ein kalifornischer Richter die Klage von Elon Musk gegen das CCDH verworfen hat?

Wir sind die natürliche Reaktion auf eine Industrie, die davon profitiert, Hass und Desinformation in unserer Gesellschaft zu erzeugen. Und dass uns X verklagt hat, ist wiederum die natürliche Reaktion dieser Firmen darauf, dass wir ihre Einnahmen angreifen und ihre Profitabilität reduzieren. Das mögen sie nicht. Wir haben X zwar geschlagen. Aber wir können unsere Datenforschung zur Plattform immer noch nicht durchführen. Auch nicht im öffentlichen Interesse, selbst mit dem Sieg vor Gericht. Denn solange es nicht durch die Berufungsgerichte in den USA geht, gibt es kein rechtskräftiges Urteil.
 

Hinken politische Maßnahmen der technischen Entwicklung hinterher?

Ja, aber wollen wir den Politiker:innen die Schuld dafür geben? Der US-Präsident denkt darüber nach, wie er die Ukraine bewaffnen kann, und über China und über Armut und über die Obdachlosenkrise. Politiker:innen haben viele Probleme. Aber wenn sie das Versagen der sozialen Medien erst mal erkannt haben, sollten sie weniger zögern, ihnen Grenzen zu setzen. Ich bin also sehr froh, dass Europa und Großbritannien gehandelt haben. Es gibt ein Zeitfenster, ähnlich wie beim Klimawandel: Es hat keinen Sinn mehr, wenn wir es zu lange hinauszögern.
 

Für wie gefährlich halten Sie Elon Musk?

Er ist sowohl die größte Bedrohung als auch das größte Geschenk. Musk zeigt buchstäblich die Logik des Systems in den USA. Wenn du null Kosten für deine negativen Effekte hast, dann mach doch, was du willst. Wenn dich niemand zwingen kann zu zahlen, dann verbreite eben mehr Hass. Musk macht, was alle anderen tun: wie Zuckerberg bei Facebook, wie Pichai bei YouTube, wie Shou Zi Chew bzw. Xi Jinping bei TikTok. Musk hat nur bestätigt, was wir schon die ganze Zeit sagen, nämlich dass ihnen alles egal ist. Sie finden es gut, mit Hass und Desinformation Geld zu machen. Musk hat nur gezeigt, wohin das führt. Und hat damit die Wahrheit hinter allen Verharmlosungsversuchen dieser Unternehmen offengelegt. Das ist so brillant an ihm.

Für das Projekt „Upgrade Democracy“ haben sich die Kolleg:innen der Bertelsmann Stiftung angeschaut, wie Organisationen auf verschiedenen Kontinenten gegen Hetze und Desinformation im Netz vorgehen. Was können NGOs weltweit tun?

Ganz ehrlich: Das ist eine amerikanische Krankheit. Es sind amerikanische Online-Plattformen. Es sind die amerikanischen Gesetzgeber, die nicht gehandelt haben. Was sollen Simbabwe oder Neuseeland dagegen tun? Klar, man kann versuchen, sich zu wehren. Aber es ist nicht genug. Man muss es in diesem Land hier in Ordnung bringen. Das ist der Riesenunterschied zum Klimawandel: Beim Klimawandel ist die ganze Welt gefordert. Um das zu lösen, müssen wir gemeinsam handeln. Bei diesem Problem stammt Patient Zero aus den USA. Der Ursprung dieser Krankheit, diese Pandemie der Desinformation, stammt vom Straßenmarkt in Washington, D.C. Und hier müssen wir das auch wieder beheben.

Das CCDH hat geholfen, den Online Safety Act in Großbritannien und den Digital Services Act (DSA) der EU mitzugestalten. Gehen diese staatlichen Regulierungswerkzeuge weit genug?

Nein, natürlich nicht. Wir sollten trotzdem stolz darauf sein, dass Europa der erste Ort auf der Welt ist, wo eine systematische Gesetzgebung vorangetrieben wurde. Aber Gesetze ohne gute Regulierungen sind nutzlos. Ich fürchte, der Regulierungsprozess wird durch massive Lobby-Arbeit von Big Tech korrumpiert. Die größte Industrie in Brüssel ist jetzt die Tech-Industrie.
 

Sind die Politiker:innen in EU und UK darauf eingegangen, was Sie als CCDH im Vorfeld vorgeschlagen haben?

Meiner Meinung nach fehlen im britischen Online Safety Act Algorithmen, Werbung und künstliche Intelligenz. Auch beim DSA gibt es weiteres Verbesserungspotenzial. Aber unsere Aufgabe besteht vor allem darin, den Regulierungsbehörden bei der weiteren Gestaltung zu helfen: Was fehlt? Wie sollen der Online Safety Act 2.0 und der Digital Services Act 2.0 aussehen? Wir haben Teams, die daran arbeiten.

In den USA engagieren Sie sich für die Reform von Section 230, einer Gesetzesklausel von 1996, die den sozialen Netzwerken weitgehende Immunität gewährt. Wie sind die Erfolgschancen?

1.000 Leute haben mir gesagt, dass eine Reform unmöglich sei. Aber vor Kurzem haben zwei einflussreiche Mitglieder des Energie- und Handelsausschusses im US-Repräsentantenhaus, dem wichtigsten Gesetzgebungsausschuss für soziale Medien – Frank Pallone als Demokrat und Cathy McMorris Rodgers als Republikanerin –, einen gemeinsamen Leitartikel im „Wall Street Journal“ geschrieben und betont: Die Zeit für eine Reform von Section 230 sei jetzt gekommen. Im aktuellen Wahlkampfprogramm der Demokraten sprechen sie über die Reform. Selbst im Trump-Lager ist das ein Thema. Die Reform ist nicht unmöglich, sie ist unvermeidlich. Und wir wollen hier in Washington an der Spitze stehen, um sie voranzutreiben.
 

Wie kann die Arbeit der Zivilgesellschaften und NGOs stärker unterstützt werden?

Wir brauchen mehr Ressourcen. Die Ironie ist, dass im Moment unseres Erfolgs Geldgeber:innen unserem Sektor die Mittel entziehen. Gerade jetzt – ein Jahr nach der Verabschiedung der europäischen Digital-Gesetze und nachdem wir endlich Werbepartner:innen zu Massenaktionen gegen die Plattformen mobilisieren konnten. Nicht beim CCDH allerdings, wir sind doppelt so groß wie im Vorjahr und müssen weiter stark expandieren, weil wir gebraucht werden. Im Moment wird die Finanzierung wie mit der Schrotflinte gestreut. Dieser Ansatz führt zu Wettbewerb. Geldgeber:innen sagen uns: „Ihr müsst zusammenarbeiten.“ Deshalb habe ich eine Skala entwickelt, mit der wir Investor:innen dabei helfen, die richtigen Entscheidungen zu treffen.

Wäre es einfacher, soziale Medien total zu verbieten?

Die Digitalisierung rückgängig zu machen, wäre enorm regressiv. Soziale Medien bleiben ein mächtiges Werkzeug. Ich bin das älteste von sieben Kindern. Meine Welt war winzig: mein Haus, meine Straße, meine Schule. Ich mochte die Vorteile, die das Internet versprochen hat: die Chance auf Kameradschaft, ein globales Verständnis füreinander, das Menschen und Kulturen zusammenbringt. Stattdessen haben sich innerhalb unserer Gesellschaften immer mehr Eigen- und Fremdgruppen gebildet. Das hat Brüche und Spaltungen erzeugt. Aber nicht die Technologie, sondern wir Menschen haben den Schlamassel verursacht. Es gibt keinen rassistischen Algorithmus, es gibt nur einen Algorithmus, der von Rassist:innen programmiert wurde.
 

Welche innovativen Tools für Gegenmaßnahmen gibt es?

Was müsste noch erfunden werden? Die Lösung für das Problem ist nicht technologisch, sondern moralisch. Haben wir die Mittel, die Online-Plattformen zum Handeln zu zwingen? Ja, die haben wir. Sind die Werkzeuge robust genug? Nein, denn sie haben einen strategischen Schwachpunkt: Die Transparenz fehlt. Es gibt keine gesetzlich vorgeschriebenen Zugriffswege auf Daten, die Zivilgesellschaften oder akademischen Forscher:innen die Analyse ermöglichen, was auf den Plattformen passiert. Wenn man keine Beweise hat, geht das nicht. Aber diese Werkzeuge sind grundsätzlich sehr, sehr mächtig. Sobald sie vollständig einsatzfähig sind, müssen wir sie auch benutzen.

Du möchtest wissen, wie wir unsere Demokratie in einer digitalisierten Welt stärken können? Mit dem Projekt „Upgrade Democracy“ sucht die Bertelsmann Stiftung weltweit nach Lösungen, die digitale Diskurse fördern und Desinformation entgegenwirken. Unser Ziel: Demokratie und Zusammenhalt in Deutschland und Europa vielfältiger, inklusiver und resilienter zu machen.