Herr Gorwa, Sie forschen zu transnationaler Regulierung von Social-Media-Plattformen. Ende 2024 hat Australien ein Social-Media-Verbot für unter 16-Jährige verabschiedet. Begründung: Soziale Netzwerke seien eine zu große Gefahr für die mentale Gesundheit von Jugendlichen. Nach den neusten Ankündigungen von Meta und anderen Techkonzernen, Factchecking und Diversity-Programme zu beenden, frage ich mich: Trifft das nicht für uns alle zu?
Robert Gorwa: Man muss sich stets fragen, ob der Schutz vor negativen Aspekten wie Hetze und Desinformation die positiven Aspekte der Nutzung sozialer Medien überwiegt: die Möglichkeit, mit Andersdenkenden und unseren Freunden zu interagieren. Informationen auszutauschen, auch unter Minderheiten. Ich persönlich glaube das nicht.
In der Tat sagt eine australische NGO für Mental Health, dass über 70 Prozent der australischen Jugendlichen erst über Social Media überhaupt Informationen zu psychischer Gesundheit bekommen und sich zum Beispiel durch Aufklärung dort eine Therapie suchen. Gleichzeitig sagten auch 38 Prozent in der Studie, dass dort eben auch viel gefährlicher Fake-Content lauere.
Digitale Öffentlichkeit ist wie jede Form von Öffentlichkeit auch ein gefährlicher Ort. Noch vor 15 Jahren haben wir die Netzwerke für ihren demokratisierenden Effekt gefeiert, zum Beispiel für ihre Rolle im arabischen Frühling, als sich dort demokratischer Widerstand organisierte. Aber das australische Gesetz ist eben auch Beweis dafür, dass das Pendel heute in die andere extreme Richtung ausgeschlagen hat: Wir haben von Firmen gesteuerte soziale Netzwerke, die auf starke Emotionen und maximalen Profit ausgerichtet sind. Ich denke also, man muss Ihre Frage mit Ja beantworten. Ich glaube aber nicht, dass Verbote wie in Australien die richtige Antwort sind.
Robert Gorwa
forscht am Wissenschaftszentrum Berlin für Sozialforschung zu transnationaler Governance und Regulierung von Social-Media-Plattformen. 2024 ist sein Buch The Politics of Platform Regulation: How GovernmentsShape Online Content Moderation bei Oxford University Press erschienen.
Und was wäre die richtige Antwort?
Der Kulturwissenschaftler Mark Fisher hat gesagt: Es ist einfacher, sich das Ende der Welt vorzustellen, als sich das Ende des Kapitalismus vorzustellen. Ich glaube auch, Ersteres ist heute einfacher geworden, als sich sinnvolle Alternativen zu Facebook, Instagram oder TikTok vorzustellen. Alternativen, die von Menschen für Menschen als Genossenschaft oder in einem anderen Geschäftsmodell betrieben werden, das weniger ausbeuterisch ist. Aber genau diese Vorstellungskraft dürfen wir nicht verlieren. Wir müssen über andere Formen von Social Media Governance und Regulation sprechen.
Sie untersuchen unter anderem auch die Umsetzbarkeit der ursprünglichen Utopie des Internets: ein Ort, an dem sich User:innen selbst regulieren. Glauben Sie angesichts des hohen Grads der Polarisierung in den sozialen Netzwerken noch daran?
Ich denke, wenn wir noch einmal völlig von vorn mit Social Media beginnen könnten, hätten wir eine Chance: Wir sehen Menschen wie Eugen Rochko, der Gründer des deutschen Netzwerks Mastodon, der das Unternehmen in eine Non-Profit-Struktur und in ein dezentrales Netzwerk überführt hat, weil er verhindern will, dass seine Plattform von Firmeninteressen kontrolliert wird. Die Realität ist jedoch, dass wir für eine echte demokratisch regulierte Social-Media-Nutzung ein sehr hohes Level an individueller Partizipation benötigen, die repräsentativ für die Gesellschaft ist. Und dem ist nicht so. Wir haben ein klares Repräsentations-Gap bei Expert:innen für Tech-Themen. Wir sehen an den hohen Überlaufzahlen zu Mastodon und Blue Sky, dass Menschen zwar ein großes Interesse an Netzwerken haben, die nicht von Grund auf „böse“ sind. Aber sie haben nicht den Luxus der Ressourcen, um selbst die Governance zu stellen, die es für diese Utopie benötigt. Die funktioniert im Moment meist nur auf einem sehr lokalen, kleinen Level.
Eine Alternative zur Selbstkontrolle einer digitalen Community ist staatliche Regulation. Sie haben 2024 Ihr erstes Buch veröffentlicht, in dem Sie die Strategien verschiedener Länder dazu analysieren. Können Sie ein Beispiel für eine effektive Methode nennen?
Es ist wichtig festzustellen, dass eine rein staatliche Kontrolle ein zweischneidiges Schwert ist, das zwar gefährliche Inhalte unterdrücken, aber auch demokratischen Austausch verhindern kann. Ein interessantes Beispiel für einen Dialog, der mehrere Stakeholder involviert hat, ist Neuseeland. Nach den Christchurch-Attentaten 2017, die über Facebook-Livevideos verbreitet wurden, holte die Regierung soziale Netzwerke, die Zivilgesellschaft, andere Länder wie Frankreich und Unternehmen wie Microsoft ins Boot, um gemeinsam nach Lösungen zu suchen. Das interessanteste konkrete Ergebnis war, dass das eher unbekannte, aber sehr wichtige Global Internet Forum to Counter Terrorism (GIFCT) 2019 von einer Initiative der sozialen Netzwerke zu einer echten Organisation umgebaut wurde. GIFCTZ baute eine Datenbank für gewalttätige und extremistische Inhalte auf. Durch die Abgleichung mit diesen Daten konnte viel potenziell gefährliches Material auf sozialen Netzwerken identifiziert werden.
Damals wollte Meta noch ein Vorreiter im Kampf gegen Hass und Gewalt im Netz sein. Jetzt erlauben soziale Netzwerke wieder Hetzrede gegen Frauen, Transpersonen und Migrant:innen.
Eines der Probleme ist, dass das Engagement gegen Extremismus für soziale Netzwerke in den USA im Gegensatz zu kinderpornografischen Inhalten nur freiwillig ist. Es hat sich herausgestellt, dass Meta solche Inhalte nicht mehr so stark bekämpft. Hier sehen wir auch das Problem der Transparenz. Wie werden problematische Inhalte von wem selektiert? Wir haben am Beispiel des Nahost-Konflikts gesehen, wie Benjamin Netanjahu Mark Zuckerberg angerufen hat, um sich über die Regulierung auf Facebook zu beschweren. Gleichzeitig ergaben mehrere Recherchen von Medien und Menschenrechtsorganisationen, dass Facebook und Instagram die Reichweite palästinensischer Medien stark eingeschränkt haben. Die interne Regulation der Plattformen ist oft eine Blackbox.
Wie können wir in Europa gegen die Netzwerke vorgehen? Im Moment reagiert die EU nur mit Bußgeldern. Aber was interessieren ein paar hundert Millionen einige der reichsten Männer der Welt?
Eigentlich fände ich es persönlich begrüßenswert, wenn sich amerikanische Social-Media-Konzerne, die gegen EU-Recht wie das Gesetz über digitale Dienste verstoßen, als Antwort auf Regulation aus dem europäischen Markt zurückziehen und Platz machen für demokratischere Unternehmen. Aber ich glaube nicht, dass das passieren wird. Stattdessen droht die Trump-Regierung, die nun immer enger mit den Social-Media-Firmen zusammenarbeitet, damit, europäische Produkte wie Volkswagen-Autos mit Strafzöllen zu belegen, wenn Europa versucht, Facebook und Co zu regulieren. Europa muss sich auf diese Allianz einstellen und bereit sein, eine harte Debatte zu führen: Ist uns unsere Wirtschaft wichtiger oder das Verhindern von Hassrede und die Gewährleistung von Privatsphäre im Netz? Das wird ein harter Kampf.
Die Grünen haben schon 2021 und nun erneut als Reaktion auf die neue Politik von Meta und Co eine neue europäische Social-Media-Plattform vorgeschlagen, die ähnlich wie ARD und ZDF öffentlich-rechtlich finanziert, reguliert und zudem werbefrei ist. Was halten Sie von einer solchen Lösung?
Es ist eine verlockende Idee, und ich glaube, es wäre wert, damit zu experimentieren, aber sie birgt natürlich große Gefahren. Es kann sehr schnell passieren, dass wir viele Steuergelder dafür verschwenden, eine Plattform zu generieren, die niemand nutzen will, weil das Design nicht stimmt und man dort nicht so leicht ein Einkommen erzielen kann wie auf anderen, weniger regulierten Plattformen. Wir sind immer noch alle auf Spotify, obwohl wir genau wissen, dass das Unternehmen seinen Gewinn nicht fair mit den Künstler:innen teilt, die ihren Umsatz erwirtschaften, weil es für die meisten Menschen einfach die attraktivste und user-freundlichste Plattform ist. Eine Plattform umzusetzen, die zwar einfacher zu regulieren ist, weil sie zum Beispiel nur von europäischen oder nur von deutschen Menschen genutzt wird, aber vom globalen Austausch isoliert ist, wäre nichts weiter als eine unbedeutende kleine Insel.
Auch TikTok ist ein gutes Beispiel für die Unterschätzung der Marktlogik durch Regierungen. Nach dem Verbot in den USA strömten die User:innen nicht zu einer besser regulierten Alternative, sondern zu dem chinesischen TikTok-Klon Rednote.
Der TikTok-Bann war völlig falsch gedacht. Wir leben nicht länger nur im Zeitalter der Information, sondern auch im Zeitalter des Contents. Wie erschaffen wir Plattformen, die toxisches Verhalten verhindern und gleichzeitig genug Anreize bieten, um das Bedürfnis nach Monetarisierung und Aufmerksamkeit durch Algorithmen zu befriedigen? Dafür müsste man das Paradigma des digitalen Kapitalismus brechen. Und um das zu erreichen, muss man eine technische Infrastruktur fördern, die das ermöglicht oder zumindest eine gute Balance schafft. Ein solches Umdenken muss sowohl von unten, von Grassroots-Bewegungen, als auch von den Regierungen ausgehen.
Social-Media-Geklapper voller Fake-Content von morgens bis abends: Braucht es strengere Regeln für den digitalen Raum?
