HASSREDE IN DIGITALEN UMGEBUNGEN

Die Praktiken der Online-Hassrede stellen eine Herausforderung für die Demokratien dar, insbesondere weil sie Fragen rund um die Meinungsfreiheit, eine der Säulen der Demokratie, aufwerfen. Damit die Verhandlungsdynamiken zwischen Sicherheit der geschützten Gruppen und Gewährleistung der Meinungsfreiheit verstanden werden können, untersucht die vorliegende Studie die öffentliche Debatte rund um Hassrede und Zensur auf Twitter und Facebook. Dafür wird zunächst ein allgemeiner Überblick über die Bestimmungen und Gesetzgebungen, die über das Verständnis der Hassrede informieren, gegeben. Dabei werden die Spezifitäten des Online-Kontexts und die von den Plattformen vorgeschlagenen Bestimmungs- und Selbstregulierungsformen diskutiert. Anschließend wird die öffentliche Debatte rund um Hassrede und Zensur basierend auf der Datenerfassung beider sozialen Netzwerke analysiert. Dabei werden insbesondere die Höhepunkte der Diskussion über die Themen und die damit verbundenen Ereignisse berücksichtigt. Schließlich werden die Hauptakteure und wichtigsten Interaktionen der Debatte über Hassrede und Zensur, als sie seinen Höhepunkt erreichte, ausgehend von Visualisierungen, die einer strukturellen Analyse der sozialen Netzwerke dienen, identifiziert. Die Studie verwendet bibliographische und dokumentarische Quellen sowie Daten, die auf Facebook und Twitter erfasst und anschließend sowohl qualitativ als auch quantitativ analysiert wurden.

Schlüsselwörter: Hassrede; digitale Plattformen; Zensur; Meinungsfreiheit; soziale Netzwerke.

ZUSAMMENFASSUNG DER ERGEBNISSE

• Die theoretische Überprüfung in Zusammenhang mit der Analyse der Plattformen zeigte, dass es zwar Richtlinien zur Bestrafung von Accounts, die beleidigende Inhalte veröffentlichen, gibt, es aber schwer und komplex ist, derartige Postings zu ermitteln.
• Die Forschung setzt den Fokus auf die Erfassung von Daten mit Bezug mit Hassrede und Zensur und umfasste zwischen November 2020 und Januar 2021 ca. 11 Mio. Postings auf Twitter und 34.000 auf Facebook.
• Hinsichtlich der Debatte über Hassrede auf Twitter und Facebook konzentrierten sich die Postings auf Themen wie Misogynie und Rassismus. Auf beiden Plattformen erreichten sie ihren Spitzenwert am 20. November 2020, Tag des Schwarzen Bewusstseins. Die Postings verstärkten sich durch die Diskussion um strukturellen Rassismus in Verbindung mit der Nachricht über den körperlichen Angriff mit Todesfolge am vorherigen Tag auf einen schwarzen Kunden im Supermarkt Carrefour in Porto Alegre (RS).
• Der Diskurs über Zensur und Meinungsfreiheit verschärfte sich mit den durch die Plattformen verhängten Sanktionen für Accounts wie diejenige des ehemaligen Präsidenten der Vereinigten Staaten, Donald Trump, deren Postings zur Infragestellung des Ergebnis der Präsidentschaftswahlen mit dem Sturm von Extremisten auf das Kapitol assoziiert werden. Sowohl auf Twitter als auch auf Facebook mobilisierte die Sperrung von Accounts die Debatte über die Zensur auf den Plattformen anhand von der Meinungsäußerung ihrer Nutzer.

Debatte über Hassrede und Zensur auf Twitter

Zwischen dem 16. November 2020 und dem 6. Februar 2021 gab es ca. 11,6 Mio. Postings auf Twitter, die Hassrede thematisieren. Die Debatte wurde durch die Feierlichkeiten des Tages des Schwarzen Bewusstseins, die Ermordung eines schwarzen Kunden durch einen Sicherheitsmann im Carrefour-Supermarkt in Porto Alegre (RS) sowie durch den Sturm auf das Kapitol in den USA und die darauffolgende Sperrung der Social-Media-Accounts des ehemaligen US-Präsidenten Donald Trump angefacht. Demzufolge waren Hassrede (Debatte über strukturellen Rassismus) und Meinungsfreiheit (Debatte über Zensur) die Themen, die die Debatten auf Twitter am meisten anregten. Wie die Literatur zum Thema zeigt, geht die Debatte über Online-Delikte immer mit Fragen bezüglich der Einschränkung individueller Freiheiten und der Zensur durch die Plattformen gegenüber Meinungsäußerungen der Nutzer einher.

Im analysierten Zeitraum trugen weitere Ereignisse deutlich zu dieser Debatte bei. Hinsichtlich der Hassrede wurde der Fall von Belästigung der Abgeordneten Isa Penna (PSOL-SP) von einer Diskussion über die Vulnerabilität von Frauen und Misogynie in unterschiedlichen Umgebungen durchdrungen. In Bezug auf die Meinungsfreiheit lässt sich auf die Veröffentlichung des Gesundheitsministeriums über die präventive Behandlung gegen Covid-19 hinweisen, die von Twitter als irreführenden Inhalt eingestuft wurde.

Wie bereits erwähnt, geht die Erfassung von Daten über Online-Hassrede oder Beleidigungen immer mit Postings über das Recht auf freie Meinungsäußerung seitens der Nutzer einher. Unter diesem Aspekt wurde die Debatte über die Bekanntgabe der Sperrung von Konten oder der Löschung von Inhalten auf Social-Media-Plattformen wie Facebook, Instagram und Twitter wegen Verstoßes gegen deren Richtlinien im analysierten Zeitraum intensiv geführt. Einige Postings – von Accounts von parteiideologisch oder identitär orientierten Politikern oder Bloggern – stellen die Entscheidung der Plattformen infrage. Dabei wird argumentiert, dass die gesperrten Inhalte keine Gemeinschaftsstandards verletzen, oder, dass die Begründung die Sanktionen nicht rechtfertigen würde, sondern es sich um Diffamierungskampagnen seitens der Oppositionsgruppen handle. Teilweise wird die Sperrung mit anderen Fällen verglichen, in denen Nutzer ebenfalls Postings mit sensiblen Inhalten meldeten, dies jedoch zu keiner Löschung des Beitrags oder Sperrung von Accounts durch die Plattformen führte. Dazu gehören beispielsweise Beleidigungen und Bedrohungen gegenüber bestimmten Politikern oder parteiischen Gruppen sowie die Verbreitung von Falschnachrichten und Informationen.

Das folgende Diagramm zeigt die Entwicklung der Debatten auf Twitter. Ausgehend von den dargestellten Spitzenwerten am 20. November (über Hassrede) und am 15. Dezember 2020 sowie am 19. Januar 2021 (über Meinungsfreiheit) wird eine qualitative Analyse basierend auf dem Engagement für die Themen durchgeführt. Hierzu werden die Teilungen sowie die Anzahl von Likes und von Followern jedes Accounts berücksichtigt, um die Postings, die die Debatte anfachten, zu identifizieren.

Debatte über Hassrede und Zensur auf Facebook

Dieser Abschnitt stellt die Ergebnisse der Analyse vor, die zwischen dem 15. November 2020 und dem 11. Februar 2021 auf Facebook durchgeführt wurde. Insgesamt wurden 21.149 Postings über Hassrede und 12.773 über Meinungsfreiheit oder Zensur gesammelt. Die Entwicklung beider Debatten wurde separat beobachtet, unter Berücksichtigung ihrer direkten Beziehung zueinander, wie bereits diskutiert. Die Auseinandersetzung mit beiden Fragen spielt eine wichtige Rolle bei dieser Studie, da die Forderung nach Mechanismen zur Eindämmung der Hassreden und parallel zur Setzung von den Grenzen der Meinungsfreiheit zunimmt.

Obwohl die in Hassreden enthaltenen Beleidigungen, Bedrohungen und Diskriminierungen, unter Berücksichtigung der großen seelischen Schmerzen, die sie verursachen, subjektive Folgen haben, kann eine eingehende Untersuchung nicht auf die politischen Auswirkungen verzichten. Die Unsichtbarkeit vulnerabler Gruppen, die zum Schweigen gebracht werden, schwächen ihre Forderungen und Ansprüche und schließen sie somit von den demokratischen Entscheidungsprozessen aus. Deswegen sind die Identifizierung und Bekämpfung der Hassreden wichtig für die Demokratie.

Die vorliegende Arbeit gab eine Literaturübersicht über das Thema mit dem Zweck, die wichtigsten Bedeutungen von Hassreden im akademischen und juristischen Bereich bedeuten, deren Spezifitäten in der digitalen Umgebung und deren Definitionen nach den Selbstregulierungsprotokollen der digitalen Plattformen aufzulisten. Die bibliographische und dokumentarische Recherche zeigte, dass Hassreden einerseits theoretisch konzeptualisiert werden können und es andererseits es besonders komplex ist, sie in konkreten Situationen zu definieren. Diese Herausforderung verstärkt sich auf Internetseiten, die Memes, Videos, organisierte Communities und differenzierte Lexika unter anderen Aspekten beinhalten.

Neben der Einführung internationaler Abkommen zur Bekämpfung unterschiedlicher Diskriminierungsformen deutete das Material auf die Notwendigkeit hin, dass die Staaten bei der Gesetzgebung ihre sozialen, historischen und vor allem kulturellen Kontexte mit den Spezifitäten des Online-Universums in Verbindung bringen. In diesem Sinne präsentierte sich die Herausforderung für die digitalen Plattformen nicht als schwächer. Bei der Formulierung ihrer Nutzungsbedingungen und Gemeinschaftsrichtlinien geben sie an – manche ausführlicher, manche weniger ausführlich -, wie sie die diversen Äußerungen von Hassreden verstehen. Dabei ist jedoch eine Reihe von Informationslücken bzgl. der Art und Weise, wie die Plattformen mit den Nutzern umgehen und die Verbreitung dieser Diskurse verhindern, zu erkennen. Eine mögliche Lösung diesbezüglich wäre, dass globale Plattformen die soziokulturellen Besonderheiten des jeweiligen Kontexts ihrer Nutzer erkunden, um praktikable und produktivere Maßnahmen zur Bekämpfung der Hassreden zu entwickeln.

Die empirische Analyse der Studie bestand in der Lokalisierung der Debatte über Hassreden und deren Beziehung zur Meinungsfreiheit auf Twitter und Facebook im Zeitraum zwischen November 2020 und Februar 2021 . Auch wenn die beiden Plattformen digitale soziale Netzwerke mit einer hohen Anzahl von Nutzern, einschließlich des brasilianischen Kontexts, sind, wurde an dieser Stelle festgestellt, dass sie hinsichtlich Repräsentativität Defizite aufweisen, sowohl bezüglich der Anzahl von digitalen Interaktionen als auch der Diversität der beteiligten Akteure. Demzufolge bietet die vorliegende Analyse einen beschränkten Überblick über das komplexe Ökosystem der Erzeugung, Verbreitung und Beibehaltung der Online-Hassreden.

Im Rahmen der methodischen Belange bezieht sich die Herausforderung der Ausarbeitung von Suchsyntaxen für die Erfassung und Klassifizierung der zu analysierenden Daten, auf die Feinheiten, die die Konzeptualisierung und den semantisch-pragmatischen Umfang des Themas kennzeichnen, auf das sich die Studie konzentriert, also das Thema „Hassrede“. Da eine große Schwierigkeit besteht, schlüssig und unbestreitbar zu bestimmen, was tatsächlich Hassrede bedeutet und vor allem, wie dieser Diskurs in der öffentlichen Debatte in sozialen Netzwerken instanziiert wird, ist die Identifizierung der sprachlichen und diskursiven Strategien bzgl. dieses Phänomens eine Aufgabe mit zweifellosen Unsicherheiten.

Basierend auf der Datenerfassung und durchgeführten Analyse ließ sich feststellen, dass die Entwicklung der Debatte über Hassrede und Zensur sich während eines Gedenktages und aufgrund der Nachwirkung von Nachrichten im nationalen und internationalen Kontext verstärkte. Dies lässt vermuten, dass das Vorhandensein einer öffentlichen Agenda und die Vorgehensweise der Nachrichtenmedien die auf den untersuchten Plattformen laufenden Diskussionen anheizten. Neben diesen Elementen erzeugten die Postings zum Thema seitens Personen des öffentlichen Lebens, die Teil eines großen Netzwerks sind, eine hohe Anzahl von Interaktionen, was die politisch-strategische Rolle von diesen Personen bei der Produktion und Reichweite der Debatte signalisiert.

Unter Berücksichtigung der Entwicklung der Online-Debatte im analysierten Zeitraum zeigte die Studie eine Spannung zwischen dem strukturellen und dem persönlichen Verständnis von Diskriminierung auf, was bedeutet, dass diese für einen Teil der Akteure von zentraler Bedeutung für die Fortentwicklung der Demokratie ist und im öffentlichen Geschehen Raum einnehmen sollte; allerdings ist sie für den anderen Teil ein Diskurs, der die politische Ebene destabilisiert, ohne jedoch wirksame Veränderungen hervorzubringen. Schließlich intensivierten die von den Plattformen verhängten Sanktionen, die in den Ablauf der Veröffentlichungen und die Aktivitäten bestimmter Akteure eingriffen, die Debatte über Meinungsfreiheit und erreichten damit eher die Problematisierung ihrer Grenzen, anstatt deren Legitimität.

Durch die Identifizierung der Argumente und Akteure, die diese Debatte verkörpern, schafft die vorliegende Arbeit die Grundlagen für neue Initiativen zur Erforschung der Verbreitung von Hassreden im Netz. Dazu gehören u.a. die Entstehung neuer Plattformen als Reaktion auf die verhängten Sanktionen, das Wachstum das Wachstum der lexikalischen Vielfalt, die mit den vielfältigen Möglichkeiten der Sprache einhergeht, das Verhältnis der Selbstregulierungsverfahren der Plattformen zu den soziokulturellen Kontexten, in denen sie genutzt werden, und die Strategien sozialer Akteure zur Dekonstruktion der Online-Diskriminierungen.

ALAVA, S./FRAU-MEIGS, D./HASSAN, G.: Youth and violent extremism on social media. Mapping the research. Organisation der Vereinten Nationen für Bildung, Wissenschaft und Kultur. Paris 2017.

BARBERÁ, P.: How social media reduces mass political polarization. Evidence from Germany, Spain, and the US. In: AMERICAN POLITICAL SCIENCE ASSOCIATION ANNUAL MEETING (Hrsg.): Proceedings. American Political Science Association. San Francisco 2015. Verfügbar unter: http://pablobarbera.com/static/barbera_polarization_APSA.pdf. Letzter Zugriff am: 26.02.2021.

BARBOSA, B./MARTINS, H./VALENTE, J.: Fake News. Como as plataformas enfrentam a desinformação. São Paulo 2020.

BENESCH, S.: Dangerous speech. A proposal to prevent group violence. In: Dangerous Speech Project proposal paper. February 23, 2013. Verfügbar unter: https://dangerousspeech.org/wp-content/uploads/2018/01/Dangerous-Speech-Guidelines-2013.pdf. Letzter Zugriff am: 01.03.2021.

BOWMAN-GRIEVE, L.: Exploring Stormfront. A virtual community of the radical right. In: Studies in Conflict and Terrorism, 2009, Bd. 11, N. 31, S. 989-1007.

BROWN, A.: What is so special about online (as compared to offline) hate speech?. In: Ethnicities, Bd. 18, Nr. 3, 2018, S. 297-326.

BRUGGER, W.: Proibição ou proteção do discurso do ódio?. Algumas observações sobre o direito alemão e o americano. In: Revista de Direito Público, Nr. 15, 2017, S. 117-136.

BUYSE, A.: Words of violence. “Fear speech,“ or how violent conflict escalation relates to the freedom of expression. In: Human Rights Quarterly, Bd. 36, Nr. 4, 2014, S. 779-797.

COHEN-ALMAGOR, R.: Fighting hate and bigotry on the Internet. In: Policy and Internet, Bd. 3, Nr. 3, 2011, S. 1-26.

CONSANI, C. F.: Democracia e os discursos de ódio religioso. O debate entre Dworkin e Waldron sobre os limites da tolerância. In: Etic@, Bd. 14, Nr. 2, 2015, S. 174-197.

DWORKIN, R.: O direito da liberdade. São Paulo 2006.

DWORKIN, R.: Foreword to Extreme Speech and Democracy. In: HARE, I./WEINSTEIN, J. (Hrsg.): Extreme Speech and Democracy. New York 2009, S. v-ix.

FARIS, R./ASHAR, A./GASSER, U./JOO, D.: Understanding harmful speech online. In: Berkman Klein Center Research Publication, Nr. 2016-21, 2016. Verfügbar unter: https://papers.ssrn.com/sol3/papers.cfm?abstract%5Fid=2882824. Letzter Zugriff am: 01.03.2021.

FERNANDEZ-MATAMORO, A./FARKAS, J.: Racism, hate speech, and social media. A systematic review and critique. In: Television & New Media, Bd. 22, Nr. 2, 2021, S. 205-224.

FORTUNA, P./SOLER-COMPANY, J./WANNER, L.: Toxic, hateful, offensive or abusive? What are we really classifying? An empirical analysis of hate speech datasets. In: CONFERENCE ON LANGUAGE RESOURCES AND EVALUATION, 12, 2020: Proceedings. European Language Resources Association. Marseille 2020. S. 6786-6794.

FUNDAÇÃO GETULIO VARGAS: Vorstand für Evaluation öffentlicher Politiken. Monitor de temas. Rio de Janeiro 2015. Verfügbar unter: http://bibliotecadigital.fgv.br/dspace/handle/10438/15262. Letzter Zugriff am: 26.02.2021.

GILLESPIE, T.: A relevância dos algoritmos. In Parágrafo, Bd. 6, Nr. 1, 2018, S. 95-121.

JURNO, A. C./D’ANDRÉA, C.: (In)visibilidade algorítmica no “feed de notícias” do Facebook. In: Revista Contemporânea, Bd. 15, Nr. 2, 2017, S. 463-484.

LUCCAS, V. N./GOMES, F. V./SALVADOR, J. P. F.: Guia de análise de discurso de ódio. Rio de Janeiro 2020. Verfügbar unter: https://www.conib.org.br/wp-content/uploads/2019/11/Guia-de-An%C3%A1lise-de-Discurso-de-%C3%93dio.pdf. Letzter Zugriff am: 26.02.2021.

LUNA, N./SANTOS, G.: Liberdade de expressão e discurso do ódio no Brasil. In: Revista Direito e Liberdade, Bd. 16, Nr. 3, 2014, S. 227–255. Verfügbar unter: http://ww2.esmarn.tjrn.jus.br/revistas/index.php/revista_direito_e_liberdade/article/view/780. Letzter Zugriff am: 01.03.2021.

NANDI, J.: O combate ao discurso de ódio nas redes sociais. Bachelorarbeit. Bundesuniversität von Santa Catarina (UFSC), Campus Araranguá, Bachelorabschluss: Informations- und Kommunikationstechnologien. Araranguá, 2018. Verfügbar unter: https://repositorio.ufsc.br/handle/123456789/187510. Letzter Zugriff am: 01.03.2021.

NERIS, N. (Hrsg.)/VALENTE, M./CRUZ, F./OLIVA, T.: Outras vozes. Gênero, raça, classe e sexualidade nas eleições de 2018. InternetLab. São Paulo 2019. Verfügbar unter: https://www.internetlab.org.br/wp-content/uploads/2019/10/OutrasVozes_2018.pdf. Letzter Zugriff am: 10.03.2021.

ORGANISATION DER VEREINTEN NATIONEN: Charta der Vereinten Nationen. San Francisco 1945. Verfügbar unter: https://www.un.org/en/charter-united-nations/index.html. Letzter Zugriff am: 26.02.2021.
ORGANISATION DER VEREINTEN NATIONEN: Allgemeine Erklärung der Menschenrechte. Paris 1948. Verfügbar unter: https://www.un.org/en/universal-declaration-human-rights/. Letzter Zugriff am: 26.02.2021.

PAREKH, B.: Is there a case for banning hate speech? In: HERZ, M./MOLNAR, P. (Hrsg): The Content and Context of Hate Speech. Rethinking Regulation and Responses. Cambridge 2012, S. 37-56.

PEARSON, J./CHILD, J./DEWITT, L./KAHL, D.: Facing the fear. An analysis of speech-anxiety content in public-speaking textbooks. In: Communication Research Reports, Bd. 24, 2007, S. 159-168.

ROGERS, R.: Engajados de outra maneira. As Mídias Sociais – Das Métricas de Vaidade à Análise Crítica. In: OMENA, J. J. (Hrsg.): Métodos Digitais. Teoria e Prática. Lissabon 2019, S. 73-96.

RUEDIGER, M. (Hrsg.): Nem tão #simples assim. O desafio de monitorar políticas públicas nas redes sociais. Rio de Janeiro 2017. Verfügbar unter: http://hdl.handle.net/10438/19436. Letzter Zugriff am: 01.03.2021.

SANCHES, D.: Construindo grafos de conhecimento (knowledge graphs) para análise de redes sociais. Uma análise sobre discurso de ódio em Portugal. In: WORKSHOP ON MEDIA, INFORMATION AND DATA SCIENCE, 1, 2020. Annalen der Bundesuniversität von Goiás. Goiânia 2020.

ELLARS, A.: Defining Hate Speech. In: Berkman Klein Center Research Publication, Nr. 2016-20, Boston Univ. School of Law, Public Law Research Paper, 2016, S. 16-48. Verfügbar unter: http://dx.doi.org/10.2139/ssrn.2882244. Letzter Zugriff am: 01.03.2021.

SHEPHERD, A.: Extremism, free speech and the rule of law. Evaluating the compliance of legislation restricting extremist expressions with article 19 ICCPR. Utrecht Journal of International and European Law, Bd. 33, 2017, S. 62-83.

SIEGEL, A.: Online hate speech. In: PERSILY, N./TUCKER, J. (Hrsg.): Social media and democracy. Cambridge 2020, S. 56-88.

SILVA, L. R./BOTELHO-FRANCISCO, R. E./OLIVEIRA, A. A./PONTES, V. R: A gestão do discurso de ódio nas plataformas de redes sociais digitais. Um comparativo entre Facebook, Twitter e Youtube. In: Revista Ibero-americana de Ciência da Informação, Bd. 12, N. 2, 2019, S. 470-492.

SILVIA, L./MONDAL, M./CORREA, D./BENEVENUTO, F./WEBER, I: Analyzing the targets of hate in online social media. In: Proceedings of the Tenth International AAAI conference on Web and Social Media, 2016. Verfügbar unter: https://arxiv.org/abs/1603.07709v1.

SIMONS, A./MUELLER, J.: The Dynamics of Internal Conflict. In: International Security, Bd. 4, Nr. 4, 2001, S. 187-192.

SLOAN, R. H./WARNER, R.: Beyond notice and choice. Privacy, norms, and consent. In: Journal of High Technology Law, Bd. 14, 2014, S. 370.

WALDRON, J.: The harm in hate speech. Cambridge 2012.

WEAVER, S.: A rhetorical discourse analysis of online anti-Muslim and anti-Semitic jokes. In: Ethnic and Radical Studies, Bd. 3, N. 36, 2013, S. 483-499.

WEINSTEIN, J./HARE, I.: General introduction. Free speech, democracy, and the suppression of extreme speech past and present. In: WEINSTEIN, J./HARE, I. (Hrsg.): Extreme speech and democracy. New York 2009, S. v-ix.

Forschungskoordination
Marco Aurelio Ruediger
Amaro Grassi

Forscher
Dalby Hubert
Danielle Sanches
Eurico O. Matos Neto
Luiza C. Santos
Lucas Roberto da Silva
Polyana Sampaio Barbosa
Renata Tomaz

Fachliche Prüfung
Renata Tomaz

Grafikdesign
Luis Gomes
Daniel Cunha