DISCURSO DE ÓDIO EM AMBIENTES DIGITAIS

As práticas de discurso de ódio on-line se apresentam como um desafio para as democracias, especialmente por acionar questões em torno de um de seus pilares, a liberdade de expressão. Buscando compreender as dinâmicas de negociação entre segurança de grupos protegidos e garantia da liberdade de expressão, este estudo investiga o debate público a partir do Twitter e do Facebook em torno do discurso de ódio e da censura. Para isso, primeiro apresentamos um panorama geral das definições e legislações que informam a compreensão sobre discurso de ódio, discutindo as especificidades do contexto on-line e as formas de definição e auto-regulação propostas pelas plataformas. Em seguida, a partir de coleta de dados em redes sociais, especificamente o Twitter e o Facebook, analisamos o debate público em torno do discurso de ódio e da censura, considerando especialmente os picos de discussão sobre os temas e os acontecimentos a eles associados. Por fim, identificamos os principais atores e interações ocorridos no pico máximo de debate sobre discurso de ódio e de censura, a partir de grafos que apresentam uma análise estrutural das redes sociais. O estudo utiliza fontes bibliográficas, documentais e dados coletados no Facebook e no Twitter, posteriormente analisados qualitativa e quantitativamente.

Palavras-chave: discurso de ódio; plataformas digitais; censura; liberdade de expressão; redes sociais.

SÍNTESE DOS RESULTADOS

> A revisão teórica combinada com a análise das plataformas revelou que, embora existam diretrizes para sanções de contas que publicam conteúdos ofensivos é muito difícil e complexa a detecção desse tipo de postagem;

> A pesquisa se focou na coleta de dados sobre discurso de ódio e censura, capturando cerca de 11 milhões de postagens no Twitter e 34 mil postagens no Facebook, entre novembro de 2020 a janeiro de 2021;

> No que se refere ao debate sobre discurso de ódio no Twitter e no Facebook, as postagens se concentraram em torno de temas como misoginia e racismo. O pico de postagens sobre o tema, em ambas plataformas, ocorreu em 20 de novembro de 2020, Dia da Consciência Negra. As publicações foram intensificadas pela discussão em torno do racismo estrutural com a notícia da morte por espancamento, no dia anterior, de um consumidor negro no Supermercado Carrefour, em Porto Alegre (RS);

> O discurso sobre censura e liberdade de expressão foi intensificado pelas sanções impostas pelas plataformas em contas, como as do ex-presidente dos Estados Unidos Donald Trump, cujas postagens questionando o resultado das eleições presidenciais foram associadas à invasão do Congresso americano por setores extremistas. A suspensão de contas mobilizou as redes na abordagem sobre a censura nas plataformas em torno da expressão de opinião dos seus usuários, tanto no Twitter como no Facebook.

APRESENTAÇÃO

A manutenção dos regimes democráticos depende, dentre outros fatores, de um equilíbrio saudável entre liberdade de expressão e combate à intolerância, especialmente quando direcionada a grupos minoritários. Tão importante quanto a possibilidade de livre expressão de cada sujeito é a manutenção de um ambiente democrático no qual discursos que representam um ataque à diversidade sejam adequadamente contidos, como os discursos de ódio ou violentos. As possibilidades de expressão pública geradas pelas mídias sociais colocam novos desafios a essa já controversa equação.

Correntes jurídicas diferentes compreendem o papel do Estado na manutenção desse ambiente de formas distintas: países como os Estados Unidos, por exemplo, protegem a liberdade de expressão acima de tudo; já países como a Alemanha colocam limites mais rígidos naquilo que pode ser dito. No contexto on-line, é preciso ainda incluir as posições das próprias plataformas digitais onde muitos desses discursos circulam, que são, em geral, contrárias às regulações estatais e defensoras das auto-regulações.

Considerando a necessidade de um ecossistema onde coexistam liberdade de expressão e segurança dos diversos grupos, a questão dos discursos de ódio é primordial quando falamos de democracia digital. Sua abordagem tem sido crescente tanto em pesquisas mais amplas, como as que investigam a desinformação (BARBOSA et al., 2020), quanto em mapeamentos mais específicos (NERIS et al., 2020), que analisam seus aspectos constitutivos. Neste estudo, apresentamos um panorama geral das definições e legislações em torno do discurso de ódio, discutindo as especificidades do contexto on-line e as formas de definição e auto-regulação propostas pelas plataformas. A partir de coleta de dados em redes sociais, especificamente, no Twitter e no Facebook, analisamos o debate público em torno do discurso de ódio e da censura levando em conta especialmente os picos de menções aos temas e os acontecimentos a eles associados. Realizamos, ainda, uma análise dos principais atores e interações que foram mobilizados a partir dos momentos de maior atividade no debate sobre discurso de ódio e sobre censura, com base em grafos que apresentam uma representação estrutural das redes sociais.

Este é o terceiro policy paper lançado por meio do projeto ​Digitalização e Democracia no Brasil​, uma parceria entre a Diretoria de Análise de Políticas Públicas da Fundação Getulio Vargas (FGV DAPP) e a Embaixada da Alemanha no Brasil. Com duração até 2022, o projeto utiliza-se da experiência em pesquisa aplicada de redes sociais e da ​expertise ​de análise de políticas públicas da FGV DAPP, construída ao longo da última década.

O objetivo é desenvolver estratégias de enfrentamento e compreensão sobre os novos e iminentes desafios da democracia brasileira — agora representada por um cenário consolidado de extremismo digital e de suas consequências para a sociedade. Nesse sentido, concentra-se, em primeiro lugar, no fortalecimento dos valores democráticos e no desenvolvimento de mecanismos e conhecimentos necessários para promover um debate público digital consistente e profícuo.

METODOLOGIA

Este trabalho utilizou fontes bibliográficas, documentais e dados coletados em plataformas de redes sociais digitais – especificamente o Facebook e o Twitter. A pesquisa bibliográfica informa a primeira e segunda parte deste documento, apresentando o estado da arte da discussão em torno de discurso de ódio em ambientes digitais. A pesquisa documental informa a primeira parte do trabalho, em torno das diretrizes legais vigentes no Brasil, e a segunda parte do trabalho, que aborda especificamente a posição das plataformas em torno do discurso de ódio que ocorre em seu meio. Para o mapeamento dos conceitos de discurso de ódio e diretrizes de comportamento estabelecidas pelas plataformas, foram consultados os Termos de Uso e as Diretrizes de Comunidade do Twitter, Facebook, Instagram e YouTube. Ambos estão disponíveis de forma aberta para consulta em abas específicas do site de cada plataforma, sendo periodicamente atualizados. Além disso, links adicionais encontrados nessas páginas também foram consultados sempre que pertinente. Os registros encontrados neste trabalho dizem respeito aos Termos de Uso e Diretrizes de Comunidade em vigor durante o mês de fevereiro de 2021 nas respectivas plataformas.

No que diz respeito à análise de dados em redes sociais que completa este estudo, a abordagem empírica lançou mão de métodos automáticos de coleta e de classificação de postagens em plataformas de redes sociais. Em um primeiro momento, com vistas à coleta dos dados no Twitter, foi elaborada uma lista de termos que pudesse dar conta do escopo temático sobre o qual o estudo se debruça ‒ isto é, discurso de ódio e, eventualmente, liberdade de expressão. Parte dessa coleta foi realizada na aplicação Trendsmap, que permite o monitoramento em tempo real de postagens com maior engajamento no Twitter, em termos tanto de compartilhamentos quanto de comentários e respostas. Além disso, essa lista de termos foi utilizada para filtrar as postagens feitas durante o período de análise ‒ entre 16 de novembro de 2020 e 06 de fevereiro de 2021 ‒, as quais foram armazenadas em um banco de dados PostgreSQL.

A partir da coleta inicial de dados no Twitter, procedeu-se, então, à classificação dos dados alcançados, com base nas regras linguísticas construídas sobre o tema (RUEDIGER, 2017). Essa etapa constituiu na elaboração de sintaxes de busca orientadas pelos dois tópicos centrais deste estudo, que são “discurso de ódio” e “liberdade de expressão” (e “censura”). Sintaxes de busca equivalem a um conjunto de valores linguísticos, articulados por meio de operadores booleanos (ou lógicos), que se baseia em elementos semântico-pragmáticos com que um dado tópico é geralmente instanciado. Essas sintaxes de busca foram, então, executadas em uma busca textual no banco de dados. Para a coleta e a classificação dos dados no Facebook, por sua vez, o estudo adaptou as sintaxes de busca elaboradas para a classificação dos dados do Twitter ‒ para os dois temas já mencionados, ou seja, “discurso de ódio” e “liberdade de expressão” ‒, a fim de executá-las no Crowd Tangle, uma aplicação de monitoramento de postagens no Facebook vinculada à própria plataforma.

Em que pese o fato da metodologia aplicada se amparar na construção de regras linguísticas estruturadas, o tema alvo da nossa pesquisa, o debate sobre discurso de ódio, é extremamente complexo e, por essa razão, algumas vezes observamos a presença de postagens que lançaram mão de vocabulário simplificado, mas que tinham significados diversos. Esse desafio fez com que tivéssemos que estabelecer alguns filtros após as coletas realizadas, focando nos picos de menções para analisar o engajamento do debate. A análise qualitativa desses momentos em que a discussão se intensifica se torna, nesse sentido, uma estratégia metodológica para lidar com as limitações dos resultados da extração dos dados a partir da elaboração das sintaxes de busca.

>Leia as definições de discurso de ódio na versão completa do estudo em PDF.

Debate sobre discurso de ódio e censura no Twitter

Entre os dias 16 de novembro de 2020 e 06 de fevereiro de 2021, o discurso de ódio foi assunto de aproximadamente 11,6 milhões de postagens no Twitter. O debate foi impulsionado pelas comemorações do Dia da Consciência Negra e o assassinato de um consumidor negro por um segurança do Supermercado Carrefour, em Porto Alegre (RS), e em razão da invasão do Capitólio, nos Estados Unidos, e a consequente suspensão das contas do ex-presidente norte-americano Donald Trump, nas redes sociais. Como fica evidente, os dois temas que mais impulsionaram o debate no Twitter são discurso de ódio (debate acerca do racismo estrutural) e liberdade de expressão (debate sobre censura). Assim, como a literatura sobre o tema nos mostra, o debate sobre ofensas on-line tem sempre no seu verso questionamentos sobre o cerceamento das liberdades individuais e as censuras impostas pelas plataformas contra expressões de opinião dos usuários.

No período analisado, outras notícias também contribuíram de forma expressiva com este debate. Sobre o discurso de ódio, o episódio de assédio sofrido pela deputada Isa Penna (PSOL-SP) foi permeado por uma discussão sobre a vulnerabilidade feminina e a misoginia em diferentes espaços. No que se refere à liberdade de expressão, podemos apontar a publicação realizada pelo Ministério da Saúde sobre o tratamento precoce contra a Covid-19, considerada pelo Twitter como mensagem enganosa.

Como apontado, a coleta de dados sobre discurso de ódio on-line ou ofensas vem sempre acompanhada com postagens sobre a liberdade do usuário em poder se manifestar livremente. Nesse aspecto, durante o período analisado foi intenso o debate sobre a divulgação da suspensão de contas ou da remoção de conteúdo em sites de redes sociais, como Facebook, Instagram ou, ainda, o próprio Twitter, por violação de diretrizes das plataformas. Algumas postagens ‒ partindo de perfis de políticos ou blogueiros com algum alinhamento partidário-ideológico ou identitário ‒ questionam a decisão dos sites, alegando que o conteúdo bloqueado não violaria padrões das comunidades ou que as razões do bloqueio não se sustentariam, e que, na verdade, ele seria alvo de campanhas difamatórias por parte de grupos contrários. O banimento é eventualmente comparado a outros casos, em que os usuários identificam postagens que também contenham conteúdo sensível ‒ por exemplo, ofensas e ameaças a determinados políticos ou a grupos partidários, disseminação de notícias ou de informações falsas ‒, porém não foram removidas pelas plataformas nem tiveram as contas de seus autores suspensa.

O gráfico a seguir mostra a evolução do debate no Twitter e, com base nos picos apontados nele, marcadamente nos dias 20 de novembro (sobre discurso de ódio) e nos dias 15 de dezembro e 19 de janeiro de 2021 (sobre liberdade de expressão), iremos construir uma análise qualitativa baseada no engajamento acerca dos temas. Iremos levar em conta os compartilhamentos, números de curtidas e número de seguidores de cada conta a fim de detectar as publicações que impulsionaram o debate.

> Leia toda a análise das interações no Twitter na versão completa do estudo em PDF.

Debate sobre discurso de ódio e censura no Facebook

Esta seção apresenta os resultados da análise realizada no Facebook entre os dias 15 de novembro de 2020 e 11 de fevereiro de 2021. Ao todo, foram coletadas 21.149 postagens que tratavam sobre discurso de ódio e 12.773 sobre os temas de liberdade de expressão ou censura. A evolução de ambos debates foi observada paralelamente, considerando a relação direta entre os dois assuntos, conforme tratamos anteriormente. Pensar essa articulação importa para este trabalho na medida em que cresce a demanda por mecanismos para coibir os discursos de ódio e, de maneira correlata, impor limites à liberdade de expressão.

Assim, como aconteceu na coleta do Twitter, o maior pico do debate sobre o tema se encontra no mês de novembro, no dia 20, o Dia da Consciência Negra, quando foram contabilizadas 1.301 postagens sobre discurso de ódio na plataforma, mais de cinco vezes a média de 237,6 publicações ao dia, no período analisado. A data, por si só, impulsiona a produção de conteúdo, sobretudo de figuras públicas, a respeito da necessidade de combater o racismo. No entanto, a morte de João Alberto, o consumidor negro vítima de um espancamento na véspera do feriado, no estacionamento do Supermercado Carrefour, em Porto Alegre (RS), elevou os níveis de engajamento.

Ao longo do dia, as publicações se concentraram em, por um lado, discutir o caso como exemplo de racismo estrutural e, por outro, combater a ideia de que o crime tenha tido essa motivação. Embora a maioria das postagens sobre o episódio o tenham vinculado à data comemorativa como evidência de uma frágil compreensão da igualdade de direitos no país, a publicação que mais produziu engajamento foi uma realizada pelo perfil do presidente Jair Bolsonaro. No texto, com 41.787 compartilhamentos, ele afirmou que o ódio estaria nos que querem dividir o povo brasileiro, por meio do ressentimento, tornando-o vulnerável a mecanismos de controle.

Sobre o debate de censura no Facebook, para além de postagens que abordaram o assunto em contextos específicos como o religioso e o artístico, chamam atenção dois tipos de publicações no intervalo de tempo analisado: as que acusam as plataformas, sobretudo Twitter e Facebook, de ferirem a liberdade de expressão na rede; e as que celebram decisões notadamente jurídicas, caracterizadas por termos como “vitória da liberdade de expressão”.

As postagens sobre censura alcançaram uma média diária de 145,5, um fluxo menor que o do discurso de ódio. No entanto, nos dias 9, 11 e 14 de janeiro, o volume de postagens do debate sobre censura superou o de discurso de ódio. A mudança foi provocada pelas notícias de que o então presidente dos Estados Unidos Donald Trump teve suas contas canceladas permanentemente pelo Twitter e, por tempo indeterminado, por Facebook e Instagram. Nesses três dias, o debate sobre censura teve uma alta de publicações, registrando um total, respectivamente, de 423, 408 e 436 postagens.

> Leia toda a análise das interações no Facebook na versão completa do estudo em PDF.

Embora as ofensas, ameaças e discriminações que compreendem os discursos de ódio tenham efeitos subjetivos, considerando o grande sofrimento psíquico que produzem, seu escrutínio não poderá abrir mão dos impactos políticos que geram. O silenciamento e a invisibilidade que sofrem os grupos vulnerabilizados enfraquecem suas demandas e seus pleitos, alijando-os dessa forma dos processos democráticos de decisão. É nesse sentido que identificar e combater os discursos de ódio importa para a democracia.

Este trabalho apresentou uma revisão de literatura sobre o tema com o objetivo de elencar os principais entendimentos sobre o que são os discursos de ódio na academia e no campo jurídico, suas especificidades no ambiente digital e como são definidos pelas plataformas digitais em seus protocolos de auto-regulação. O levantamento bibliográfico e documental revelou que, se por um lado, é possível conceituar os discursos de ódio teoricamente, por outro, é bastante complexo defini-los em situações concretas. O desafio se intensifica, nas páginas on-line, com memes, vídeos, comunidades organizadas e léxicos diversos, entre outros aspectos.

O material mostrou que, além da adoção dos tratados internacionais que combatem as diferentes discriminações, é necessário que os países formulem uma legislação que combine seus contextos sociais, históricos e, sobretudo, culturais com as especificidades do universo on-line. Nesse sentido, o desafio não se mostrou menor para as plataformas. Ao detalhar – umas mais, outras menos – em seus Termos de uso e Diretrizes de Comunidade como percebem as diversas manifestações de discursos de ódio, elas exibem uma série de lacunas sobre como abordar e coibir seus autores. Uma hipótese a esse respeito é a de que as plataformas globais precisam conhecer as particularidades socioculturais em que seus usuários estão inseridos para desenvolver encaminhamentos exequíveis e mais produtivos no enfrentamento dos discursos de ódio.

A análise empírica do estudo consistiu no mapeamento do debate dos discursos de ódio e sua relação com a liberdade de expressão, no Twitter e no Facebook, entre os meses de novembro de 2020 e fevereiro de 2021. Ainda que ambos sejam redes sociais digitais com expressivo número de usuários, inclusive no contexto brasileiro, compreendemos que apresentam limitações em termos de representatividade tanto em relação ao quantitativo de interações digitais quanto à diversidade de atores que ensejam. Assim, a análise aqui presente oferece uma visão parcial do complexo ecossistema de criação, proliferação e manutenção de discursos de ódio on-line.

No âmbito das preocupações metodológicas, um desafio que se impõe à elaboração das sintaxes de busca ‒ para a coleta e a classificação dos dados a serem analisados ‒ se refere às sutilezas que marcam a conceituação e o escopo semântico-pragmático do tema sobre o qual o estudo se debruça, isto é, o tópico “discurso de ódio”. Visto que há grande dificuldade em se determinar, de maneira conclusiva e indiscutível, o que, de fato, configura discurso de ódio ‒ ou, ainda, discurso ofensivo ‒ e, principalmente, como esse discurso é instanciado no debate público nas redes sociais, identificar as estratégias linguísticas e discursivas relativas a esse fenômeno se mostra uma tarefa de fragilidades inegáveis.

Com base na coleta de dados e na análise realizadas, foi possível perceber que o fluxo do debate de discurso de ódio e censura se intensificou durante uma data comemorativa e a partir da repercussão de notícias no âmbito nacional e internacional. Isso leva a crer que a existência de uma agenda pública e da atuação das mídias noticiosas aqueceram as discussões em curso nas plataformas investigadas. Além desses elementos, as postagens sobre o tema por parte de figuras públicas detentoras de uma grande rede produziram um alto volume de interações, o que sinaliza o papel politicamente estratégico das figuras públicas na produção e alcance do debate.

Considerando a evolução do debate on-line, no período analisado, o estudo apontou para uma tensão entre a compreensão estrutural e pessoal da discriminação, o que significa dizer que, para uma parcela dos atores, isso é central no amadurecimento democrático, e por isso deve estar na arena pública; mas, para outra, trata-se de um discurso que desestabiliza o campo político sem, contudo, produzir mudanças efetivas. Por fim, as sanções operadas pelas plataformas, interferindo no fluxo de publicações e na atuação de determinados atores, intensificou o debate sobre liberdade de expressão, levando a uma problematização não de sua legitimidade, mas de seus limites.

Ao identificar os argumentos e atores que constituem tal debate, este trabalho lança bases para novas frentes de investigação sobre a disseminação dos discursos de ódio nas redes. Entre elas, estão o surgimento de novas plataformas em resposta às sanções realizadas, a ampliação da diversidade lexical associada às variadas possibilidades de linguagem, a relação dos procedimentos de auto-regulação das plataformas com os contextos socioculturais em que são aplicados e as estratégias dos atores sociais para desarticular as discriminações on-line.

ALAVA, S.; FRAU-MEIGS, D.; HASSAN, G. Youth and violent extremism on social media: mapping the research. Paris: Organização das Nações Unidas para a Educação, a Ciência e a Cultura, 2017.

BARBERÁ, P. How social media reduces mass political polarization: evidence from Germany, Spain, and the US. In: AMERICAN POLITICAL SCIENCE ASSOCIATION ANNUAL MEETING, 2015. Proceedings. American Political Science Association, São Francisco, 2015. Disponível em http://pablobarbera.com/static/barbera_polarization_APSA.pdf. Acesso em: 26 fev. 2021.

BARBOSA, B.; MARTINS, H.; VALENTE, J. Fake news: como as plataformas enfrentam a desinformação. São Paulo: Intervozes, 2020.

BENESCH, S. Dangerous speech: A proposal to prevent group violence. Dangerous Speech Project proposal paper. February 23, 2013. Disponível em: https://dangerousspeech.org/wp-content/uploads/2018/01/Dangerous-Speech-Guidelines-2013.pdf. Acesso em: 01 mar 2021.

BOWMAN-GRIEVE, L. Exploring Stormfront: a virtual community of the radical right. Studies in Conflict and Terrorism, v. 11, n. 31, p. 989-1007, 2009.

BRASIL. Decreto-lei nº 2.848, de 7 de dezembro de 1940. Código Penal. Disponível em: http://www.planalto.gov.br/ccivil_03/decreto-lei/del2848compilado.htm. Acesso em: 26 fev. 2021.

BRASIL. Decreto nº 65.810, de 8 de dezembro de 1969. Promulga a Convenção Internacional sobre a Eliminação de todas as Formas de Discriminação Racial. Disponível em: http://www.planalto.gov.br/ccivil_03/decreto/1950-1969/D65810.html. Acesso em: 26 fev. 2021.

BRASIL. Constituição da República Federativa do Brasil. Brasília, 1988. Disponível em: http://www.planalto.gov.br/ccivil_03/constituicao/constituicaocompilado.htm. Acesso
em: 25 fev. 2021.

BRASIL. Lei nº 7.716, de 5 de janeiro de 1989. Define os crimes resultantes de preconceito de raça ou de cor. Disponível em: http://www.planalto.gov.br/ccivil_03/leis/l7716.htm. Acesso em: 26 fev. 2021.

BRASIL. Decreto nº 592, de 6 de julho de 1992a. Promulga Atos Internacionais. Pacto Internacional sobre Direitos Civis e Políticos. Disponível em: http://www.planalto.gov.br/ccivil_03/decreto/1990-1994/d0592.htm. Acesso em: 26 fev. 2021.

BRASIL. Decreto nº 678, de 6 de novembro de 1992b. Promulga a Convenção Americana sobre Direitos Humanos (Pacto de São José da Costa Rica), de 22 de novembro de 1969. Disponível em: http://www.planalto.gov.br/ccivil_03/decreto/d0678.htm. Acesso em: 26 fev. 2021.

BRASIL. Declaração e programa de ação [da III Conferência Mundial de Combate ao Racismo, Discriminação Racial, Discriminação Racial, Xenofobia e Intolerância Correlata]. Brasília, DF: Ministério da Cultura, 2001. Disponível em: http://www.unfpa.org.br/Arquivos/declaracao_durban.pdf. Acesso em: 26 fev. 2021.

BRASIL. Lei nº 10.741, de 1 de outubro de 2003. Dispõe sobre o Estatuto do Idoso e dá outras providências. Disponível em: http://www.planalto.gov.br/ccivil_03/leis/2003/l10.741.htm. Acesso em: 26 fev. 2021.

BRASIL. Lei nº 12.735, de 30 de novembro de 2012. Altera o Decreto-Lei nº 2.848, de 7 de dezembro de 1940 ‒ Código Penal, o Decreto-Lei nº 1.001, de 21 de outubro de 1969 ‒ Código Penal Militar, e a Lei nº 7.716, de 5 de janeiro de 1989, para tipificar condutas realizadas mediante uso de sistema eletrônico, digital ou similares, que sejam praticadas contra sistemas informatizados e similares; e dá outras providências. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2011-2014/2012/lei/l12735.htm. Acesso em: 26 fev. 2021.

BRASIL. Lei nº 12.965, de 23 de abril de 2014. Estabelece princípios, garantias, direitos e deveres para o uso da Internet no Brasil. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm. Acesso: 26 fev. 2021.

BROWN, A. What is so special about online (as compared to offline) hate speech? Ethnicities, v. 18, n. 3, p. 297-326, 2018.

BRUGGER, W. Proibição ou proteção do discurso do ódio? algumas observações sobre o direito alemão e o americano. Revista de Direito Público, n. 15, p. 117-136, 2007.

BUYSE, A. Words of violence: “fear speech,” or how violent conflict escalation relates to the freedom of expression. Human Rights Quarterly, v. 36, n. 4, p. 779-797, 2014.

COHEN-ALMAGOR, R. Fighting hate and bigotry on the Internet. Policy and Internet, v. 3, n. 3, 2011. pp.: 1-26.

CONSANI, C. F. Democracia e os discursos de ódio religioso: o debate entre Dworkin e Waldron sobre os limites da tolerância. Etic@, v. 14, n. 2, p. 174-197, 2015.

DWORKIN, R. O direito da liberdade. São Paulo: Martins Fontes, 2006.

DWORKIN, R. Foreword to Extreme Speech and Democracy. In: HARE, I.; WEINSTEIN, J. (Editors). Extreme Speech and Democracy. New York: Oxford University Press, 2009, p. v-ix;

FARIS, R.; ASHAR,, A.; GASSER, U.; e, JOO, D. Understanding harmful speech online. Berkman Klein Center Research Publication, n. 2016-21, 2016. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract%5Fid=2882824. Acesso em: 01 mar 2021.

FERNANDEZ-MATAMORO, A.; FARKAS, J. Racism, hate speech, and social media: a systematic review and critique. Television & New Media, v. 22, n. 2, p. 205-224, 2021.

FORTUNA, P.; SOLER-COMPANY, J.; WANNER, L. Toxic, hateful, offensive or abusive? What are we really classifying? An empirical analysis of hate speech datasets. In: CONFERENCE ON LANGUAGE RESOURCES AND EVALUATION, 12, 2020. Proceedings. European Language Resources Association, Marseille, 2020. p. 6786-6794.

FUNDAÇÃO GETULIO VARGAS. Diretoria de Análise de Políticas Públicas. Monitor de temas. Rio de Janeiro: FGV DAPP, 2015. Disponível em: http://bibliotecadigital.fgv.br/dspace/handle/10438/15262. Acesso em: 26 fev. 2021.

GILLESPIE, T. A relevância dos algoritmos. Parágrafo, v. 6, n. 1, p. 95-121, 2018.

JURNO, A. C.; D’ANDRÉA, C. (In)visibilidade algorítmica no “feed de notícias” do Facebook. Revista Contemporânea, v. 15, n. 2, p. 463-484, 2017.

LUCCAS, V. N.; GOMES, F. V.; SALVADOR, J. P. F.. Guia de análise de discurso de ódio. Rio de Janeiro: Fundação Getulio Vargas, 2020. Disponível em: https://www.conib.org.br/wp-content/uploads/2019/11/Guia-de-An%C3%A1lise-de-Discurso-de-%C3%93dio.pdf. Acesso em: 26 fev. 2021.

LUNA, N e SANTOS, G. Liberdade de expressão e discurso do ódio no Brasil. Revista Direito e Liberdade, v. 16, n. 3, 2014, p. 227–255. Disponível em: http://ww2.esmarn.tjrn.jus.br/revistas/index.php/revista_direito_e_liberdade/article/view/780. Acesso em: 01 mar 2021.

NANDI, J. O combate ao discurso de ódio nas redes sociais. Trabalho de Conclusão de Curso (graduação). Universidade Federal de Santa Catarina (UFSC), Campus Araranguá, Graduação em Tecnologias da Informação e Comunicação, Araranguá, 2018. Disponível em: https://repositorio.ufsc.br/handle/123456789/187510. Acesso em: 01 mar 2021.

NERIS, N. (coord); VALENTE, M.; CRUZ, F.; OLIVA, T. Outras vozes: gênero, raça, classe e sexualidade nas eleições de 2018. InternetLab, São Paulo, 2019. Disponível em: https://www.internetlab.org.br/wp-content/uploads/2019/10/OutrasVozes_2018.pdf. Acesso em 10/03/2021.

ONU (ORGANIZAÇÃO DAS NAÇÕES UNIDAS). Carta das Nações Unidas. São Francisco: ONU, 1945. Disponível em: https://www.un.org/en/charter-united-nations/index.html. Acesso em: 26 fev. 2021.

ONU (ORGANIZAÇÃO DAS NAÇÕES UNIDAS). Declaração Universal dos Direitos Humanos. Paris: ONU, 1948. Disponível em: https://www.un.org/en/universal-declaration-human-rights/. Acesso em: 26 fev. 2021.

PAREKH, B. Is there a case for banning hate speech? In: HERZ, M.; MOLNAR, P. (Eds.). The Content and Context of Hate Speech: Rethinking Regulation and Responses. Cambridge: Cambridge University Press, 2012, p. 37-56.

PEARSON, J.; CHILD, J.; DEWITT, L.; KAHL, D. Facing the fear: an analysis of speech-anxiety content in public-speaking textbooks. Communication Research Reports, v. 24, p. 159-168, 2007.

ROGERS, R. Engajados de outra maneira: As Mídias Sociais – Das Métricas de Vaidade à Análise Crítica. In: OMENA, J. J. (Ed.). Métodos Digitais: Teoria e Prática. Lisboa: Editora da Universidade Nova de Lisboa, 2019. p, 73-96.

RUEDIGER, M. (coord.). Nem tão #simples assim: o desafio de monitorar políticas públicas nas redes sociais. Rio de Janeiro: FGV DAPP, 2017. Disponível em: http://hdl.handle.net/10438/19436. Acesso em 01/03/2021.

SANCHES, D. Construindo grafos de conhecimento (knowledge graphs) para análise de redes sociais: uma análise sobre discurso de ódio em Portugal. In: WORKSHOP ON MEDIA, INFORMATION AND DATA SCIENCE, 1, 2020. Anais. Universidade Federal de Goiás, Goiânia, 2020.

SELLARS, Andrew. Defining Hate Speech. Berkman Klein Center Research Publication, n. 2016-20, Boston Univ. School of Law, Public Law Research Paper, p. 16-48, 2016. Disponível em: https://ssrn.com/abstract=2882244 or http://dx.doi.org/10.2139/ssrn.2882244. Acesso em: 01 mar 2021.

SHEPHERD, A. Extremism, free speech and the rule of law: evaluating the compliance of legislation restricting extremist expressions with article 19 ICCPR. Utrecht Journal of International and European Law, v. 33, p. 62-83, 2017.

SIEGEL, A. Online hate speech. In: PERSILY, N.; TUCKER, J. (orgs.). Social media and democracy. Cambridge: Cambridge University Press, 2020. pp.: 56-88.

SILVA, L. R.; BOTELHO-FRANCISCO, R. E.; OLIVEIRA, A. A.; PONTES, V. R. A gestão do discurso de ódio nas plataformas de redes sociais digitais: um comparativo entre Facebook, Twitter e Youtube. Revista Ibero-americana de Ciência da Informação, v. 12, n. 2, p. 470-492, 2019.

SILVIA, L.; MONDAL, M.; CORREA, D.; BENEVENUTO, F.; WEBER, I. Analyzing the targets of hate in online social media. In: Proceedings of the Tenth International AAAI conference on Web and Social Media, 2016. Disponível em: https://arxiv.org/abs/1603.07709v1

SLOAN, R. H.; WARNER, R.. Beyond notice and choice: privacy, norms, and consent. Journal of High Technology Law, v. 14, p. 370, 2014.

WALDRON, J. The harm in hate speech. Cambridge: Harvard University Press, 2012.

WEAVER, S. A rhetorical discourse analysis of online anti-Muslim and anti-Semitic jokes. Ethnic and Radical Studies, v. 3, n. 36, p. 483-499, 2013.

WEINSTEIN, J.; HARE, I. General introduction: free speech, democracy, and the suppression of extreme speech past and present. In: HARE, I.; WEINSTEIN, J. (eds.). Extreme speech and democracy. Nova York: Oxford University Press, 2009, p. v-ix.

 

Coordenação de Pesquisa
Marco Aurelio Ruediger
Amaro Grassi

Pesquisadores
Dalby Hubert
Danielle Sanches
Eurico O. Matos Neto
Luiza C. Santos
Lucas Roberto da Silva
Polyana Sampaio Barbosa
Renata Tomaz

Revisão técnica
Renata Tomaz

Projeto gráfico
Luis Gomes
Daniel Cunha