Especialista propõe regulação de plataformas digitais contra proliferação de discursos de ódio

A confusão entre o que é discurso de ódio e o que é liberdade de expressão tem sido um embate travado em larga escala no Brasil nos últimos anos. Porta-vozes de todo tipo de obscurantismo – desde parlamentares como Nikolas Ferreira (PL-MG) que reivindicam a liberdade de expressão para atacar a comunidade LGBTQIAP+, até figuras como o streamer Monark que defendeu que um partido neonazista pudesse ser legalizado no Brasil, tal discussão tem agitado um país que convive diariamente com os efeitos dessa propagação em massa de narrativas violentas.

Os ataques à escolas que mensalmente vêm ganhando triste destaque na imprensa nacional entram pela tangente do debate. Não raro surgem notícias de que atiradores teriam recorrido a fóruns digitais para encontrar apoio às suas ações. Desde abril a Operação Escola Segura, do Ministério da Justiça, já registou quase 3 mil investigações sobre ataques violentos a instituições escolares, das quais 400 levaram à apreensão de adolescentes.

Também têm proliferado no país as chamadas células neonazistas. Que muitas vezes se valem do anonimato e do princípio da liberdade de expressão para se multiplicar nas redes. Há ainda discursos de ódio que se circulam nas redes e evoluem para crimes de ódio contra mulheres, negros, indígenas, pessoas com deficiência e todo tipo de gente que possa ser considerada vulnerável socialmente.

A situação parece completamente fora de controle, o que exige de toda a sociedade um olhar mais atento a ela. Nesse sentido, a Revista Fórum entrevistou João Pedro Favaretto Salvador, pesquisador na área de Segurança da Informação e Moderação de Conteúdo da Internet que recentemente lançou o livro “Discurso de Ódio e Redes Sociais” pela editora Almedina Brasil.

“A inovação que a internet (e, em particular, as redes sociais) trouxe para os discursos de ódio foi a facilidade de uma pessoa conseguir uma audiência. Antes da internet era muito difícil uma pessoa proferir um discurso de ódio para uma audiência relevante sem ela estar numa posição de poder, como no governo ou em algum meio de comunicação de massa. Uma pessoa qualquer poderia até pregar absurdos para um grupo próximo, mas essa pregação de ódio seria muito menos perigosa porque convenceria poucas pessoas”, explica.

De acordo com o entrevistado, o que faz com que as redes sociais sejam tão convenientes para quem produz discursos de ódio é que elas são construídas para, em grande parte, facilitar a conexão de usuários com audiências.

“O principal argumento do meu livro é, justamente, que o caminho para prevenir a proliferação dos discursos de ódio não está no aumento de penas ou na criminalização de mais discursos, mas sim na regulação das plataformas de redes sociais, que têm um controle muito maior sobre o fluxo de informação e são capazes de modificar os sistemas que contribuem para a difusão do ódio na internet,” afirmou.

Leia a seguir a entrevista na íntegra.

Seu livro fala a respeito da oposição entre liberdade de expressão e discurso de ódio. Nesse sentido, juridicamente falando, quando começa um e termina o outro?

Discursos de ódio, se explicados como um problema social, são aqueles que causam danos a reputação de grupos vulneráveis. Ou seja, são aqueles discursos que convencem ou tentam convencer sua audiência a acreditar que os membros de um grupo social não são dignos das mesmas oportunidades, direitos e recursos que outras pessoas. O resultado disso é a violência e a discriminação contra os alvos do discurso de ódio.

Do ponto de vista jurídico, o mais importante é entender que não existe uma resposta única para todos os casos de discurso de ódio. Na prática, o que é e o que não é protegido pela liberdade de expressão varia muito a depender do contexto histórico e do consenso social sobre o que é tolerável e o que é intolerável. Isso explica por que na Europa, que sofreu com o Holocausto, e no Brasil, que tem um passado escravocrata, existem leis mais fortes contra determinados discursos de ódio do que em países não tão afetados por cicatrizes históricas.

Dito isso, no Brasil, os casos que são mais obviamente ilícitos (e, portanto, não protegidos pela liberdade de expressão) são aqueles que estão explicitamente tratados na lei, como é o caso do racismo, que é crime de acordo com nossa Constituição.

Traçar a linha fica mais difícil nos casos em que a lei é pouco clara e que, portanto, exigem uma decisão concreta do judiciário. Principalmente nesses casos, a prevalência da liberdade de expressão ou dos direitos dos grupos vulneráveis vai depender muito do contexto que circunda o caso e do quão perigoso o judiciário considera aquele discurso. Quão agressiva é a linguagem? Ele é convincente? Ele atinge uma audiência muito grande? Esses e outros critérios são comuns no debate sobre o tema, tanto na academia quanto no judiciário.

Essencialmente, quanto menos clara é a legislação, quanto menos claro é o consenso da sociedade sobre quais discursos são toleráveis e intoleráveis, mais difícil é definir o que pode e o que não pode ser dito do ponto de vista jurídico. Não existe resposta única.

Por que, na sua opinião, falas completamente descabidas – racistas, violentas, misóginas etc – se proliferam tanto nas redes sociais e na internet como um todo? Qual é o papel das Big Techs, que hoje detêm o monopólio da navegação virtual, nesse quadro?

A inovação que a internet (e, em particular, as redes sociais) trouxe para os discursos de ódio foi a facilidade de uma pessoa conseguir uma audiência. Antes da internet era muito difícil uma pessoa proferir um discurso de ódio para uma audiência relevante sem ela estar numa posição de poder, como no governo ou em algum meio de comunicação de massa. Uma pessoa qualquer poderia até pregar absurdos para um grupo próximo, mas essa pregação de ódio seria muito menos perigosa porque convenceria poucas pessoas.

Hoje, a internet está cheia de sistemas que facilitam o contato entre o usuário e uma audiência de desconhecidos. O que faz com que as redes sociais sejam tão convenientes para quem produz discursos de ódio é que elas são construídas para, em grande parte, facilitar a conexão de usuários com audiências. Elas são construídas para interpretar o comportamento dos usuários, recomendando automaticamente conteúdo popular ou que pareça estar de acordo com seus interesses.

Por isso, os mesmos comportamentos que contribuem para a disseminação de um vídeo, uma foto, um meme ou um “textão”, são os que contribuem para disseminar discursos de ódio: todos aqueles que ensinam a plataforma que o conteúdo é popular e deve ser redirecionado, como curtidas, compartilhamentos, comentários etc.

Quais efeitos práticos dessa proliferação de discursos na sociedade que você destacaria?

Existe uma alegoria do filósofo neozelandês Jeremy Waldron que ilustra bem como os discursos de ódio causam problemas sociais. A forma pela qual os discursos de ódio causam danos pode ser comparável àquela da poluição ambiental: a poluição gerada por um único carro não é capaz de piorar os indicadores de qualidade do ar de uma cidade e, assim, causar danos à saúde humana. Esses danos decorrem do somatório da poluição gerada por vários carros, atividades e indústrias que contribuem em diferentes graus para o resultado.

O discurso de ódio é parecido. Não é um único discurso, de uma única pessoa, que causa os danos sociais que nos preocupam. É a proliferação desses discursos que cria um ambiente social que, no médio e longo prazo, naturaliza atos de discriminação e violência contra pessoas vulneráveis e, no limite, pode levar ao próprio governo a ser contaminado e adotar medidas opressivas e antidemocráticas. Cada discurso de ódio pode contribuir mais ou menos para esse ambiente a depender do tamanho da sua audiência e do quão convincente ele é.

Como a lei deve reagir a isso e como ela de fato reage? É possível combater a proliferação dos discursos de ódio na internet enquanto as big techs se fazem de mortas?

No Brasil, em particular, temos um problema grande de efetividade da lei. Como eu já comentei, a lei criminaliza uma série de condutas que podemos considerar discursos de ódio, como a incitação ao racismo, à xenofobia e à intolerância religiosa. O que ocorre é que, principalmente nas redes sociais, é muito difícil identificar, julgar e condenar todas as pessoas que promovem esse tipo de discurso. Isso se dá por uma mistura de motivos, como o anonimato, a necessidade de cooperação das redes sociais para identificação dos usuários e a quantidade colossal de conteúdo que precisaria ser analisado em busca de discursos de ódio todos os dias.

O resultado disso é que a lei acaba não tendo o efeito pretendido, que é o de dissuadir as pessoas a difundirem esses discursos. Mesmo esse sendo o problema (dificuldade de o sistema de justiça alcançar todos os infratores), nosso legislativo costuma responder ao aumento de discursos de ódio aumentando a pena prevista para o crime. É uma resposta fácil para os parlamentares porque passa a mensagem de que eles estão fazendo algo a respeito, de que eles são contra os discursos de ódio, mas isso não resolve o problema. Não adianta nada a pena ser maior se a grande maioria dos infratores não é punida.

O principal argumento do meu livro é, justamente, que o caminho para prevenir a proliferação dos discursos de ódio não está no aumento de penas ou na criminalização de mais discursos, mas sim na regulação das plataformas de redes sociais, que têm um controle muito maior sobre o fluxo de informação e são capazes de modificar os sistemas que contribuem para a difusão do ódio na internet.

Não acho que elas se fazem de mortas. Nos últimos anos, as redes têm feito muito mais do que faziam antes para combater discursos de ódio, desinformação e outros problemas sociais. O que acontece é que elas tentam resolver os problemas sozinhas e, por isso, fazem isso de maneira descoordenada com os interesses sociais, principalmente por falta de regulação clara.

No primeiro capítulo do seu livro, você aponta que o Estado deve regular o direito à livre manifestação. Em teoria, num regime democrático e na atual conjuntura que vivemos, isso pode fazer sentido. No entanto, como lidar com a premissa no caso de escaladas e/ou fechamentos autoritários como o que quase vivemos em 8 de janeiro?

Essas perguntas são, de fato, muito difíceis, e por isso sempre retornam nos debates sobre o combate ao discurso de ódio. É legitimo o medo de que restrições à livre expressão possam abrir a porteira para que o Estado se torne autoritário e opressivo contra dissidentes. Vejo isso como um estímulo para que essas restrições sejam muito, muito cuidadosas.

Já de cara, uma premissa que adoto é a de que, se uma restrição à livre expressão não é baseada em lei, no resultado do processo democrático, com participação social adequada, ela não é legitima. Isso vale para qualquer tipo de restrição na liberdade individual, então vale também para restrições na liberdade de expressão. A democracia pressupõe a capacidade das pessoas definirem coletivamente as regras a que estarão sujeitas. Se um Estado autoritário atropela o processo democrático e restringe as liberdades individuais como um exercício de poder, não faz diferença qual a liberdade individual. Sem legitimidade democrática, nada vale.

Se estamos falando de algo menos explicito, como a manipulação de uma lei que já existe para fins autoritários (como, por exemplo, inventar que um discurso de vozes contrárias é de ódio, para censurá-lo), isso só se resolve a partir de um debate público de qualidade, do cuidado na hora de construir a legislação e da promoção de um judiciário apegado à lei.

Um tipo de discurso de ódio (como o discurso racista, xenofóbico, homofóbico e misógino) só deve ser criminalizado quando é possível definir na lei, de forma bem clara, seus contornos. Isso só é possível se há um debate público de qualidade sobre o que acreditamos ser tolerável ou não em nossa sociedade. Se a lei abre brechas graves, fazendo com que qualquer coisa possa ser considerada discurso de ódio, essa lei pode ser abusada e não deveria existir. Se a lei é clara, mas o judiciário a interpreta do jeito que quiser, aí temos um problema muito anterior, que é a falta de apego do judiciário à lei. Se esse é o caso, então qualquer lei pode ser abusada, seja ela sobre liberdade de expressão ou não.