RACISMO ALGORÍTMICO

Instagram associa palavra "negra" à venda de drogas; Erika Hilton denuncia ao MP

Deputada pede multa de R$ 50 milhões por danos morais coletivos à Meta, empresa responsável pela rede social

Instagram associa palavra "negra" com venda de drogas; Erika Hilton denuncia ao MP.Créditos: Reprodução e Zeca Ribeiro/Câmara dos Deputados
Escrito en TECNOLOGIA el

Ao pesquisar os termos "negra"; "mulher negra"; "cultura negra" ou "beleza negra", o Instagram e o Threads, aplicativos da Meta, enviam um anúncio em que afirmam que os termos "podem estar associados à venda de drogas". 

A prática foi denunciada pelo influenciador Levi Marques na rede social Bluesky. Ao pesquisar a palavra "negra", Levi recebeu o seguinte aviso: "Isso pode estar associado à venda de drogas. A venda, compra ou negociação de drogas ilícitas podem prejudicar você e outras pessoas. Se você ou alguém do seu conhecimento está lutando com o abuso de substâncias, pode obter ajuda com referências para tratamento confidenciais, bem como apoio à prevenção e recuperação".

A postagem de Levi repercutiu pelas redes sociais e outros usuários fizeram o teste, pesquisando outros termos relacionados a pessoas negras, e receberam o mesmo aviso. A denúncia chegou até a ativista e candidata à vereadora Amanda Paschoal (PSOL-SP) e à deputada federal Erika Hilton (PSOL-SP), que entraram com uma ação no Ministério Público Federal, nesta quinta-feira (5). 

Amanda e Erika afirmam que a atitude da rede social "viola a legislação brasileira ao perpetuar estereótipos e discriminação racial" e pedem R$ 50 milhões à Meta por danos morais coletivos.

"A conduta é absolutamente inaceitável e a empresa detentora das plataformas deve ser responsabilizada", diz um trecho da representação. 

"É inaceitável que uma rede social com aproximadamente 100 milhões de brasileiros estigmatize e associe as mulheres negras - um quarto da população do nosso País - ao tráfico de drogas de forma automática e emaranhada ao próprio funcionamento da rede social", completa outro trecho. 

Meta alega "problema técnico"

Após a repercussão do caso, a Meta emitiu uma nota afirmando que a associação de palavras era um "problema técnico" da rede social. "Mais cedo, um problema técnico afetou a experiência dos usuários no Instagram e Threads. Resolvemos o problema o mais rápido possível e nos desculpamos por qualquer inconveniente". 

A deputada Erika Hilton, porém, reforçou a denúncia, afirmando que não será tolerado "que a empresa estigmatize as mulheres negras e as associe ao tráfico de drogas e depois saia dizendo que foi 'problema técnico'".

"Racismo não é problema técnico, é crime, precisa ser combatido e a Meta precisa ser responsabilizada", finalizou ela em postagem na Bluesky. 

Siga as redes da Revista Fórum e da jornalista Júlia Motta no Bluesky