As tendências de conteúdo, chamadas popularmente de “trends”, conseguem furar a bolha algorítmica da maioria das redes sociais, atingindo um grande público. No entanto, é preciso responsabilidade e cuidado sobre os assuntos abordados por elas.
Recentemente, uma trend no TikTok, que utiliza fotografias de crianças mortas em assassinatos e as “revive” através de inteligência artificial, chocou os usuários da plataforma e revoltou os pais das vítimas.
Te podría interesar
Os vídeos possuem “deepfakes”, que são a utilização de inteligência artificial para simular expressões faciais em uma imagem ou vídeo já existente. Neste caso, o procedimento é feito com imagens de crianças que morreram para que elas "contem" como foram assassinadas.
As mídias foram produzidas sem a autorização dos responsáveis pelas crianças falecidas, o que burla a política de privacidade do TikTok, que proibiu o uso de versões de IA em menores de idade, em março deste ano.
Te podría interesar
A situação é vista como um tipo de “agressão emocional” aos familiares e amigos das vítimas. Alguns dos vídeos permanecem acessíveis na rede social, contando com milhões de visualizações.
Além disso, a narrativa obscura e sensacionalista presente nos vídeos, bem como os movimentos faciais e a voz, que costumam parecer de uma pessoa mais velha, causam agonia ao telespectador, mesmo que este não tenha ligação com a criança do caso.
James Bulger, uma criança de 2 anos de idade assassinada no Reino Unido, em 1993, é uma das vítimas transformadas através de IA e que conta sua história no TikTok. Os vídeos estão em diversas línguas, inclusive português. A mãe do menino, Denise Fergus, disse que os vídeos são “mais que doentios” após a situação ganhar notoriedade em seu país.
Os autores de tais mídias tenebrosas utilizam softwares de IA para substituir e ajustar seus rostos ou os rostos de um vídeo já existente ao rosto da vítima, podendo adicionar falas criadas através do computador e, assim, produzir o vídeo em diversos idiomas a partir de poucas imagens disponíveis.
Um dos perfis que produzem esse tipo de conteúdo possui quase 200 mil visualizações, ao todo, em seus vídeos, e conta com 7 mil seguidores. Todas as mídias permanecem acessíveis na plataforma.
O TikTok se pronunciou após a emissora britânica BBC fazer questionamentos sobre o assunto. A empresa realizou uma remoção em massa desse tipo de material e publicou um comunicado.
"Não há lugar em nossa plataforma para conteúdo perturbador desta natureza. Continuamos a remover conteúdo desta natureza à medida que o encontramos", diz o comunicado do TikTok.