O parlamento sul-coreano aprovou, na última quinta-feira (26/9), um projeto de lei que criminaliza a posse e o consumo de conteúdo pornográfico gerado a partir de inteligência artificial. O projeto ainda deve ser sancionado pelo presidente do país, Yoon Suk-yeol.
Os deepfakes — termo formado pela junção de "deep learning"(tecnologia de inteligência generativa) e "fake" (falso) — permitem manipular e distorcer ações, criar situações inexistentes ou modificar a aparência de pessoas reais utilizando apenas uma descrição frasal.
Te podría interesar
Nos últimos anos, as IAs têm aumentado sua capacidade de gerar deepfakes cada vez mais convincentes (com sistemas que se utilizam de redes neurais para aprendizado). Vídeos maliciosos já transformaram figuras políticas, como Donald Trump ou Jair Bolsonaro, em vídeos engraçados nas redes sociais, e espalharam centenas de fake news durante os processos eleitorais de 2018.
Mas uma prática talvez ainda mais preocupante é alvo da legislação da Coréia do Sul: a manipulação de imagens com conteúdo sexual a partir da inteligência generativa.
Te podría interesar
Diferente de uma montagem feita em programas de edição de imagem, os deepfakes podem produzir vídeos complexos em que mostram pessoas reais performando atos pornográficos falsos — inclusive menores de idade.
A polícia sul-coreana já lidou com mais de 800 casos de vídeos deepfakes só este ano, de acordo com uma agência de notícias do país (Yonhap) — números que cresceram significativamente em comparação a 2021, quando os casos não passaram de 200.
A nova legislação, motivada pelo compartilhamento dos vídeos criminosos através do aplicativo de mensagens Telegram, de acordo com a Reuters, veio se somar a uma lei já existente: a Lei de Prevenção à Violência Sexual.
As penas previstas pela legislação em trânsito vão de multas (que podem chegar a 22 mil dólares) a prisão (com penas máximas de até sete anos), e alvejam pessoas que comprarem, fizerem download ou consumirem esse tipo de material.
Além disso, a legislação prevê pena máxima para quem produzir os deepfakes, com ou sem intenção de distribuí-los (a legislação anterior determinava a intenção de distribuição como agravante).