A polícia da província de Gansu, no noroeste da China, prendeu um homem por “usar tecnologia de inteligência artificial para inventar informações falsas”, segundo um comunicado divulgado no último domingo (7).
O caso chamou a atenção da divisão cibernética da polícia local quando foi detectada uma notícia falsa que afirmava que nove pessoas haviam sido mortas em um acidente de trem local em 25 de abril.
Te podría interesar
Os policiais de segurança cibernética do condado de Kongtong encontraram o artigo publicado simultaneamente por mais de 20 contas no Baijiahao, uma plataforma de blogs administrada pela gigante chinesa de mecanismos de busca Baidu. As histórias receberam mais de 15 mil cliques quando chegaram ao conhecimento das autoridades.
A polícia informou ter rastreado a origem do artigo até uma empresa de propriedade do suspeito – que teve apenas o sobrenome Hong revelado – que operava plataformas de mídia pessoal registradas em Shenzhen, na província de Guangdong, no sul da China. Cerca de 10 dias depois, uma equipe policial revistou a casa de Hong e seu computador e o deteve.
Te podría interesar
A declaração da polícia informou ainda que Hong confessou ter ignorado a função de verificação de duplicação de Baijiahao para publicar em várias contas que adquiriu. Ele inseriu os elementos das histórias sociais de tendências na China dos últimos anos no ChatGPT para produzir rapidamente diferentes versões da mesma história falsa e as carregou em suas contas Baijiahao, confessou.
Embora o ChatGPT não esteja diretamente disponível para endereços IP chineses, os usuários do país podem acessar seu serviço se tiverem uma conexão VPN confiável.
[VPN significa “Virtual Private Network” (Rede Privada Virtual) e estabelece uma conexão de rede protegida ao usar redes públicas. As VPNs criptografam o tráfego de Internet e disfarçam a identidade online do usuário.]
O departamento de segurança pública de Gansu informou que Hong era suspeito do crime de “provocar brigas e problemas”, uma acusação que normalmente acarreta uma pena máxima de cinco anos. Mas em casos considerados especialmente graves, os infratores podem ser presos por 10 anos e receber penalidades adicionais.
Em 2013, as autoridades chinesas estenderam o crime de “provocar brigas e problemas” para abranger pessoas suspeitas de terem postado e espalhado notícias falsas ou boatos online.
Leis chinesas regulam uso da internet
Esta é a primeira vez que o público toma conhecimento de uma detenção pelas autoridades chinesas depois que as primeiras disposições de Pequim para regular o uso da tecnologia deepfake entraram oficialmente em vigor em janeiro deste ano.
As disposições, denominadas Disposições Administrativas sobre Síntese Profunda para Serviços de Informações da Internet, definem a síntese profunda como o uso de tecnologias – incluindo aprendizado profundo e realidade aumentada – para gerar texto, imagens, áudio e vídeo e criar cenários virtuais.
O principal regulador da Internet da China há muito expressa preocupação de que o desenvolvimento descontrolado e o uso de tecnologia de síntese profunda possam levar ao seu uso em atividades criminosas, como golpes online ou difamação.
Os regulamentos da China, que foram introduzidos em conjunto pela Administração do Ciberespaço da China, pelo Ministério da Indústria e Tecnologia da Informação e pelo Ministério da Segurança Pública, estabelecem que vídeos e fotos feitos com tecnologia de síntese profunda devem ser “claramente rotulados” para evitar confusão pública.
Anteriormente, a regulamentação da síntese profunda era distribuída entre várias autoridades, mas a mudança para implementar uma regulamentação autônoma mostra que a China quer controlar o rápido desenvolvimento da tecnologia e os desafios regulatórios que enfrenta.
Em março deste ano, o legislativo nacional chinês aprovou um pacote de reformas da burocracia da China. No geral, esta reforma vai cortar 5% do pessoal de muitos departamentos e ministérios. O órgão mais remodelado foi o Ministério da Ciência e Tecnologia (MCT), que passa a ter vários subcomitês e órgãos foram estabelecidos.
Como o ChatGPT se tornou viral nos últimos meses, as agências policiais da China repetidamente expressaram suspeitas e até mesmo advertências sobre a tecnologia.
Em um dos primeiros comentários sobre o chatbot feito pelo aparato de segurança chinês, a polícia de Pequim alertou especificamente o público em fevereiro para ter cuidado com os “rumores” gerados pelo ChatGPT.
Ocidente também se preocupa com IA
Uma das aplicações mais comuns e notórias da tecnologia de IA é o deepfake, no qual uma mídia sintética é usada para trocar o rosto ou a voz de uma pessoa por outra. Tem ficado cada vez mais difícil detectar esse tipo de conteúdo por causa do avanço da tecnologia, que agora é usada em todo o mundo para gerar vídeos pornográficos falsos de celebridades, produzir notícias falsas e cometer fraudes financeiras.
Plataformas de mídia social ocidentais, como Twitter e Facebook, também introduziram medidas para detectar e prevenir a disseminação de desinformação gerada pela tecnologia deepfake.
Com informações do South China Morning Post