CHINA EM FOCO

Inteligência artificial: Evento na China debate como construir um tecnologia segura e confiável

Governo, empresas e academia se reúnem para o Diálogo Nishan da Conferência Mundial da Internet para discutir como lidar com os desafios trazidos pela IA

Créditos: Xinhua - Vista exterior do local para o Diálogo de Nishan da Conferência Mundial da Internet sobre a Civilização Digital
Escrito en GLOBAL el

A inteligência artificial (IA) é agora a fronteira mais ativa da inovação global em tecnologia digital, uma nova vertente para a economia digital e um novo ponto de destaque na competição internacional. No entanto, como lidar com os desafios que ela trouxe, a fim de construir uma IA segura e confiável, é uma questão de grande preocupação para todos.

Representantes das principais empresas de internet, incluindo Baidu, Alibaba, 360 Security Group, acadêmicos e autoridades governamentais se reuniram em Nishan, o local de nascimento de Confúcio, na cidade de Qufu, leste da China, na tentativa de encontrar uma resposta durante o Diálogo Nishan da Conferência Mundial da Internet.

Xinhua - Vista aérea tirada do local do Diálogo de Nishan da Conferência Mundial da Internet sobre a Civilização Digital, em Qufu, província de Shandong, leste da China.

A inteligência artificial, assim como outras tecnologias digitais, é uma espada de dois gumes. Embora traga maneiras mais avançadas, automatizadas e inteligentes de trabalhar e viver, também apresenta desafios para a segurança, afirmou Zhou Hongyi, fundador do 360 Security Group, ao Global Times durante o evento.

"Se o modelo de IA tem vulnerabilidades ou é facilmente atacado ou enganado, e se os dados do modelo podem ser vazados ou contaminados durante o treinamento, são todos possíveis desafios de segurança, sem mencionar os perigos quando é usado em campos críticos como finanças, direito e veículos autônomos", disse Zhou.

Diante das preocupações de segurança em relação ao desenvolvimento de robôs em larga escala, Zhou acredita que a chave para alcançar uma aplicação segura e confiável da IA é posicionar os robôs como assistentes para empresas e funcionários ou como "co-pilotos", permitindo que os seres humanos desempenhem um papel crítico no ciclo de tomada de decisão.

A IA pode fornecer sugestões e relatórios, mas a decisão final deve ser tomada pelos seres humanos, e ela não deve contornar diretamente os humanos ou ir além dos vários sistemas de negócios para tomar decisões, ressaltou Zhou.

GT - CEO e presidente do Alibaba, Zhang Yong, discursa no Diálogo de Nishan da Conferência Mundial da Internet, na província de Shandong, leste da China, em 26 de junho de 2023.

Ao abordar a conferência, o CEO e presidente do Alibaba, Zhang Yong, disse que a tecnologia de IA deve melhorar o bem-estar das pessoas. Para ele, não importa o quão poderosas as máquinas se tornem, os humanos que as criam devem sempre ser mais fortes, melhores e mais sábios.

"Cada era tem suas próprias características civilizacionais, mas qual é o espírito da civilização digital hoje? O confucionismo defende a importância de cultivar a moralidade antes de alcançar o sucesso. Correspondentemente, no desenvolvimento da inteligência artificial, o progresso tecnológico deve obedecer às normas sociais e deve fazer mais bem à humanidade", ponderou Zhang.

Ameaças da IA

Xinhua - Plateia do Diálogo de Nishan da Conferência Mundial da Internet sobre a Civilização Digital

As ameaças das tecnologias de IA não são apenas técnicas ou legais, mas também podem ser sociais, pois podem carecer de equidade ou igualdade. Portanto, gerenciar o risco da IA será mais complexo e exigirá meios adicionais além da abordagem normal de gerenciamento de risco de segurança cibernética, observou o presidente do CEN-CENELEC JTC 13 de Segurança Cibernética e Proteção de Dados, Walter Fumy, ao Global Times.

Fumy disse ainda que a União Europeia (UE) está na vanguarda da definição e regulamentação de sua IA, mas além da abordagem europeia, existem muitas outras estruturas disponíveis. Ele pediu que a indústria chegue a um consenso em algum ponto, para não acabar com centenas de legislações diferentes no campo da IA, o que seria redundante e sobreposto.

No entanto, Gong Ke, diretor executivo da Academia de Estratégia para o Desenvolvimento de Inteligência Artificial da Nova Geração da China, afirmou que, na verdade, existem alguns pontos em comum entre o projeto de lei da UE e regulamentações semelhantes na China e nos Estados Unidos.

"A diferença está em como cada país redige suas regulamentações e enfatiza aspectos diferentes, disse Gong, pedindo o compartilhamento e a troca de diferentes modelos de IA entre os países, como algoritmos de privacidade, para alcançar um terreno comum", disse Gong.

Parlamentares da UE recentemente deram um passo em direção à aprovação de uma legislação histórica sobre o uso de IA, a primeira lei abrangente de IA do mundo, e espera-se que cheguem a acordos finais sobre regulamentações específicas.

Gong afirmou que a lei da UE será uma referência importante para outros países regularem sua IA, mas à medida que os países aceleram o desenvolvimento da IA e tentam descobrir como desacelerar a IA em rápido desenvolvimento, a prioridade deve ser encontrar um equilíbrio, já que as regulamentações afetarão diretamente o futuro do desenvolvimento da indústria de IA.

"Esperançosamente, a legislação não criará uma 'situação especial' para a Europa", ou seja, a UE terá regulamentações muito mais rigorosas do que outras partes do mundo, ressaltou Fumy , explicando que seria infeliz e certamente prejudicaria o desenvolvimento da indústria, levando algumas startups a se mudarem para outros lugares.

Xinhua - Plateia do evento sobre IA

Para a China, Zhou acredita que os GPTs personalizados serão uma solução possível que permite processos de tomada de decisão mais eficientes, seguros e confiáveis, além de melhorar o desempenho em várias indústrias.

"No futuro, a China não terá apenas um grande modelo de IA, mas cada departamento governamental, empresa e até mesmo cada indivíduo terá seu próprio 'GPT personalizado'. Esses modelos de IA personalizados terão tanto a capacidade geral de compreender o conhecimento humano e interagir com os humanos quanto a capacidade de utilizar conhecimento específico da indústria e conhecimento personalizado exclusivo para empresas e governos para treinamento aprimorado e ajustes finos. Sob essa perspectiva, resolverá preocupações de segurança e confiabilidade",  antecipou Zhou.

Os representantes das principais empresas de internet na conferência estão cientes da importância da IA na economia digital, esperando fazer a diferença na corrida da IA.

O chatbot de IA Tongyi Qianwen desenvolvido pela Alibaba tem recebido grande entusiasmo e feedback de todos os setores da sociedade, especialmente da indústria, com mais de 100 mil usuários empresariais solicitando acesso, abrangendo quase todas as indústrias novas e tradicionais, de acordo com Zhang na conferência.

O CEO da Baidu, Robin Li, afirmou que a próxima fronteira no desenvolvimento de modelos de IA é não apenas imitar os seres humanos e completar suas "ações prescritas", mas também ajudar os seres humanos a explorar e descobrir campos desconhecidos e romper os limites que os seres humanos não foram capazes de superar no passado.

Com informações do Global Times