A inteligência artificial (IA) é agora a fronteira mais ativa da inovação global em tecnologia digital, uma nova vertente para a economia digital e um novo ponto de destaque na competição internacional. No entanto, como lidar com os desafios que ela trouxe, a fim de construir uma IA segura e confiável, é uma questão de grande preocupação para todos.
Representantes das principais empresas de internet, incluindo Baidu, Alibaba, 360 Security Group, acadêmicos e autoridades governamentais se reuniram em Nishan, o local de nascimento de Confúcio, na cidade de Qufu, leste da China, na tentativa de encontrar uma resposta durante o Diálogo Nishan da Conferência Mundial da Internet.
Te podría interesar
A inteligência artificial, assim como outras tecnologias digitais, é uma espada de dois gumes. Embora traga maneiras mais avançadas, automatizadas e inteligentes de trabalhar e viver, também apresenta desafios para a segurança, afirmou Zhou Hongyi, fundador do 360 Security Group, ao Global Times durante o evento.
"Se o modelo de IA tem vulnerabilidades ou é facilmente atacado ou enganado, e se os dados do modelo podem ser vazados ou contaminados durante o treinamento, são todos possíveis desafios de segurança, sem mencionar os perigos quando é usado em campos críticos como finanças, direito e veículos autônomos", disse Zhou.
Diante das preocupações de segurança em relação ao desenvolvimento de robôs em larga escala, Zhou acredita que a chave para alcançar uma aplicação segura e confiável da IA é posicionar os robôs como assistentes para empresas e funcionários ou como "co-pilotos", permitindo que os seres humanos desempenhem um papel crítico no ciclo de tomada de decisão.
A IA pode fornecer sugestões e relatórios, mas a decisão final deve ser tomada pelos seres humanos, e ela não deve contornar diretamente os humanos ou ir além dos vários sistemas de negócios para tomar decisões, ressaltou Zhou.
Ao abordar a conferência, o CEO e presidente do Alibaba, Zhang Yong, disse que a tecnologia de IA deve melhorar o bem-estar das pessoas. Para ele, não importa o quão poderosas as máquinas se tornem, os humanos que as criam devem sempre ser mais fortes, melhores e mais sábios.
"Cada era tem suas próprias características civilizacionais, mas qual é o espírito da civilização digital hoje? O confucionismo defende a importância de cultivar a moralidade antes de alcançar o sucesso. Correspondentemente, no desenvolvimento da inteligência artificial, o progresso tecnológico deve obedecer às normas sociais e deve fazer mais bem à humanidade", ponderou Zhang.
Ameaças da IA
As ameaças das tecnologias de IA não são apenas técnicas ou legais, mas também podem ser sociais, pois podem carecer de equidade ou igualdade. Portanto, gerenciar o risco da IA será mais complexo e exigirá meios adicionais além da abordagem normal de gerenciamento de risco de segurança cibernética, observou o presidente do CEN-CENELEC JTC 13 de Segurança Cibernética e Proteção de Dados, Walter Fumy, ao Global Times.
Fumy disse ainda que a União Europeia (UE) está na vanguarda da definição e regulamentação de sua IA, mas além da abordagem europeia, existem muitas outras estruturas disponíveis. Ele pediu que a indústria chegue a um consenso em algum ponto, para não acabar com centenas de legislações diferentes no campo da IA, o que seria redundante e sobreposto.
No entanto, Gong Ke, diretor executivo da Academia de Estratégia para o Desenvolvimento de Inteligência Artificial da Nova Geração da China, afirmou que, na verdade, existem alguns pontos em comum entre o projeto de lei da UE e regulamentações semelhantes na China e nos Estados Unidos.
"A diferença está em como cada país redige suas regulamentações e enfatiza aspectos diferentes, disse Gong, pedindo o compartilhamento e a troca de diferentes modelos de IA entre os países, como algoritmos de privacidade, para alcançar um terreno comum", disse Gong.
Parlamentares da UE recentemente deram um passo em direção à aprovação de uma legislação histórica sobre o uso de IA, a primeira lei abrangente de IA do mundo, e espera-se que cheguem a acordos finais sobre regulamentações específicas.
Gong afirmou que a lei da UE será uma referência importante para outros países regularem sua IA, mas à medida que os países aceleram o desenvolvimento da IA e tentam descobrir como desacelerar a IA em rápido desenvolvimento, a prioridade deve ser encontrar um equilíbrio, já que as regulamentações afetarão diretamente o futuro do desenvolvimento da indústria de IA.
"Esperançosamente, a legislação não criará uma 'situação especial' para a Europa", ou seja, a UE terá regulamentações muito mais rigorosas do que outras partes do mundo, ressaltou Fumy , explicando que seria infeliz e certamente prejudicaria o desenvolvimento da indústria, levando algumas startups a se mudarem para outros lugares.
Para a China, Zhou acredita que os GPTs personalizados serão uma solução possível que permite processos de tomada de decisão mais eficientes, seguros e confiáveis, além de melhorar o desempenho em várias indústrias.
"No futuro, a China não terá apenas um grande modelo de IA, mas cada departamento governamental, empresa e até mesmo cada indivíduo terá seu próprio 'GPT personalizado'. Esses modelos de IA personalizados terão tanto a capacidade geral de compreender o conhecimento humano e interagir com os humanos quanto a capacidade de utilizar conhecimento específico da indústria e conhecimento personalizado exclusivo para empresas e governos para treinamento aprimorado e ajustes finos. Sob essa perspectiva, resolverá preocupações de segurança e confiabilidade", antecipou Zhou.
Os representantes das principais empresas de internet na conferência estão cientes da importância da IA na economia digital, esperando fazer a diferença na corrida da IA.
O chatbot de IA Tongyi Qianwen desenvolvido pela Alibaba tem recebido grande entusiasmo e feedback de todos os setores da sociedade, especialmente da indústria, com mais de 100 mil usuários empresariais solicitando acesso, abrangendo quase todas as indústrias novas e tradicionais, de acordo com Zhang na conferência.
O CEO da Baidu, Robin Li, afirmou que a próxima fronteira no desenvolvimento de modelos de IA é não apenas imitar os seres humanos e completar suas "ações prescritas", mas também ajudar os seres humanos a explorar e descobrir campos desconhecidos e romper os limites que os seres humanos não foram capazes de superar no passado.
Com informações do Global Times