O relatório da AIAAIC, iniciativa pioneira que busca expor falhas e promover a transparência em sistemas de inteligência artificial (IA), algoritmos e automação, mostra que a maior parte dos “incidentes” registrados com IA nos últimos nove anos tem origem nos Estados Unidos.
Nesse caso, incidentes são definidos como eventos inesperados que ganham visibilidade pública e geram disrupção, perdas, emergências ou crises. A organização considera a localização da origem do sistema de IA, independentemente do alcance global de suas consequências.
Até o dia 20 de fevereiro deste ano, o país americano registrou 7 incidentes. Em 2024, ano das eleições estadunidenses, foram registrados 92, o valor mais alto desde 2016. O número de incidentes envolvendo inteligência artificial aumentou dez vezes após o lançamento de novos modelos de linguagem e ferramentas digitais, conforme dados do monitoramento independente.
A OpenAI, Tesla, Google e Meta são as empresas com o maior número de falhas envolvendo IA no repositório. Todas são americanas. O ChatGPT concentra 71 falhas e a Tesla, 63. Inclusive, uma reportagem da Fórum mostrou que as big techs oferecem risco para outros países pelo tamanho do domínio sobre o mercado e outros territórios.
Embasados no discurso da liberdade “liberdade de expressão” e das forças de oferta e demanda, os gigantes digitais fortalecem e expandem seu poder econômico ao criar “regras” e moldar os rumos da civilização através das políticas que implementam nas plataformas digitais ou em produtos de tecnologia, sem qualquer transparência dos processos. Informação e dados pessoais se tornaram mercadorias estratégicas.
LEIA MAIS: "Vivemos um colonialismo digital”, alerta analista de dados sobre poder das big techs
No relatório geral da AIAAIC, apesar de uma queda para 187 incidentes em 2024 em comparação ao ano anterior, os problemas dispararam para 188, totalizando 375 ocorrências desde 2016, ano do primeiro governo Trump e quando a série histórica começou a sofrer alterações significativas.
A AIAAIC também faz uma distinção por setores, ou seja, classifica o setor da indústria (incluindo governo e organizações sem fins lucrativos) mais impactado pelos incidentes.
No Brasil, os setores que foram mais afetados pelos sistemas de IA das big techs são mídia, entretenimento, política e religião. Os setores de mídia e entretenimento concentram a maior parte dos incidentes e problemas, com 288 registros até 20 de fevereiro.
Os sistemas mais famosos, criados por grandes gigantes tecnológicas como Google, Meta e OpenAI, dominam os registros de incidentes. No entanto, a AIAAIC também catalogou 826 sistemas individuais ou menos conhecidos, abrangendo modelos próprios e locais. Juntamente às big techs, a Tesla, fabricante de carros autônomos do bilionário de extrema direita Elon Musk, aparece no topo da lista, com 63 ocorrências diferentes em que os sistemas de IA dos veículos causaram problemas, como os casos de fatalidades registrados nos últimos anos.
Falta de precisão, confiabilidade, invasão de privacidade e segurança estão entre os motivos mais comuns contra as IAs das empresas de tecnologia.
Confira o relatório completo neste link. Veja mais no site do Núcleo Jornalismo.
