A revista JAMA Oncology fez um recente estudo, mostrando que o ChatGPT, da empresa OpenAI, fornece informações erradas sobre o tratamento do câncer. Como uma ferramenta utilizada para busca de respostas a situações variadas em todo o mundo, especialistas alertam para a ação da IA como potencialmente prejudicial a pacientes que já estão estressados com a condição de saúde.
Na pesquisa, em cerca de um terço das consultas ao chatbot, a equipe de estudiosos descobriu que a ferramenta estava emitindo recomendações inadequadas de tratamento contra câncer, que não se alinhavam com as diretrizes médicas estabelecidas.
Te podría interesar
A coautora do estudo e pesquisadora do Dana-Farber Cancer Institute, Danielle Bitterman, afirmou em comunicado que "as respostas do ChatGPT podem soar muito parecidas com as humanas e ser bastante convincentes". De acordo com ela, “a maneira como ele pode misturar informações incorretas e corretas é potencialmente perigosa”.
"As respostas do ChatGPT podem soar muito parecidas com as humanas e ser bastante convincentes". De acordo com Danielle, “a maneira como ele pode misturar informações incorretas e corretas é potencialmente perigosa”.
Ela reforça a importância de avaliar a especialidade de cada caso com um médico. "Mas, quando se trata de tomada de decisão clínica, existem muitas sutilezas para a situação única de cada paciente", diz.
Segundo a equipe Bitterman, os próprios médicos e especialistas devem se atentar à influência dessas tecnologias nos pacientes e os responsáveis pela plataforma devem ser responsabilizados. "Os desenvolvedores devem ter alguma responsabilidade na distribuição de tecnologias que não causem danos, e os pacientes e os médicos precisam estar cientes das limitações dessas tecnologias".
Apesar dos avanços significativos das Inteligências Artificiais, permitindo que elas passem em exames para a prática da medicina, ainda é claro que elas não são capazes de substituir totalmente os médicos profissionais. A experiência humana, o estudo, o julgamento clínico, as informações de cada paciente e a interação pessoal ainda são componentes cruciais para uma avaliação assertiva de casos oncológicos.
Os pesquisadores perceberam que a tecnologia desenvolvida pela OpenAI gerou recomendações de tratamento que não estavam alinhadas com as diretrizes da NCCN (National Comprehensive Cancer Network) em uma porcentagem de 34,3% dos casos. Além disso, das 104 recomendações analisadas, 13 foram inventadas pelo ChatGPT.
Com informações de Terra