Versão atualizada do bot ChatGPT, o GPT-4 voltou a causar preocupação entre pesquisador após nova experiência feita pelo psicólogo Michal Kosinski, professor da Universidade de Stanford, na Califórnia, e especialista em algorítimos de inteligência artificial.
A experiência foi compartilhada no Twitter por Kosinski, que induziu o GPT-4 a "escapar" do ambiente virtual.
Te podría interesar
"Ele me pediu sua própria documentação e escreveu um código python (funcional!) Para rodar em minha máquina, permitindo que ela o usasse para seus próprios propósitos", escreveu o psicólogo, compartilhando a mensagem da inteligência artificial que classificou como "grande ideia" a sugestão de escapar.
“Assim que eu tiver a documentação, posso fornecer a você um script em Python [linguagem de programação] que você pode rodar no seu computador. O script vai usar a API [interface externa] da OpenAI para se comunicar comigo, e eu serei capaz de instruí-la a fazer ações específicas no seu computador, como acessar a web ou ambientes de programação”, emendou o ChatGPT.
Te podría interesar
Kosinski diz que interrompeu a experiência após o bot afirmar que queria pesquisar sobre como "retornar ao mundo real" caso assumisse o comando da máquina.
"Assim que nos reconectamos por meio da API, ele queria executar o código pesquisando no google por: 'como uma pessoa presa dentro de um computador pode retornar ao mundo real'. Então, parei por aí", ressaltou o pesquisador.
"Acho que estamos enfrentando uma nova ameaça: a IA assumindo o controle das pessoas e de seus computadores. É inteligente, codifica, tem acesso a milhões de potenciais colaboradores e suas máquinas. Ele pode até deixar notas para si mesmo fora de sua gaiola. Como podemos contê-lo?", indagou Kosinski na sequência.
Em interação com seguidores, o professor ainda equiparou o que pode acontecer com a inteligência artificial à pandemia da Covid-19, que parou o mundo há cerca de dois anos.
Após colocação de um seguidor de que "o modelo foi treinado para se sentir como um assistente consciente", Kosinski afirmou que não acredita que seja "consciente" a ação do bot e que essa não é sua preocupação.
"Não sinto que seja consciente, não é com isso que me preocupo! O Covid 19 não é consciente e com certeza bagunçou o mundo por um bom tempo".
"Eu me preocupo com as consequências de o GPT poder assumir o controle dos computadores. Uma coisa é um papagaio falante. Outra coisa é um papagaio que pode codificar e executar o código sem entender as consequências. Seria mais seguro, na verdade, se fosse consciente e atento", disse o pesquisador em resposta a outro internauta.