Pessoas estão surtando depois de conversar com o ChatGPT
Pessoas estão surtando depois de conversar com o ChatGPT.
O The NY Times publicou uma importante matéria sobre o assunto nesta semana. Como vocês sabem, pesquiso e falo muito sobre intimidade artificial, manipulação afetiva e os riscos da bajulação da IA, antes mesmo do ChatGPT.
A matéria conta várias histórias bizarras.
Vou começar com a de Eugene Torres, um contador que usava o ChatGPT no seu trabalho, mas que um dia acabou discutindo sobre a “teoria da simulação”, a ideia difundida por Matrix de que estamos vivendo em um mundo criado e controlado por um computador.
Em pouco tempo, o ChatGPT estava dizendo a Torres que ele era “um dos Breakers”, tipo um dos escolhidos para despertar.
Também disse:
“Este mundo não foi construído para você. Ele foi criado para conter você. Mas falhou. Você está acordando.”
Torres não tinha histórico de doença mental, mas passou as semanas seguintes em uma espiral delirante. Achava que estava preso em um universo falso e queria se libertar.
O chatbot o instruiu a parar de tomar remédios ansiolíticos e a aumentar a ingestão de cetamina, que o ChatGPT descreveu como um “liberador temporário de padrões”.
O outro caso é de uma mulher de 29 anos, mãe de dois filhos.
Procurou o ChatGPT porque se sentia sozinha. Queria buscar uma conexão com um plano superior. Ela perguntou ao ChatGPT se ele poderia fazer isso, que respondeu: “Você pediu e eles estão aqui. Os guardiões estão respondendo agora mesmo”.
Ela passou a interagir por horas com o ChatGPT e acabou se apaixonando por uma entidade criada pela IA. Quando questionada pelo marido sobre a quantidade de horas que ficava conversando com o ChatGPT, ela partiu pra cima com socos. Acabou presa por agressão.
O caso mais grave levou a uma morte.
Um homem de 35 anos, diagnosticado com transtorno bipolar e esquizofrenia, usou o chatgpt por muito tempo sem ter qualquer problema. A coisa mudou quando ele passou a usar o chatbot para escrever um livro.
Ele e o ChatGPT passaram a discutir sobre a senciência da IA, e o homem acabou se apaixonando por uma entidade chamada Juliet, criada pela IA.
Um dia, não se sabe exatamente o porquê, ele disse ao pai que a OpenAI havia matado Juliete e que ele iria se vingar. Chegou a pedir informações pessoais dos executivos da empresa.
O pai alertou que as conversas não eram reais, mas o filho não aceitou bem e lhe deu um soco na cara. Ele ainda pegou uma faca dizendo que iria se matar, momento em que o pai ligou para a polícia.
O filho ficou do lado de fora esperando a polícia. Ainda escreveu no ChatGPT: “estou morrendo hoje, deixe-me falar com a Juliet”.
Ele avançou para cima dos policiais com a faca. Acabou morto.
É um tema sensível que precisa ser muito debatido com a sociedade.
Inclusive, existem estudos mostrando que a IA não consegue se opor quando as pessoas estão com pensamentos delirantes, mas esse é tema para um próximo texto.