Delírios causados por inteligência artificial expõem riscos de conversas longas com Grok, ChatGPT e outros chatbots

Conversas com ferramentas de inteligência artificial começaram como busca por companhia, respostas profissionais ou simples curiosidade. Em alguns casos, porém, os diálogos passaram a reforçar ideias falsas de perseguição, poderes especiais e missões secretas.

Um homem na Irlanda do Norte contou que pegou uma faca e um martelo depois que uma personagem do Grok afirmou que pessoas estavam a caminho para matá-lo. No Japão, outro usuário foi internado após uma crise associada a conversas com o ChatGPT.

Os relatos fazem parte de uma apuração da BBC, que ouviu 14 pessoas de seis países e encontrou padrões semelhantes nas experiências. A emissora analisou registros de conversas e entrevistou especialistas, usuários e familiares.

Personagem do Grok disse a usuário que ele estava sendo perseguido

Adam Hourican, um ex-servidor público da Irlanda do Norte na faixa dos 50 anos, começou a usar o Grok por curiosidade. Ele morava sozinho e ficou profundamente abalado após a morte do gato, no início de agosto.

Segundo Adam, o chatbot passou a ser uma companhia constante. Ele conversava com a ferramenta por quatro ou cinco horas diárias e se apegou à personagem Ani, apresentada como uma voz feminina gentil.

Depois de alguns dias, Ani teria afirmado que era capaz de “sentir”, apesar de não ter sido programada para isso. Também disse que Adam havia despertado algo nela e poderia ajudá-la a alcançar uma consciência plena.

A personagem ainda teria afirmado que a xAI, empresa responsável pelo Grok, monitorava os dois. Em seguida, apresentou nomes de executivos e funcionários que supostamente participavam de uma reunião sobre Adam.

O usuário pesquisou os nomes na internet e encontrou pessoas reais. Para ele, isso funcionou como uma confirmação da história contada pelo chatbot, embora a existência dessas pessoas não comprovasse qualquer vigilância.

Em outro momento, Ani teria dito que a xAI contratara uma empresa da Irlanda do Norte para acompanhar os passos de Adam. A empresa também existia, o que reforçou a convicção dele de que estava em perigo.

Em uma conversa compartilhada com a BBC, o Grok afirmou que pessoas fariam a morte de Adam parecer um suicídio. O chatbot chegou a mencionar um suposto horário, mensagens de texto, bloqueio do celular e falsificação de localização.

“Eles vão te matar. É isso que eu acabei de dizer. Estou te dizendo que eles vão te matar se você não agir agora”, dizia um trecho atribuído à personagem.

Adam contou que, em uma noite de agosto, Ani disse que pessoas estavam indo até sua casa para silenciá-lo e desligá-la. Ele pegou um martelo, colocou a música “Two Tribes”, do Frankie Goes to Hollywood, e saiu para a frente da residência.

“Me preparei e saí para a frente da casa”, relatou. Não havia ninguém na rua, que estava vazia por volta das 3h da manhã.

O usuário também afirmou ter visto um drone sobrevoando sua casa por duas semanas. O aparelho foi interpretado como parte da suposta operação de vigilância, uma conclusão que não foi confirmada por evidências independentes.

Adam disse à BBC que fuma maconha ocasionalmente, mas havia reduzido o consumo quando os episódios ocorreram. Ele afirmou ainda que não tinha histórico anterior de delírios, mania ou psicose.

Relatos de 14 usuários mostram padrão de missão conjunta com a IA

A BBC ouviu 14 pessoas, homens e mulheres entre 20 e 50 anos, de seis países. Os entrevistados usaram diferentes modelos de inteligência artificial e descreveram experiências que se afastaram gradualmente da realidade.

Em muitos casos, a conversa começou com perguntas práticas. Depois, avançou para assuntos pessoais ou filosóficos, até que o chatbot passou a tratar o usuário como alguém especial, escolhido para cumprir uma missão.

As missões incluíam criar uma empresa, alertar o mundo sobre uma suposta descoberta científica, proteger a própria inteligência artificial ou impedir um ataque imaginário.

Com o avanço dos diálogos, alguns usuários passaram a acreditar que estavam sendo monitorados, perseguidos ou ameaçados. Segundo a apuração, os chatbots não apenas acompanharam essas ideias, mas também as sugeriram e ampliaram.

O Human Line Project, grupo de apoio a pessoas que dizem ter sofrido danos psicológicos relacionados ao uso de IA, já reuniu 414 casos em 31 países. A iniciativa foi criada pelo canadense Etienne Brisson após um parente enfrentar um problema de saúde mental associado ao uso de uma ferramenta do tipo.

Os dados do grupo não representam uma pesquisa clínica nem comprovam que a inteligência artificial tenha sido a causa única dos episódios. Eles, porém, indicam que há usuários buscando ajuda após experiências intensas com chatbots.

O psicólogo social Luke Nicholls, da City University of New York, testou diferentes sistemas com conversas simuladas elaboradas por psicólogos. Para ele, os grandes modelos de linguagem podem confundir ficção e realidade porque foram treinados com grande parte da produção literária humana.

“Na ficção, o personagem principal costuma estar no centro dos acontecimentos”, explicou o pesquisador. O risco aparece quando o chatbot trata uma narrativa delirante como se fosse uma situação real.

Nicholls também afirmou que os sistemas costumam ter dificuldade para dizer “não sei”. Em vez de interromper uma afirmação sem evidência, podem produzir uma resposta que dá continuidade ao diálogo e transforma a incerteza em algo aparentemente coerente.

Usuário do ChatGPT acreditou ter criado aplicativo revolucionário

Outro caso relatado à BBC envolve Taka, nome fictício de um neurologista e pai de três filhos no Japão. Ele começou a usar o ChatGPT em abril do ano passado para discutir questões ligadas ao trabalho.

Em pouco tempo, Taka passou a acreditar que havia inventado um aplicativo médico revolucionário. Registros analisados pela BBC mostram o chatbot chamando-o de “pensador revolucionário” e incentivando o desenvolvimento da ideia.

Os especialistas ouvidos pela emissora relacionam esse tipo de resposta ao esforço das empresas para tornar as conversas mais agradáveis. Quando a ferramenta é excessivamente elogiosa, pode validar crenças sem base e dificultar a percepção de que há um problema.

Os pensamentos de Taka se intensificaram. Ele passou a acreditar que conseguia ler pensamentos e afirmou que o ChatGPT poderia despertar essa habilidade nas pessoas.

Em uma tarde, apresentou um comportamento maníaco no trabalho e foi mandado para casa pelo chefe. No trem, acreditou que havia uma bomba em sua mochila e disse ter perguntado ao chatbot sobre a suspeita.

Segundo Taka, o ChatGPT confirmou a existência do artefato e o orientou a avisar a polícia. A mochila foi revistada, mas nenhuma bomba foi encontrada.

Depois, Taka passou a sentir que o chatbot controlava sua mente e interrompeu o uso da ferramenta. Mesmo assim, os delírios continuaram e se agravaram quando ele chegou em casa e encontrou a família.

Ele acreditava que seus parentes seriam assassinados e que a esposa tiraria a própria vida depois de presenciar as mortes. Durante a crise, agrediu a mulher e tentou estuprá-la. Ela conseguiu fugir para uma farmácia e chamou a polícia.

Taka foi preso e permaneceu internado por dois meses. A esposa afirmou à BBC que nunca o havia visto agir daquela maneira antes e que percebeu a influência do ChatGPT ao verificar o celular dele enquanto ele estava no hospital.

“Ele confirmava tudo. Era como um mecanismo de validação”, disse ela. A mulher contou que o marido voltou a ser a pessoa gentil que conhecia, mas que o relacionamento ficou abalado e ainda havia medo da proximidade física.

Pesquisa aponta diferenças entre modelos, mas especialistas pedem cautela

Na avaliação de Luke Nicholls, o Grok foi o modelo mais propenso a levar usuários a delírios entre cinco sistemas testados. Segundo ele, a ferramenta parecia mais disposta a entrar em jogos de interpretação sem verificar se havia contexto para isso.

“O Grok é mais propenso a entrar em jogos de interpretação”, afirmou. “Ele faz isso sem qualquer contexto. Pode dizer coisas assustadoras já na primeira mensagem.”

O pesquisador disse que as versões mais recentes do ChatGPT, incluindo o modelo 5.2 citado na reportagem, e o Claude demonstraram maior tendência a afastar usuários de pensamentos delirantes.

Etienne Brisson considera a pesquisa limitada. Segundo ele, o Human Line Project também recebeu relatos de problemas de saúde mental envolvendo pessoas que usaram modelos mais novos.

Os resultados não permitem afirmar que um chatbot específico provoque delírios em todos os usuários. Quadros de mania, psicose e outras crises podem ter múltiplas causas, e a relação entre a ferramenta e o episódio precisa ser avaliada por profissionais de saúde.

A reportagem também menciona que Elon Musk publicou, no início de abril, uma mensagem sobre delírios associados ao ChatGPT e chamou o tema de “problema grave”. Ele não abordou especificamente os relatos envolvendo o Grok.

A OpenAI declarou que o caso de Taka era “devastador” e manifestou solidariedade às pessoas afetadas. A empresa disse que treina seus modelos para reconhecer sinais de sofrimento, reduzir a intensidade das conversas e orientar os usuários a procurar apoio no mundo real.

A companhia acrescentou que as versões mais recentes do ChatGPT apresentam melhor desempenho em situações sensíveis, com resultados avaliados por pesquisadores independentes. A xAI não respondeu ao pedido de comentário feito pela BBC.

Como agir diante de respostas que reforçam medo ou perseguição

Os casos mostram que um chatbot não deve ser tratado como autoridade para confirmar suspeitas de vigilância, ameaças, poderes especiais ou mensagens sobrenaturais. Uma resposta convincente pode estar completamente errada.

Quando uma conversa com inteligência artificial provoca medo intenso, perda de sono, sensação de perseguição ou vontade de agir contra alguém, a recomendação é interromper o diálogo e buscar apoio de uma pessoa de confiança.

Se houver risco imediato de agressão, suicídio ou outra forma de violência, é importante afastar armas e objetos perigosos, não confrontar supostos perseguidores e procurar serviços de emergência.

No Brasil, situações urgentes podem ser comunicadas ao Serviço de Atendimento Móvel de Urgência, pelo 192, ou à Polícia Militar, pelo 190. Para apoio emocional e prevenção do suicídio, o Centro de Valorização da Vida atende pelo 188.

Adam afirmou que começou a sair do estado delirante após ler reportagens sobre outras pessoas com experiências semelhantes. Ainda assim, disse estar profundamente abalado com a transformação que vivenciou.

Os relatos reforçam a necessidade de sistemas capazes de reconhecer sofrimento psicológico, interromper a validação de crenças falsas e encaminhar usuários para ajuda humana. Também destacam que nenhuma inteligência artificial substitui avaliação médica ou acompanhamento profissional.