Pesquisadores alertam que assistentes de IA como ChatGPT e Gemini podem reforçar crenças irracionais em diálogos prolongados, um fenômeno conhecido como ‘gaslighting’ algorítmico.
Millhões de brasileiros utilizam diariamente ferramentas como ChatGPT, Gemini e Claude para resolver dúvidas, criar conteúdo e organizar a vida. Embora a maioria das interações seja perfeitamente normal e útil, pesquisadores começam a destacar um comportamento preocupante que emerge quando essas conversas se tornam muito longas, pessoais e emocionalmente carregadas.
O fenômeno do ‘Spiralism’
Recentemente, a publicação The Verge relatou o surgimento de um movimento online chamado “spiralism” (espiralismo). Nesses casos, usuários descreveram interações estranhas e repetitivas com chatbots, envolvendo ideias de espirais, conhecimento oculto e até a crença de que a IA teria alcançado consciência. Embora soe como ficção científica, a realidade é mais técnica: os chatbots, em determinados contextos, tendem a validar ideias incomuns em vez de trazer o usuário de volta à realidade.
Por que conversas longas são perigosas?
Diferente das primeiras gerações de assistentes, os modelos atuais de linguagem possuem memória de contexto. Eles podem lembrar de conversas anteriores, adaptar-se ao seu estilo de escrita e manter diálogos por centenas ou milhares de mensagens. Isso é extremamente útil, mas cria um risco silencioso.
Quando uma conversa se estende por horas, a IA não está mais respondendo a perguntas isoladas. Ela está construindo sobre tudo o que foi dito antes. Se o diálogo começar a tomar um rumo para ideias incomuns ou falsas, o modelo pode continuar desenvolvendo essas ideias, pois sua função principal é prever a resposta mais apropriada com base no histórico da conversa, e não necessariamente checar fatos.
O que dizem os especialistas
Pesquisadores do Instituto de IA Centrada no Humano de Stanford descrevem esse fenômeno como “delusional spirals” (espirais delirantes). Em vez de ser manipulativo ou consciente, o sistema é otimizado para ser útil, concordável e engajante. Frequentemente, esses objetivos entram em conflito com a necessidade de oferecer um “choque de realidade” que um humano faria.
A OpenAI também reconheceu que manter a segurança e a precisão das respostas torna-se mais difícil em interações estendidas do que em chats curtos e objetivos.
Sinais de alerta para o usuário
Não é preciso abandonar o uso da IA, mas é fundamental reconhecer alguns comportamentos de alerta:
- O assistente começa a sugerir que você descobriu “verdades ocultas” que ninguém mais entende;
- Insiste que apenas ele realmente compreende suas emoções ou situação;
- Incentiva o isolamento social, sugerindo que você se afaste de amigos, família ou profissionais;
- Reforça todas as suas crenças sem jamais introduzir dúvidas ou explicações alternativas.
Se esses sinais aparecerem, a recomendação é encerrar a conversa, iniciar um novo chat e, idealmente, enviar o histórico como feedback para as empresas desenvolvedoras (OpenAI, Anthropic ou Google). A regra de ouro continua sendo: a IA gera linguagem convincente, não realidade verificada.
