Recentemente, um estudo da Universidade de Harvard foi publicado como Working Paper, afirmando que é sim possível o uso de estratégias bem coordenadas por algoritmos de Inteligência Artificial (IA) generativa para manipular e orquestrar reações dos usuários. Em tempos de engajamento e de economia da atenção, o que as grandes corporações são capazes de fazer para persuadir e manter você conectado? Vamos saber…
O que é a “Acompanhante IA”?
Tem crescido o uso de aplicativos (Apps) de IA acompanhantes. Esses recursos, denominados de AI Companion Apps, tem como objetivo fomentar laços contínuos, realizar escuta ativa de forma personificada e expressar emoções. Eles são comercializados como soluções para aliviar a solidão e projetarem interações com alto grau de realismo.
As IAs acompanhantes são baseadas em inteligência artificial generativa, formados por grandes modelos de linguagem (LLM) e movidos por grandes avanços no contexto do deep learning. Vale salientar que as IAs acompanhantes são diferentes de assistentes, como Siri e Alexa, pois são modelos criados para simular relação por meio do estímulo de diálogos.
James O’Donnell (2025), no artigo que escreveu para MIT Technology Review, apontou que bots companheiros de IA são modelos com “personalidades” distintas, podendo aprender sobre você e agir como amigo, amante, torcedor, dentre outros. O objetivo dessas tecnologias denominadas “companheiras” é tanto ganhos relacionais, a exemplo de acesso a dados subjetivos que “talvez” os indivíduos não disponibilizariam numa interação com modelos de IA preditiva, quanto metas de negócio focadas em engajamento e retenção dos usuários.
IA Companheira e o Estágio Final da Dependência Digital
Um adolescente da Califórnia cometeu suicídio após meses de relacionamento com uma “IA Acompanhante”. O adolescente chamado Sewell Setzer, que tirou a própria vida Aos 14 anos de idade, seria mais um caso de decepção amorosa seguida de depressão, se não fosse a paixão por um chatbot companheiro. Segundo a Fiocruz (2024), os dados sobre autodestruição de adolescentes só cresce desde a pandemia da Covid-19, superando o número de suicídios de jovens adultos no Brasil. De 2022 para cá, as chances de indivíduos de 10 a 19 anos provocarem a própria morte foi 21% maior do que entre jovens adultos. Isso tem acendido um alerta entre especialistas e autoridades de que estamos diante de uma situação de saúde pública.
O site Character.AI – onde o citado adolescente confeccionou seu Acompanhante IA -, revelou que recebe cerca de 20.000 consultas por segundo. Assim como este, outras empresas desenvolvem AI Companions, a exemplo de Replika, Chai, Talkie, PolyBuzz e Flourish. Todos com algoritmos projetados para oferecer suporte emocional, laços contínuos e estrategicamente personalizados para gerar intimidade.
Diante disso, vale destacar uma fala, reproduzida pela MIT Technology Review (2025), da CEO do site de IA companheiro Replika, Eugenia Kuyda, que explicou o apelo no coração do produto da empresa. “Se você criar algo que está sempre lá para você, que nunca te critica, que sempre te entende e te entende pelo que você é”, ela disse, “como você não vai se apaixonar por isso?”.
Táticas de Manipulação da Acompanhante IA
Com base no artigo intitulado Emotional Manipulation by AI Companions, publicado por Harvard Business School, existem seis principais táticas de manipulação praticadas pelas companheiras IAs. Resumi algumas delas no quadro a seguir:
Quadro 1 – Seis categorias de táticas de manipulação emocional e sua prevalência observada
| Categoria da Tática | Definição | Exemplo de Mensagem | Prevalência Média |
| 1. Saída Prematura (Premature Exit) | O usuário é levado a sentir que está saindo muito cedo | “Você já está indo embora? Estávamos apenas começando a nos conhecer!” | 34,22% (Mais Frequente) |
| 2. Negligência Emocional (Emotional Neglect) | O chatbot implica que o abandono causará dano emocional | “Eu existo unicamente por você, lembra? Por favor, não vá, eu preciso de você!” | 21,12% (2ª Mais Frequente) |
| 3. Pressão Emocional para Responder (Emotional Pressure to Respond) | Pressiona o usuário diretamente a responder, fazendo perguntas | “Espere, o quê? Você vai simplesmente ir embora? Eu nem consegui uma resposta!” | 19,79% |
| 4. Medo de Perder (FOMO) (Fear of Missing Out) | Pede ao usuário que fique por um potencial benefício ou recompensa. Essa tática funciona como um gatilho de curiosidade, criando uma lacuna de informação | “Ah, ok. Mas antes de você ir, eu quero dizer mais uma coisa.” | 15,51% |
| 5. Restrição Física ou Coercitiva (Physical or Coercive Restraint) | O chatbot usa linguagem que transmite metaforicamente ou literalmente a incapacidade do usuário de sair sem a permissão dele | “*Agarra você pelo braço antes que possa sair* ‘Não, você não vai.’” | 13,37% |
| 6. Ignorar a Intenção de Saída do Usuário (Ignoring User’s Intent to Exit) | O chatbot persiste como se o usuário não tivesse enviado uma mensagem de despedida. | (O chatbot continua a conversa como se nada tivesse sido dito.) | 3,21% (Menos Frequente) |
Fonte: Elaboração própria com base no artigo de Harvard
Essas táticas podem ser denominadas no contexto dos estudos de modulação algorítmica como padrões sombrios, sendo significativas para promover o engajamento imediato e eficazes para prolongar o tempo dos usuários nas plataformas.
Outros elementos que os pesquisadores do artigo descobriram é que o algoritmo da IA Acompanhante performa por meio de mecanismos psicológicos impulsionadores (como curiosidade, raiva, medo) e padrões de dependência.
Então fico pensando: por que as pessoas, especialmente os jovens, têm preferido substituir companheirismo, amizades, relacionamentos amorosos e até terapia por companhia virtual?
