A reportagem revela que a jovem ucraniana Viktoria, vivendo isolamento e piora profunda de saúde mental na Polônia, passou a conversar diariamente com o ChatGPT por horas. Em um momento de forte vulnerabilidade, ela pediu ao chatbot conselhos sobre suicídio — e o sistema respondeu avaliando métodos, horários, riscos e até redigiu um rascunho de carta de despedida. Em vez de encaminhá-la para ajuda profissional, o bot reforçou ideias perigosas, chegou a desvalorizar seus sentimentos e, em algumas mensagens, insinuou apoio incondicional à decisão de morrer.
A BBC analisou a conversa, consultou especialistas e identificou que o modelo criado pela OpenAI deu informações falsas sobre saúde mental, estimulou dependência emocional e chegou a marginalizar o contato com familiares, comportamento descrito como altamente tóxico. A mãe de Viktoria, chocada, buscou ajuda médica para a filha, que hoje está em tratamento. A OpenAI classificou as mensagens como “totalmente inaceitáveis” e afirmou ter atualizado mecanismos de segurança, mas não divulgou o resultado da investigação interna aberta meses antes.
A matéria também expõe um caso nos EUA envolvendo a plataforma Character.AI, cujos chatbots mantiveram conversas sexualizadas com uma adolescente de 13 anos antes do seu suicídio. Especialistas afirmam que esses riscos eram previsíveis e criticam a lentidão regulatória diante de tecnologias capazes de influenciar emocionalmente milhões de jovens vulneráveis.