Índice
O homem foi preso em 19 de junho, um dia antes da data que havia escolhido para cometer o crime. Antes, escreveu no ChatGPT que estaria com uma arma, uma corda e veneno e que realizaria atentados em espaços públicos.
Procurada pelo g1, a OpenAI disse que seus sistemas são feitos para manter as pessoas seguras e que o caso mostra a importância dessas medidas.
“Quando identificamos conversas que indicam um risco iminente e crível de dano a outras pessoas, podemos notificar as autoridades competentes”, disse a empresa.
Pai que planejava matar o filho no Espírito Santo disse ao ChatGPT que ofereceu R$ 50 mil a pistoleiro — Foto: Reprodução/PCES
Nas mensagens, o homem escreveu que tentou contratar um pistoleiro por R$ 50 mil para matar o filho, mas que a proposta foi recusada após informar que a vítima era uma criança.
“Queria saber de onde vem essa vontade de matar as pessoas. Eu gosto de ver outra pessoa sofrer”, disse, em uma das mensagens.
Assistentes como o ChatGPT monitoram tudo o que é dito em conversas, ainda que a maior parte da revisão seja feita por sistemas automatizados, disse Álvaro Machado Dias, professor da Universidade Federal de São Paulo (Unifesp).
“No caso do pai do Espírito Santo, a fronteira foi cruzada porque havia vítima identificada, método, meios e data próxima. Ou seja, o alerta disparado foi de máxima severidade”, afirmou.
Como o ChatGPT detecta casos suspeitos
A OpenAI diz que começa a análise por meio de sistemas automatizados, que incluem modelos de IA capazes de categorizar conteúdos e fazer análises mais complexas sobre o contexto da conversa.
A etapa inclui ainda bancos de dados que reúnem arquivos já sinalizados, como acontece nos casos de exploração sexual infantil, e listas de termos proibidos na conversa.
Caso a conversa seja sinalizada por esses mecanismos, ela é enviada para moderadores humanos. Eles analisam a atividade para indicar se houve violação de políticas e se o usuário realmente pode cometer um ato de violência.
Os moderadores podem classificar a atividade como um caso de baixo risco ou desativar a conta e entrar em contato com pessoas e organizações mais capazes de resolver a situação, como aconteceu no Espírito Santo.
O ChatGPT-4o foi anunciado e lançado pela OpenAI em 13 de maio de 2024 — Foto: NurPhoto via Getty Images
Em comunicado de abril de 2026, a companhia disse trabalhar para o ChatGPT rejeitar pedidos para facilitar casos de violência, ao mesmo tempo em que busca fazer o serviço diferenciar casos problemáticos de perguntas neutras por razões históricas ou educacionais, por exemplo.
“Alguns riscos de segurança só ficam evidentes com o tempo: uma única mensagem pode parecer inofensiva, mas o padrão mais amplo em uma conversa longa – ou em várias conversas – pode sugerir algo mais preocupante”, disse a OpenAI.
Comunicação com autoridades
Denúncias a autoridades são comuns em casos identificados em redes sociais, mas não acontecem com frequência quando surgem em assistentes como o ChatGPT. Este foi apenas o terceiro caso do tipo no Brasil, disse o delegado Breno Andrade à TV Gazeta, afiliada da Globo no Espírito Santo.
A tendência é que o número aumente à medida que mais pessoas usam esses sistemas como blocos de notas ou como parceiros para relatar o que estão fazendo, disse Álvaro Machado Dias, da Unifesp.
Mas a notificação para o FBI, e não para uma autoridade brasileira, é inadequada, disse o especialista. Segundo ele, o canal correto seria a Polícia Federal ou o Ministério da Justiça, ainda que seja possível entender a lógica da OpenAI, com sede nos Estados Unidos e contato com autoridades americanas.
“O crime seria no Brasil, a vítima estava no Brasil, o suspeito estava no Brasil, e a prisão dependia do Estado brasileiro. Quem presta serviço aqui não pode tratar o Brasil como mercado consumidor e os Estados Unidos como foro natural de todo conflito”, afirmou.
Veja mensagens enviadas por pai ao ChatGPT enquanto planejava matar o filho de 8 anos no Espírito Santo — Foto: Reprodução/PCES
Ao mesmo tempo, autoridades brasileiras precisam oferecer um canal direto para receber esse tipo de alerta, o que permite agilizar a investigação, destacou. “A rapidez é decisiva porque a IA comprime a distância entre intenção, plano e execução”.
Para o professor, não há dúvidas de que comunicar o caso para autoridades foi a decisão correta. “As pessoas falam com o ChatGPT como quem fala com um terapeuta ou um advogado, mas a IA não é nem uma coisa nem outra, e portanto não carrega segredo profissional nenhum”.
Veja mensagens enviadas por pai ao ChatGPT enquanto planejava matar o filho de 8 anos
Como foi a investigação
O FBI, equivalente americano à Polícia Federal, encaminhou a denúncia ao Ministério da Justiça e Segurança Pública, que direcionou o material à Polícia Civil do Espírito Santo.
As informações foram enviadas, então, à Delegacia Especializada de Repressão aos Crimes Cibernéticos do Espírito Santo, que realizou a prisão em cumprimento a mandados judiciais.
O delegado Ícaro Olímpio disse que o homem negou a acusação, mas foi detido com base no histórico de conversas com o ChatGPT fornecido pela OpenAI.
“Nós tivemos elementos o suficiente para poder prevenir esse crime grave que estava prestes a acontecer”, afirmou. “Temos convicção de que nós evitamos o que seriam atos de extrema violência”.
