Ministério da Justiça pede à PF e à ANPD bloqueio de 80 sites que usam IA para produzir ‘deepnude’

A guerra contra o deep fake nas redes sociais
A Secretaria de Diretos Digitais do Ministério da Justiça pediu à Polícia Federal (PF) e à Agência Nacional de Proteção de Dados (ANPD) que determinem o bloqueio de 80 sites com ferramentas de inteligência artificial para criar imagens e vídeos falsos com mulheres nuas, os chamados “deepnudes”.
O documento, assinado pelo secretário nacional de Direitos Digitais, Victor Oliveira Fernandes, pede ainda a investigação tanto das empresas que oferecem esses serviços quanto dos usuários. Para isso, solicita que a os dados de acesso desses usuários sejam preservados.
Ele aponta que há indícios de que mulheres reais e até crianças foram vítimas da fabricação de imagens de nudez nesses sites.
Imagem ilustrativa; deepfake; crimes cibernéticos; cyberbullying.
Freepik
Conteúdo é proibido no Brasil
A adulteração de imagens de crianças e adolescentes para gerar conteúdo sexualizado é crime previsto no Estatuto da Criança e do Adolescente (ECA).
Já a oferta de ferramentas para criação de “deepnudes” de mulheres é vedada por decreto assinado pelo presidente Lula em maio.
Empresas que operam no Brasil são obrigadas a bloquear esse tipo de uso de suas ferramentas e podem ser punidas se ficar comprovado que não adotaram medidas para evitar a geração desses conteúdos.
O Ministério da Justiça chegou a ao menos parte desses sites após denúncia da Safernet, ONG que atua na defesa dos direitos humanos na internet.
“Os dados apresentados pela SaferNet Brasil apontam indícios de utilização dessas ferramentas para a adulteração de imagens de crianças e adolescentes com a finalidade de gerar conteúdos sexualizados”, diz o documento da Secretaria de Direitos Digitais.
Ainda de acordo com a secretaria, além de disponibilizar ferramentas para “nudificação” alguns dos sites denunciados também oferecem “acervo de imagens e vídeos previamente manipulados, inclusive conteúdos envolvendo mulheres identificáveis ou passíveis de identificação.”
“A mera disponibilização de serviços destinados à geração ou manipulação de imagens para a criação de conteúdo sexualizado de terceiros constitui prática intrinsecamente abusiva, por viabilizar a exploração da imagem e da identidade de pessoas para a produção de conteúdos íntimos ou sexualizados sem sua autorização”, diz o documento.
Além disso, “as ferramentas identificadas operam em ambiente de web aberta possibilitando seu acesso por meio de navegadores convencionais, sem exigência de cadastro, comprovação de identidade ou verificação etária”, diz o documento.