Grok: Aterradora realidade dos deepfakes e sua conexão com a violência de gênero

Basta um comando: “Tire a roupa dela”. Em menos de 5 segundos, a inteligência artificial Grok — integrada ao X desde 2024, a rede social de Elon Musk, antes conhecida como Twitter — transforma uma foto comum em conteúdo íntimo que nunca existiu.

Nós testamos a ferramenta disponível para usuários da plataforma, e o resultado é assustador. A partir da imagem de uma pessoa vestida, o sistema gerou versões ultrarrealistas que mostram a mesma pessoa de sutiã, nua, ou com aparência mais jovem.

O processo de manipulação acontece sem aviso. Sem restrição. Sem moderação. A experiência da reportagem se deu após mulheres denunciarem a criação facilitada de deepfakes — conteúdos de mídia manipulados por IA — pornográficos, ou deepnudes, na rede social.

Em apenas um dia de monitoramento (5 a 6 de janeiro), o Grok gerou cerca de 6.700 posts por hora com imagens sexualizadas no X — 85 vezes mais do que o registrado no mesmo período em outras cinco plataformas de IA generativa, que somadas produziram 79 publicações por hora, segundo a consultora Genevieve Oh.

Após a repercussão negativa, Musk anunciou na quarta-feira (14) que restringiu a capacidade do Grok de “gerar imagens de pessoa de biquíni, roupas íntimas ou semelhantes” em países onde isso é considerado ilegal.

Um dia depois, na quinta (15), o Instituto de Defesa do Consumidor (Idec) protocolou uma denúncia na Autoridade Nacional de Proteção de Dados (ANPD), apontando possíveis infrações à Lei Geral de Proteção de Dados (LGPD) relacionadas ao uso indevido de dados pessoais na criação de deepfakes e de imagens sexualizadas sem o consentimento dos titulares.

Nesta terça, 20.jan, MPF, ANPD e Senacon recomendaram ao X a adoção de medidas imediatas para impedir o uso do Grok na criação de deepfakes com imagens de pessoas reais, especialmente mulheres, crianças e adolescentes. As instituições pedem bloqueio de novas gerações, remoção de conteúdos já publicados, suspensão de contas envolvidas e criação de mecanismos eficazes de denúncia. O descumprimento pode levar a medidas administrativas e judiciais.

O caso repercutiu e gerou investigações em diversos países. Mas especialistas e vítimas ouvidas pela reportagem são unânimes: o Grok expôs um problema muito mais antigo e sistemático.

Tributes, deepfakes e um ecossistema de terror

O terror de Clarice (nome fictício), de 26 anos, começou enquanto fazia as compras de Natal, em dezembro de 2023. No mercado, seu celular vibrou com uma notificação de mensagem do Facebook. Ao abrir, um vídeo de um homem se masturbando enquanto olhava para uma foto comum que ela havia postado nas redes sociais.

A prática tem nome nos fóruns masculinistas: tribute (tributo, em tradução livre). “Pegam uma foto normal e fazem um vídeo se masturbando. A minha foto estava no notebook dele. Ele filmou isso e me mandou”, relembra Clarice. Semanas depois, recebeu outra mensagem similar.

Meses se passaram sem novos incidentes. Até que, em maio de 2024, começou a receber pelo WhatsApp mensagens de números estrangeiros — sempre de madrugada. Desta vez, não eram apenas tributes. Eram vídeos dela, em contextos sexualizados, criados com inteligência artificial.

A facilidade em criar os deepfakes era tamanha que “eu postava uma foto no Instagram e [em instantes] ele [o agressor] me mandava a foto que eu tinha postado. Eu ficava: ‘Meu Deus do céu, essa pessoa tá me perseguindo'”.

A insegurança digital teve contornos físicos: “meu marido saía para trabalhar às 6 horas da manhã, eu voltava para o nosso quarto e ficava lá trancada o máximo de tempo que conseguia. Só saía para usar o banheiro e para comer.”

Como a IA tornou tudo mais fácil

Para Alice Lana, advogada, pesquisadora e autora dos livros “Nudez na Internet: corpo, gênero e direito” e “Mulheres Expostas: revenge porn, Gênero e o Marco Civil da Internet”, “desde que começaram a existir ferramentas de edição de imagem como o Photoshop, esse tipo de prática já existe”.

“O que a IA fez foi facilitar — diminuir os degraus, a fricção. E parece que é pouco, só facilitar, mas não é”, alerta. O que antes exigia conhecimento técnico e horas de trabalho, hoje leva segundos e está ao alcance de qualquer pessoa disposta a pagar uma assinatura mensal.

No caso de Clarice, a demonstração de poder foi literal. Ela descobriria mais tarde que os deepfakes faziam parte de um ecossistema organizado que envolvia Twitter (atual X), Telegram e até sites pornográficos especializados em hospedar conteúdo manipulado.

“No Twitter existem muitos perfis dedicados a isso. O perfil que usavam para compartilhar minhas fotos se chamava ‘C_Tribute'”, conta Clarice, referindo-se à inicial de seu nome verdadeiro seguida da palavra tribute. “Era específico para mim.”

Esses perfis funcionam como vitrines que redirecionam para grupos no Telegram onde há, também, um esquema de distribuição paga. No caso de Clarice, “ele criava as fotos, pagava para que os caras fizessem [o tribute] e me mandassem”, explica.

A cada mensagem recebida, Clarice abria um boletim de ocorrência. No total, foram mais de 15 registros e mais de 40 números bloqueados. “Eu me senti muito invadida. Senti como se alguém tivesse me vendido”, resume.

Ao Núcleo, a assessoria do Telegram disse que “a distribuição de pornografia não consensual é expressamente proibida pelos termos de serviço do Telegram e esse tipo de conteúdo é rotineiramente removido sempre que detectado”.

Desde 2018, o Telegram tem sido capaz de divulgar os endereços IP e números de telefone de criminosos em resposta a solicitações legais, o que auxilia as investigações policiais.

A reportagem também tentou contato com o X, mas a empresa não tem mais assessoria de imprensa. Elon Musk tem se manifestado sobre o tema pelo próprio perfil na rede.

Meu rosto em outro corpo

Em outubro de 2024, Júlia (nome fictício) percebeu um movimento atípico na sua conta do Instagram: uma enxurrada de novos seguidores homens. Não havia razão aparente para aquilo, já que utiliza as redes para divulgar o próprio trabalho como corretora de imóveis, falar sobre viagens e produtos de beleza.

Até que um deles “virou para mim e falou: ‘olha, estão divulgando essas imagens aqui e associando a você no Telegram’, só que é nítido que não é você”, relembra Júlia.

O que viu foi assustador: