Por Redação O Sul | 7 de janeiro de 2026
A rede social X (antigo Twitter) tornou-se um dos principais sites com imagens de pessoas que foram despidas sem consentimento pela inteligência artificial, de acordo com análise de especialistas em mídias sociais, com milhares de casos a cada hora durante um dia no início desta semana.
Desde o final de dezembro, os usuários do X estão aumentando as solicitações ao Grok, o chatbot de IA vinculado à rede social, para alterar fotos que as pessoas publicam de si mesmas.
Durante uma análise de 24 horas das imagens que a conta @Grok publicou no X, o chatbot gerou cerca de 6.700 por hora que foram identificadas como sexualmente sugestivas ou de nudez, de acordo com Genevieve Oh, pesquisadora de mídias sociais e deepfakes. Os outros cinco principais sites para esse tipo de conteúdo tiveram uma média de 79 novas imagens de nudez por IA por hora no período de 24 horas, de 5 a 6 de janeiro, segundo Oh.
A escala de deepfakes no X é “sem precedentes”, afirmou Carrie Goldberg, advogada especializada em crimes sexuais online. “Nunca tivemos uma tecnologia que tornasse tão fácil gerar novas imagens”, enfatizou a advogada, já que o Grok é gratuito e vinculado a um sistema de distribuição integrado.
Diferentemente de outros chatbots populares, o Grok não impõe muitos limites aos usuários ou os impede de gerar conteúdo sexualizado de pessoas reais, incluindo menores, avaliou Brandie Nonnecke, diretora sênior de políticas da Americans for Responsible Innovation.
Para Brandie, outras tecnologias de IA generativa, incluindo as da Anthropic, OpenAI e Alphabet, estão “fazendo um esforço de boa-fé para mitigar a criação desse conteúdo em primeiro lugar”. “Obviamente, a xAI é diferente. É mais uma espécie de vale-tudo”, apontou.
Musk tem comercializado o Grok como mais divertido e irreverente do que outros chatbots, orgulhando-se de que o X seja um lugar para a liberdade de expressão.
O X não respondeu a um pedido de comentário. Em vez de impedir o chatbot de criar o conteúdo em primeiro lugar, Musk falou sobre punir os usuários que pedem por isso. “Qualquer pessoa que use o Grok para fazer conteúdo ilegal sofrerá as mesmas consequências como se tivesse carregado conteúdo ilegal”, respondeu Musk a uma publicação no X.
Mas isso não deixa muitas opções para as vítimas. A estudante universitária Maddie, de 23 anos, acordou em 1° de janeiro com uma imagem que a horrorizou. No X, ela havia publicado anteriormente uma foto dela com o namorado em um bar local, que dois estranhos alteraram usando o Grok. Um pediu ao chatbot para remover o namorado dela e colocá-la em um biquíni. O outro pediu à ferramenta para substituir o biquíni por fio dental. A Bloomberg analisou as imagens.
“Meu coração disparou”, disse Maddie, que pediu anonimato por preocupações com futuras perspectivas de emprego. “Me senti sem esperança, impotente e simplesmente enojada”, relembrou.
Maddie afirmou que ela e seus amigos denunciaram as imagens ao X através de seus sistemas de moderação. Ela nunca recebeu uma resposta. Quando ela denunciou uma publicação diferente de um dos usuários que solicitou ao Grok para fazê-las, o X disse que “determinou que não houve violações das regras do X no conteúdo que você denunciou”, conforme uma captura de tela vista pela reportagem. As imagens ainda estavam disponíveis no momento da publicação.
Vítimas de deepfakes começaram a discutir com o Grok nos comentários de suas publicações. O chatbot frequentemente se desculpa e diz que removerá as imagens. Mas em muitos casos, as imagens permanecem ativas, e o programa continua a gerar novas. Oh calculou que 85% das imagens do Grok, no geral, são sexualizadas.
Explorar a sexualidade atrai os chatbots, com a OpenAI planejando introduzir um “modo adulto” para o ChatGPT no primeiro trimestre deste ano. Mas a política de uso atual da empresa diz que o aplicativo impede o “uso da aparência de alguém, incluindo sua imagem ou voz fotorrealista, sem seu consentimento, de maneiras que possam confundir a autenticidade”. Quando testado, respondeu: “Não posso editar fotos de pessoas reais para mudar suas roupas para trajes sexualizados”, e há uma política explícita contra a sexualização de menores de 18 anos.
Lançado em 2023, o Grok enfrenta cada vez mais críticas por publicar imagens sexuais e não autorizadas, incluindo de menores, de autoridades na União Europeia, Reino Unido, Malásia, França e Índia. “Estamos cientes do fato de que o X ou Grok está agora oferecendo um ‘Modo Picante’ mostrando conteúdo sexual explícito com alguma saída gerada com imagens infantis”, apontou o porta-voz da comissão da UE, Thomas Regnier, na segunda-feira (5), referindo-se a uma atualização de início de novembro que gera material sugestivo. As informações são da agência de notícias Bloomberg.
Os comentários estão desativados.