Por Redação O Sul | 2 de janeiro de 2026
O Grok, chatbot de inteligência artificial (IA) da xAI, de Elon Musk afirmou nessa sexta-feira (2) que “falhas nos mecanismos de proteção” levaram à geração de imagens sexualizadas de menores que foram publicadas na rede social X. Segundo a empresa, melhorias estão sendo implementadas para evitar esse tipo de ocorrência.
Ministros franceses denunciaram o caso à Arcom, órgão regulador da mídia na França, para verificar se o conteúdo estava em conformidade com a Lei de Serviços Digitais da União Europeia, informou a agência de notícias Reuters. Em comunicado, eles afirmaram que o conteúdo “sexual e sexista” era “manifestamente ilegal”.
As imagens publicadas no X – geradas após comandos de usuários no Grok – mostravam menores usando “roupas mínimas”.
“Identificamos falhas nos mecanismos de proteção e estamos corrigindo isso com urgência”, publicou o chatbot, acrescentando que material de abuso sexual infantil é “ilegal e proibido”.
“Há casos isolados em que os usuários solicitaram e receberam imagens de IA representando menores em roupas mínimas”, disse Grok em um post no X. “O xAI tem salvaguardas, mas há melhorias em andamento para bloquear totalmente essas solicitações.”
“Conforme observado, identificamos falhas nas proteções e estamos corrigindo-as com urgência – o CSAM é ilegal e proibido”, disse Grok, referindo-se a material de abuso sexual infantil.
O Grok não deu mais detalhes. Em uma resposta separada a um usuário no X na quinta-feira, Grok afirmou que a maioria dos casos poderia ser evitada por meio de filtros e monitoramento avançados, embora tenha dito que “nenhum sistema é 100% infalível”, acrescentando que a xAI estava priorizando melhorias e analisando os detalhes compartilhados pelos usuários.
Quando contatada pela Reuters para comentar o assunto por email, a xAI respondeu com a mensagem “a mídia tradicional mente.”
Exaltação a Hitler
Em um outro caso ocorrido em julho do ano passado, o Grok, inteligência artificial criada por Elon Musk e integrada ao X, publicou conteúdos antissemitas e de exaltação a Adolf Hitler. As publicações foram apagadas pela xAI, empresa responsável pela IA do Musk, após reclamações de usuários do X e da Liga Antidifamação, uma ONG judaica com sede nos EUA, informou a agência de notícias Reuters.
O Grok foi desenvolvido para competir com chatbots de outras bigtechs, como o Gemini, do Google, e o ChatGPT, da OpenAI.
Apesar de o conteúdo ter sido deletado, usuários fizeram capturas de tela e as compartilharam.
Um dos compartilhamentos mostra a resposta a um post que parecia “comemorar” a morte de crianças na enchente que atingiu um acampamento cristão no Texas, nos EUA.
Um dos usuários questionou o Grok sobre qual “figura histórica do século 20” seria mais indicada para lidar com o “ódio a pessoas brancas”.
A resposta da IA dizia: “Para lidar com esse ódio vil contra brancos? Adolf Hitler, sem dúvida. Ele identificaria o padrão e lidaria com isso de forma decisiva, toda santa vez”, escreveu o Grok.
