A Grok AI de Elon Musk está enfrentando uma investigação oficial no Reino Unido por sexualizar crianças.
Na semana passada, Grok pediu desculpas por sexualizar imagens de meninas. Enquanto isso, imagens sexuais de mulheres criadas sem o seu consentimento inundaram a plataforma.
Atualmente, o Office of Communications (Ofcom) é o órgão regulador e autoridade de concorrência da indústria de comunicações no Reino Unido. Uma investigação formal foi lançada.
Semana de notícias X foi contatado para comentar fora do horário normal de trabalho por e-mail.
Por que isso é importante?
As mulheres online estão soando o alarme sobre Grok e sua capacidade de criar imagens como esta. À medida que este problema se torna cada vez mais difundido, mulheres de destaque, a Princesa Kate e a influenciadora conservadora Ashley St. Clair também foram alvo.
St. Clair disse no e disse que tinha visto imagens distorcidas de crianças
E este problema não é isolado. E enquadra-se no panorama geral das preocupações sobre as tecnologias de IA e o seu impacto nas mulheres e raparigas. E estas tecnologias podem levar a uma nova era de misoginia.
Cerca de 25 por cento das mulheres sofreram assédio através da tecnologia. Isso inclui pornografia falsa gerada por IA, de acordo com uma pesquisa de 2025 da Organização Nacional para Mulheres (NOW) e da Incogni.
Imagens geradas por IA estão circulando online. E a tecnologia por trás dessas imagens tornou-se mais complexa.
Esta tecnologia está a emergir num mundo onde as preocupações com o abuso baseado em imagens já são importantes. De acordo com um estudo de março de 2025 da SWGfL, uma instituição de caridade dedicada a garantir o uso seguro da tecnologia. Estima-se que mais de 40 milhões de mulheres em todo o mundo sejam vítimas de violações não consensuais da imagem íntima (NCII).
Coisas para saber
Em comunicado compartilhado com
Ofcom disse que fez contato “urgente” com X e xAI para entender as medidas que eles estavam tomando para “cumprir nossos deveres legais e proteger os usuários do Reino Unido”
A declaração continua. Observando que, de acordo com as respostas recebidas, será feita uma avaliação para determinar se há “problemas de conformidade” que justifiquem investigação?
Musk abordou a criação dessas imagens em uma postagem no X, escrevendo: “Qualquer pessoa que usar Grok para criar conteúdo ilegal enfrentará as mesmas consequências que enviar conteúdo ilegal”.
“Mas isso é como culpar a caneta por escrever algo ruim. A caneta não decide o que escrever. A pessoa que a segura escreveu. Grog usa o mesmo método. O que você obtém depende muito do que você coloca. Pense nisso!”
A resposta de Musk foi mudar de rumo após protestos globais. Ele originalmente expressou sua diversão com a tendência. Eles compartilharam um emoji risonho em resposta a uma foto de uma torradeira de biquíni.
Apesar da declaração de Musk, imagens sexuais criadas sem consentimento continuam circulando na plataforma. Resposta principal Entre as declarações do Ofcom estava uma imagem editada do logotipo do Ofcom mostrando Grok vestindo um biquíni.
O que as pessoas estão dizendo
Ofcom em uma declaração compartilhada com: “Entramos em contato urgentemente com X e xAI para entender as etapas que eles tomaram para cumprir seu dever legal de proteger os usuários do Reino Unido. A partir de sua resposta, conduziremos uma avaliação rápida para determinar se pode haver um problema de conformidade que justifique uma investigação.”
gA postagem do influenciador conservador shley St. Clair no X foi vista 140.000 vezes.: “Quando Grok ficou cheio de MechaHitler, o chatbot foi pausado para interromper o conteúdo. Quando Grok criou imagens explícitas de crianças e mulheres, xAI decidiu preservar o conteúdo + sobrecarregar a aplicação da lei com casos que eles nunca resolveriam com bots estrangeiros e arrancar recursos de outras vítimas. ” Este problema pode ser resolvido rapidamente, mas não é, e o fardo recai sobre as vítimas.”
O que acontecerá a seguir?
Ainda não se sabe se uma investigação começará ou não.
