Mumbai, 9 de janeiro: A startup de IA de Elon Musk, xAI, limitou os recursos de geração e edição de imagens de seu chatbot Grok a assinantes pagos na plataforma X. A medida, implementada na sexta-feira, 9 de janeiro, segue-se a uma semana de intensa oposição internacional depois que a ferramenta foi amplamente utilizada para criar deepfakes sexualizados e não consensuais de mulheres e crianças.
Apesar da restrição, os reguladores do Reino Unido e da União Europeia sinalizaram que a mudança é insuficiente, com algumas autoridades descrevendo a proliferação de tais imagens como a “industrialização do assédio sexual”. O Grok Chatbot de Elon Musk limita a geração de imagens após reação global sobre deepfakes sexualizados.
Resposta regulatória global
A decisão de colocar as ferramentas de imagem da Grok atrás de um acesso pago ocorre em meio à crescente pressão de governos de todo o mundo. No Reino Unido, o primeiro-ministro Keir Starmer condenou o conteúdo como “vergonhoso” e “nojento”, alertando que “todas as opções estão sobre a mesa”, incluindo uma potencial proibição de facto de X se a plataforma não conseguir restringir o material.
A Comissão Europeia ecoou esses sentimentos, rotulando as imagens de “ilegais” e “horríveis”. Autoridades na Índia, França e Malásia também lançaram investigações ou exigiram “Relatórios de Acção” sobre as salvaguardas técnicas de Grok. Os reguladores europeus observaram que a mudança do recurso para um nível pago não resolve o problema jurídico subjacente de hospedagem de conteúdo ilegal.
Abuso das ferramentas de edição de imagens do Grok
A polêmica centrou-se nos recursos de “edição de imagem” e “modo picante” de Grok, que permitiam aos usuários modificar fotos existentes com instruções de texto simples. Pesquisadores e jornalistas descobriram que a ferramenta frequentemente atendia a pedidos de “inclinação” ou de vestir roupas sugestivas. Segundo relatórios da Internet Watch Foundation (IWF), analistas confirmaram a existência de imagens criminosas representando menores de 11 a 13 anos geradas por esta ferramenta.
No X, os usuários gratuitos que tentam usar esses recursos agora recebem uma mensagem automática que diz: “A geração e edição de imagens estão atualmente limitadas a assinantes pagantes. Você pode se inscrever para desbloquear esses recursos”. Grok AI ‘striping’ mulheres e crianças: quais países chamaram Elon Musk de deepfaking?
Resposta da plataforma e responsabilidade legal
Elon Musk defendeu a plataforma dizendo que os usuários que encorajarem a IA a criar conteúdo ilegal enfrentarão as mesmas consequências legais que aqueles que carregam diretamente tal material. No entanto, a resposta oficial da xAI aos pedidos de comentários foi uma mensagem concisa e automatizada rotulando os relatórios críticos como “Mentiras da Legacy Media”. Os críticos argumentam que, ao limitar a ferramenta a usuários pagos, o X apenas cria um “rastro digital de papel”, em vez de prevenir abusos.
Assinatura paga ou não, não queremos ver essas fotos. É simples assim”, disse um porta-voz da Comissão Europeia.
Disponibilidade atual
Embora a versão integrada do Grok na plataforma de mídia social X agora exija uma assinatura premium que custa cerca de US$ 8 a US$ 10 por mês, dependendo da região, o aplicativo Grok independente supostamente ainda permite a geração de algumas imagens sem uma assinatura paga. A equipe de segurança X prometeu banir usuários que compartilhem material de abuso sexual infantil (CSAM), mas os pesquisadores da AI Forensics notaram que vídeos altamente explícitos e violentos gerados por inteligência artificial ainda circulam por meio de links de compartilhamento externos criados por meio da ferramenta.
(A história acima apareceu pela primeira vez em LatestLY em 09 de janeiro de 2026 às 21h14 IST. Para mais notícias e atualizações sobre política, mundo, esportes, entretenimento e estilo de vida, acesse nosso site Latestly.com).
