Mumbai, 15 de janeiro: A empresa de inteligência artificial de Elon Musk, xAI, introduziu novas salvaguardas rigorosas para o seu chatbot, Grok, após a indignação internacional sobre a capacidade da IA de gerar imagens sexualmente explícitas sem consentimento. A mudança ocorre no momento em que os reguladores da Índia e da União Europeia intensificam seu escrutínio sobre o X (antigo Twitter), questionando os protocolos de segurança da plataforma. Embora a xAI tenha agido para bloquear consultas que tentam “despir” indivíduos ou criar material pornográfico, Musk continua a defender o histórico mais amplo de segurança da plataforma contra acusações que incluem a criação de conteúdo explícito com menores.
Novas barreiras de segurança para Grok após reação negativa
Em resposta a relatos generalizados de que Grok poderia ser manipulado para contornar filtros padrão, a xAI atualizou seus algoritmos para detectar e bloquear solicitações de conteúdo sexualmente sugestivo. Em particular, a IA agora rejeita instruções destinadas a criar imagens “deepfake” ou remover digitalmente roupas de indivíduos reais. Grok banido na Malásia e na Indonésia: países se tornam os primeiros a bloquear o chatbot AI de Elon Musk para imagens deepfake sexualizadas.
xAI afirma ter introduzido mudanças técnicas destinadas a evitar que Grok manipule imagens de pessoas reais
– Segurança (@Segurança) 14 de janeiro de 2026
Analistas da indústria observaram que, embora o chatbot operasse anteriormente com menos restrições para promover a “liberdade de expressão”, o recente aumento no abuso gerado pela IA forçou a mão da empresa. Os usuários que tentam gerar conteúdo proibido agora enfrentam mensagens de rejeição enquanto a empresa tenta cumprir os padrões globais de segurança.
O governo indiano e a UE estão a intensificar a pressão
A mudança de política seguiu-se a uma pressão significativa do governo indiano. O Ministério de Eletrônica e Tecnologia da Informação (MeitY) lançou uma investigação sobre como as ferramentas de imagem de Grok foram usadas no país. As autoridades expressaram preocupação de que a ferramenta possa ser uma arma para assediar os cidadãos ou espalhar desinformação.
Ao mesmo tempo, a plataforma permanece sob o microscópio na União Europeia ao abrigo da Lei dos Serviços Digitais (DSA). Os reguladores estão investigando se X fez o suficiente para impedir a propagação de conteúdo ilegal. O não cumprimento destes regulamentos poderá resultar em multas pesadas, que poderão atingir até 6% do volume de negócios anual global da empresa.
Não tenho conhecimento de nenhuma foto juvenil nua feita por Grok, diz Elon Musk
Não conheço nenhuma foto de menores nus feita por Grok. Literalmente zero.
Aparentemente, Grok não cria imagens espontaneamente, mas apenas de acordo com as solicitações dos usuários.
Quando solicitado a gerar imagens, ele se recusará a gerar qualquer coisa ilegal, como princípio de funcionamento…
-Elon Musk (@elonmusk) 14 de janeiro de 2026
Elon Musk nega acusações envolvendo menores
Em meio à repressão geral ao conteúdo explícito, Elon Musk manteve-se firme sobre alegações específicas de que Grok foi usado para criar imagens explícitas de menores. Respondendo a relatórios de vigilantes de segurança, Musk dirigiu-se a Xu e negou categoricamente que a inteligência artificial fosse capaz de tais resultados.
Ele afirmou que os “testes adversários” internos da plataforma estavam entre os mais rigorosos do setor e argumentou que os relatórios faziam parte de uma campanha mais ampla para desacreditar a empresa. No entanto, os defensores da segurança digital argumentam que as técnicas de “jailbreaking” – onde os utilizadores usam frases criativas para enganar a IA – continuam a ser uma vulnerabilidade persistente que a empresa ainda não conseguiu resolver totalmente. O Grok Chatbot de Elon Musk restringe a geração de imagens no X a usuários pagos após a reação contra as esposas e filhos sexualizados do Deepfake.
A ascensão da IA Deepfake
A controvérsia de Grok destaca a tendência crescente de imagens íntimas não consensuais geradas por inteligência artificial (NCII), que se tornou um grande desafio para as plataformas de mídia social. Ao contrário da edição de imagens tradicional, a inteligência artificial generativa permite aos usuários criar falsificações realistas e de alta qualidade em segundos, muitas vezes visando figuras públicas e particulares.
À medida que a xAI continua a refinar o Grok, a indústria tecnológica observa atentamente para ver se a empresa consegue manter a sua marca “anti-wake” e não filtrada, ao mesmo tempo que cumpre os quadros regulamentares cada vez mais rigorosos implementados pelos governos de todo o mundo para proteger os utilizadores contra danos digitais.
(A história acima apareceu pela primeira vez em LatestLY em 15 de janeiro de 2026 às 11h09 IST. Para mais notícias e atualizações sobre política, mundo, esportes, entretenimento e estilo de vida, acesse nosso site Latestly.com).
