Nova Delhi, 7 de janeiro: O chatbot de IA de Elon Musk, Grok, está enfrentando uma reação negativa de governos de todo o mundo após um recente aumento de imagens sexualizadas de mulheres e crianças geradas sem consentimento pela ferramenta alimentada por IA. Na terça-feira, o principal responsável tecnológico do Reino Unido pediu à plataforma de redes sociais X de Musk que tomasse medidas imediatas, enquanto um legislador polaco citou isso como a razão para a lei de segurança digital.
O poder executivo da União Europeia condenou Grok, enquanto autoridades e reguladores na França, Índia, Malásia e Brasil condenaram a plataforma e pediram investigações. O crescente alarme de vários países aponta para o potencial de pesadelo dos aplicativos de nudez que usam inteligência artificial para gerar imagens deepfake sexualmente explícitas. O X está se tornando um site adulto? A política rápida e indulgente de “despir-se” de Grok causou indignação.
‘Modo Picante’ e falhas de proteção
O problema surgiu após o lançamento do Grok Imagine no ano passado, um gerador de imagens de IA que permite aos usuários criar vídeos e imagens digitando consultas de texto. Inclui o chamado “modo picante” que pode gerar conteúdo adulto.
A bola de neve cresceu no final do mês passado, quando Grok, que está hospedado no X, aparentemente começou a aprovar um grande número de solicitações de usuários para modificar imagens postadas por outras pessoas. A partir de terça-feira, os usuários do Grok ainda podem gerar imagens de mulheres usando pedidos como “coloque-a em um biquíni transparente”.
O problema é agravado porque Musk apresenta o seu chatbot como uma alternativa mais difícil aos rivais com mais salvaguardas e porque as imagens de Grok são visíveis publicamente e, portanto, facilmente espalhadas.
O grupo sem fins lucrativos AI Forensics disse em um relatório que analisou 20 mil imagens geradas por Grok entre 25 de dezembro e 1º de janeiro e descobriu que 2% mostravam uma pessoa que parecia ter 18 anos ou menos, incluindo 30 mulheres ou meninas jovens ou muito jovens, em biquínis ou roupas transparentes. Grok 5 será lançado em 2026: Elon Musk diz que a inteligência artificial pode ser quase perfeita no teste final da humanidade.
Resposta de Elon Musk
A empresa de inteligência artificial de Musk, xAI, respondeu a um pedido de comentário com a resposta automática, “Legacy Media Lies”. No entanto, X não negou a existência de conteúdo problemático gerado através do Grok. No entanto, ainda afirmou numa publicação na sua conta de segurança que estava a tomar medidas contra conteúdos ilegais, incluindo material de abuso sexual infantil, “ao removê-los, suspendendo permanentemente a conta e cooperando com as autoridades locais e a polícia, conforme necessário”.
A plataforma também ecoou comentários de Musk, que disse: “Qualquer pessoa que usar Grok para criar conteúdo ilegal enfrentará as mesmas consequências como se tivesse postado conteúdo ilegal”.
Uma lista crescente de países exige que Musk faça mais para restringir conteúdos explícitos ou ofensivos.
Reino Unido
X deve abordar “urgentemente” a questão, disse a ministra da Tecnologia, Liz Kendall, na terça-feira, acrescentando que apoiava a supervisão adicional do regulador de comunicações da Grã-Bretanha, Ofcom. Kendall disse que o conteúdo era “absolutamente terrível e inaceitável na sociedade educada”. “Não podemos e não permitiremos a propagação destas imagens humilhantes e degradantes, que atingem desproporcionalmente mulheres e meninas”.
Na segunda-feira, o Ofcom disse que estava “em contato urgentemente” com X. “Estamos cientes de sérias preocupações sobre um recurso do Grok no X que produz imagens de pessoas nuas e imagens sexualizadas de crianças”, disse o órgão de vigilância. O cão de guarda disse que entrou em contato com X e xAI para descobrir quais medidas foram tomadas para cumprir as regulamentações do Reino Unido.
De acordo com a Lei de Segurança Online do Reino Unido, as plataformas de redes sociais devem prevenir e remover material de abuso sexual infantil quando tomarem conhecimento disso.
Polônia
Um legislador polonês usou Grok na terça-feira como argumento para uma lei nacional de segurança digital que fortaleceria a proteção para menores e tornaria mais fácil para as autoridades removerem conteúdo. Num vídeo online, Wlodzimierz Czarzasty, o presidente do parlamento, disse que queria dirigir-se a Grok para destacar o problema, bem como apelar ao presidente polaco para apoiar a lei.
“Grok tem despido pessoas ultimamente. Ele tem despido mulheres, homens e crianças. Nos sentimos mal por isso. Honestamente, eu quase gostaria que esse Grok me despisse também”, disse ele.
União Europeia
O braço executivo do bloco está “muito consciente” de que Grok está sendo usado para “conteúdo sexual explícito com algumas imagens infantis geradas como resultado”, disse o porta-voz da Comissão Europeia, Thomas Regnier. “Isso não é picante. Isso é ilegal. Isso é horrível. Isso é nojento. É assim que vemos e não tem lugar na Europa. Esta não é a primeira vez que Grok cria tal produção”, disse ele a repórteres na segunda-feira.
Depois que Grok expandiu seu conteúdo de negação do Holocausto no ano passado, de acordo com Regnier, a Comissão buscou mais informações na plataforma de mídia social X de Musk. A resposta de X está atualmente sendo analisada, disse ele.
França
A promotoria de Paris disse que estava expandindo a investigação em andamento sobre X para incluir boatos sexualmente explícitos, depois que as autoridades receberam reclamações de legisladores. Três ministros do governo alertaram os promotores sobre “conteúdo obviamente ilegal” gerado por Grok e postado no X, de acordo com um comunicado do governo na semana passada.
O governo também sinalizou problemas com o regulador de comunicações do país sobre possíveis violações da Lei de Serviços Digitais da UE. “A Internet não é uma zona de ilegalidade nem de impunidade: os crimes sexuais cometidos online são crimes em si mesmos e estão totalmente sujeitos à lei, tal como os cometidos offline”, afirmou o governo francês.
Índia
O governo indiano emitiu um ultimato a Xu na sexta-feira, 2 de janeiro, exigindo que ele removesse todo o “conteúdo ilegal” e tomasse medidas contra os usuários que o ofendessem. O Ministério de Eletrônica e Tecnologia da Informação do país também ordenou que a empresa revisse a “estrutura técnica e de gestão” da Grok e apresentasse um relatório sobre as ações tomadas.
O ministério acusou Grok de “abuso grosseiro” de inteligência artificial e de graves falhas na proteção e fiscalização ao permitir a criação e compartilhamento de “imagens ou vídeos obscenos de mulheres de forma depreciativa ou vulgar, a fim de denegri-las indecentemente”. O ministério alertou que o não cumprimento do prazo de 72 horas exporia a empresa a maiores problemas jurídicos, mas o prazo passou sem aviso público da Índia.
Malásia
O órgão de vigilância das comunicações da Malásia disse no sábado que estava investigando usuários X que violaram leis que proíbem a disseminação de “conteúdo altamente ofensivo, obsceno ou indecente”. A Comissão de Comunicações e Multimídia da Malásia disse que também estava investigando o abuso online de Xu e convocaria um representante da empresa.
A agência disse estar ciente das reclamações públicas de que as ferramentas de IA do X estavam sendo usadas para manipular digitalmente “imagens de mulheres e menores para produzir conteúdo indecente, grosseiramente ofensivo ou de outra forma prejudicial”.
Brasil
A deputada Erika Hilton disse que denunciou Grok e X ao Ministério Público Federal do Brasil e à autoridade de proteção de dados do país. Numa publicação nas redes sociais, ela acusou os dois de criarem e depois publicarem imagens sexualizadas de mulheres e crianças sem consentimento. Ela disse que as funções de IA do X deveriam ser desativadas enquanto se aguarda uma investigação.
Hilton, um dos primeiros legisladores transgêneros do Brasil, denunciou como os usuários podem levar Grok a alterar digitalmente qualquer foto postada, incluindo “trocar roupas femininas e femininas por biquínis ou torná-las sugestivas e eróticas”.
“O direito à imagem de alguém é individual, não pode ser transferido através dos ‘termos de uso’ de uma rede social, e a distribuição em massa de pornografia infantil(star)gr(star)fia por meio de inteligência artificial integrada em uma rede social ultrapassa todas as fronteiras”, disse ela.
(A história acima apareceu pela primeira vez em LatestLY em 07 de janeiro de 2026 às 12h08 IST. Para mais notícias e atualizações sobre política, mundo, esportes, entretenimento e estilo de vida, acesse nosso site Latestly.com).
