Nova Delhi, 2 de janeiro: O Ministério de Eletrônica e Tecnologia da Informação (MeitY) escreveu a X (anteriormente Twitter) por “não cumprimento das obrigações legais de devida diligência” sob a Lei de Tecnologia da Informação de 2000 e outras leis relevantes e solicitou um Relatório de Ações Tomadas para conformidade urgente para evitar a hospedagem, geração e upload de conteúdo obsceno, nu, indecente e sexualmente explícito “através do uso indevido de serviços baseados em IA, como ‘Grok’ e outros serviços de xAI”.
Em uma carta ao Diretor de Conformidade, X Corp, Operações na Índia, a MeitY aconselhou a plataforma de mídia social a abster-se estritamente de hospedar, exibir, fazer upload, publicar, transmitir, armazenar, compartilhar qualquer conteúdo que seja obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo ou de outra forma proibido por qualquer lei no momento em vigor de qualquer forma. “O não cumprimento de tais obrigações de devida diligência resultará na perda de isenção de responsabilidade sob a Seção 79 da Lei de TI e você também será responsável por ações consequentes conforme previsto em qualquer lei, incluindo a Lei de TI e o BNS”, dizia a carta. Controvérsia sobre obscenidade de Grok: Governo da Índia levanta alarme sobre o uso indevido de Grok AI no X, cita conteúdo obsceno direcionado a mulheres e crianças.
A carta enfatizou que hospedar, gerar, publicar, transmitir, compartilhar ou enviar conteúdo obsceno, nu, indecente, sexualmente explícito, vulgar, pedófilo ou qualquer conteúdo que viole a privacidade de outra pessoa, incluindo a privacidade corporal ou seja de outra forma ilegal, inclusive por meio de sistemas e ferramentas habilitados para Al, acarreta graves consequências criminais sob várias leis, “Foi relatado e apresentado de tempos em tempos, inclusive por meio de discurso público e declarações de várias partes interessadas parlamentares, que certas categorias de conteúdo que circulam em sua plataforma podem não cumprir as leis aplicáveis relacionadas a decência e obscenidade. Em particular, foi observado que os usuários estão abusando do serviço, nomeadamente “Grok AI” desenvolvido e disponibilizado por você na plataforma X, para criar contas falsas para hospedar, gerar, publicar ou compartilhar imagens obscenas ou vídeos de mulheres de forma depreciativa ou vulgar, a fim de denegri-las indecentemente “, dizia a carta.
“É importante ressaltar que isto não se limita à criação de contas falsas, mas também visa mulheres que hospedam ou publicam as suas próprias imagens ou vídeos, através de consultas, manipulação de imagens e resultados sintéticos. Tal comportamento reflete uma falha grave de salvaguardas e mecanismos de aplicação ao nível da plataforma e constitui um abuso grosseiro de tecnologias de inteligência artificial, em violação das leis aplicáveis”, acrescentou.
MeitY declarou na carta que acredita que as disposições regulatórias da Lei de Tecnologia da Informação de 2000 (“ITAct”) e da Tecnologia da Informação (Diretrizes para Intermediários e Código de Ética de Mídia Digital), 202I (*Regras de TI, 2021′) “não são adequadamente cumpridas por sua plataforma, especialmente em relação a conteúdo obsceno, indecente, vulgar, pornográfico, pedófilo ou de outra forma ilegal ou prejudicial que potencialmente viole as leis aplicáveis.” “Os atos e omissões acima mencionados são vistos com séria preocupação, pois têm o efeito de violar a dignidade, a privacidade e a segurança das mulheres e crianças, normalizando o assédio e a exploração sexual em espaços digitais e minando o quadro de devida diligência legal aplicável aos intermediários que operam na Índia”, acrescentou. O X está se tornando um site adulto? A política rápida e indulgente de “despir-se” de Grok causou indignação.
MeitY toma nota do uso indevido da ferramenta Grok AI no X
O Ministério de Eletrônica e Tecnologia da Informação (MeitY) emitiu uma notificação formal a Xu, sinalizando graves lapsos na devida diligência legal sob a Lei de TI e as Regras de TI. O governo expressou preocupação com o uso indevido da ferramenta de IA da plataforma, Grok, para gerar e… pic.twitter.com/RmckirR8Ba
– Press Trust da Índia (@PTI_News) 2 de janeiro de 2026
O Ministério solicitou à plataforma de mídia social que conduzisse imediatamente uma revisão técnica, processual e gerencial abrangente do aplicativo “Grok” baseado em Al, incluindo sua velocidade de processamento, geração de resultados (respostas geradas usando Large Language Models (LLM)), tratamento de imagens e cercas de segurança, para garantir que o aplicativo não crie, promova ou permita conteúdo que contenha nudez, sexualização, conteúdo sexualmente explícito ou de outra forma ilegal de qualquer forma. O ministério também pediu a X que aplicasse os termos de serviço do usuário, regras de uso aceitáveis e restrições ao uso de inteligência artificial, incluindo fortes medidas dissuasoras, como suspensão, encerramento e outras medidas de fiscalização contra usuários e contas que violassem as regras.
Solicitou à plataforma de mídia social que removesse ou desabilitasse o acesso, sem demora, a todos os conteúdos já gerados ou distribuídos em violação às leis aplicáveis, em estrita conformidade com os prazos prescritos pelas regras de informática, em 2021, sem prejudicar de forma alguma as provas; A ‘X’ Corp foi solicitada a apresentar um relatório detalhado das ações tomadas (ATR) ao Ministério com a maior brevidade e, em qualquer caso, o mais tardar setenta e duas (72) horas a partir da data da carta, cobrindo “medidas técnicas e organizacionais específicas adotadas ou propostas em relação ao aplicativo Grok; a função e supervisão exercidas pelo Diretor de Conformidade; ações tomadas contra conteúdo ofensivo, usuários e contas; e. mecanismos em vigor para garantir o cumprimento do requisito de relatório obrigatório nos termos da Seção 33 do BNSS”.
Na manhã de quinta-feira, a deputada do Shiv Sena (UBT), Priyanka Chaturvedi, escreveu ao Ministro da União para Eletrônica e Tecnologia da Informação, Ashwini Vaishnaw, expressando preocupação com o suposto uso indevido de ferramentas de inteligência artificial em plataformas de mídia social para postar imagens questionáveis de mulheres usando contas falsas. Ela disse que tal prática era uma violação grave da privacidade das mulheres e instou o Centro a tomar medidas imediatas para proteger os seus direitos.
“Eu queria chamar sua atenção imediata e intervenção imediata para uma nova tendência que surgiu nas redes sociais, especialmente no Xo, ao abusar do recurso Al Grok, onde homens usam contas falsas para postar fotos de mulheres e forçar instruções Grok para minimizar suas roupas e sexualizá-las. “O que é ainda pior é que Grok permite tal comportamento com tais pedidos. É uma violação do direito das mulheres à privacidade, bem como o uso não autorizado das suas fotos, o que não é apenas antiético, mas também criminoso”, acrescentou.
Priyanka Chaturvedi instou o Ministro da Eletrônica e Tecnologia da Informação da União a tomar medidas decisivas contra a plataforma de mídia social e implementar salvaguardas em ferramentas alimentadas por IA para garantir a segurança das mulheres online.
