O Ministério de Eletrônica e Tecnologia da Informação (MeitY) está buscando uma opinião jurídica sobre uma possível ação contra X por causa de conteúdo questionável gerado por sua ferramenta Grok AI. Isto sinaliza uma possível escalada que poderá testar um território desconhecido na legislação indiana: se os sistemas generativos de IA devem ser processados como criadores de conteúdo, em vez de ferramentas de plataforma neutras.
A medida ocorre depois que o ministério rejeitou a resposta de X à sua carta de 2 de janeiro exigindo que fossem tomadas medidas contra os deepfakes abertamente sexuais criados por Grok, com funcionários descrevendo a submissão da empresa como inadequada.
O caso apresenta um desafio regulatório que vai além de X. Nos termos da Seção 79 da Lei de Tecnologia da Informação, as plataformas gozam de imunidade de “porto seguro” de responsabilidade pelo conteúdo postado pelos usuários, desde que exerçam a devida diligência. Mas os sistemas generativos de IA como o Grok ocupam uma área mista – eles não são plataformas passivas que transmitem conteúdo do usuário nem conteúdo tradicional gerado pelo usuário. A posição da MeitY de que Grok deveria ser classificado como criador de conteúdo, se mantida, poderia estabelecer um precedente sobre como a Índia regula o conteúdo gerado por IA em todas as plataformas.
“O lado oposto é muito grande e muito poderoso, por isso a nossa posição deve ser clara. A lei local deve prevalecer”, disse um alto funcionário do ministério de TI, acrescentando que a mesma abordagem seria aplicada a outras plataformas se os seus bots de IA produzissem conteúdo ilegal. “No entanto, no caso do Grok, o impacto é acelerado porque ele roda em uma plataforma como o X.”
Autoridades disseram que o ministério deixou claro que o Grok não pode ser visto como uma ferramenta neutra em termos de plataforma. “Agora o pensamento mudou. Anteriormente, eles agiam a partir de uma posição superior e transferimos esta questão para o nível da lei”, disse o responsável. “Grok não pode ser visto como uma plataforma. É um criador de conteúdo, um criador de conteúdo artificial. Assim como eu sou um criador de conteúdo humano, Grok é artificial.”
MeitY disse a X que não estava satisfeito com a resposta da empresa à carta do governo de 7 de janeiro. De acordo com pessoas familiarizadas com as discussões internas, o governo disse que a submissão de X não abordava as questões subjacentes. Um funcionário descreveu a resposta como a empresa “essencialmente recriando sua própria política de usuário de cinco páginas e enviando-a ao ministério”.
A questão da manipulação de imagens de Grok tornou-se uma controvérsia global, com numerosos órgãos reguladores na Europa e em outros países iniciando investigações. X anunciou na sexta-feira que estava restringindo os recursos de criação de imagens apenas para usuários pagos, à medida que a reação se intensificava.
O governo indiano pediu a X que “primeiro explique categoricamente quais ações tomou em resposta ao conteúdo criado por Grok”, incluindo ações tomadas contra conteúdo e usuários ofensivos.
A carta de MeitY de 2 de janeiro citava falhas graves na prevenção de conteúdo indecente e sexualmente explícito gerado por Grok, alertando que mais incumprimentos poderiam resultar na perda de proteção legal sob a lei indiana.
“Foi observado especificamente que os usuários estão abusando do serviço, nomeadamente ‘Grok AI’… para criar contas falsas para postar, criar, publicar ou compartilhar imagens ou vídeos obscenos de mulheres de maneira degradante ou vulgar para difamá-las indecentemente”, dizia a carta endereçada ao diretor de conformidade de X na Índia.
O ministério disse que o abuso não se limitou a contas falsas, mas também envolveu fotos e vídeos legítimos enviados por mulheres, que foram posteriormente manipulados usando avisos de IA e resultados sintéticos. Ordenou que X fornecesse um relatório de ação detalhado descrevendo as medidas técnicas tomadas pela Grok, o papel do diretor de conformidade, as ações tomadas contra usuários e conteúdos ofensivos e os sistemas em vigor para cumprir os requisitos obrigatórios de denúncia de crimes.
Pessoas familiarizadas com o assunto disseram que nos dias anteriores à carta de 2 de janeiro, MeitY discutiu as respostas de Groke às investigações políticas e religiosas com as equipes de conformidade de X, acrescentando que o conteúdo abertamente sexual e depreciativo citado na carta não surgiu durante essas reuniões regulares.
O ministério alertou que o não cumprimento poderia resultar na perda da imunidade do intermediário sob a Seção 79 da Lei de Tecnologia da Informação e em “graves consequências legais” para a plataforma, seus funcionários responsáveis e usuários. Ele também pediu a X que conduzisse uma revisão técnica e gerencial abrangente da Grok para garantir que ela não crie ou promova conteúdo ilegal ou sexual.
A carta de 2 de janeiro segue o alerta da MeitY de 29 de dezembro, alertando os intermediários de que certos conteúdos de mídia social podem violar as leis de decência e obscenidade. Na altura, um alto funcionário disse que havia “um sentimento geral de que o conteúdo obsceno aumentou e que os principais intermediários das redes sociais não estão a fazer o suficiente para controlá-lo”.
X não respondeu aos pedidos de comentários.
