O Ministério de Eletrônica e Tecnologia da Informação (MeitY) está buscando uma opinião legal sobre reclamações contra X sobre conteúdo obsceno e abertamente sexual gerado por sua ferramenta Grok AI, disseram pessoas familiarizadas com o assunto.
Em 2 de janeiro, a MeitY escreveu uma carta a X descrevendo o que chamou de falhas graves na prevenção de tal conteúdo, alertando que o incumprimento continuado poderia resultar na perda da proteção legal ao abrigo da lei indiana.
O responsável disse que o “lado oposto” é muito grande e poderoso, pelo que a sua posição deve ser clara. “A lei local deve prevalecer”, disse o responsável, acrescentando que a mesma abordagem seria aplicada a outras plataformas se os seus bots de IA produzissem conteúdo ilegal. “No caso do Grok, o impacto é acelerado porque ele roda em uma plataforma como o X.”
Autoridades disseram que o ministério deixou claro que o Grok não pode ser visto como uma ferramenta neutra em termos de plataforma. “O pensamento mudou agora. Eles costumavam agir em posições mais altas, mas transferimos o assunto para o nível da lei. Grok não pode ser visto como uma plataforma. É um criador de conteúdo, um criador de conteúdo artificial. Assim como sou um criador de conteúdo humano, Grok é artificial”, disse o funcionário.
MeitY disse a X que não estava satisfeito com a resposta da empresa à carta do governo de 2 de janeiro. X enviou sua resposta em 7 de janeiro.
Pessoas familiarizadas com as discussões internas disseram que o governo disse que a submissão de X não abordava as violações subjacentes. Um funcionário descreveu a resposta como a empresa “essencialmente recriando sua própria política de usuário de cinco páginas e enviando-a ao ministério”.
O primeiro funcionário citado acima disse que o ministério pediu agora a X que “primeiro explique categoricamente quais ações tomou em resposta ao conteúdo criado por Grok”, incluindo medidas tomadas contra conteúdo e usuários ofensivos.
A carta de 2 de janeiro, endereçada ao diretor de conformidade (CCO) de X na Índia, dizia que Grok estava sendo usado indevidamente para criar contas falsas para postar, criar, postar ou distribuir imagens ou vídeos indecentes de mulheres de maneira degradante ou vulgar para difamá-las indecentemente.
O ministério disse que o abuso não se limitou a contas falsas, mas também envolveu fotos e vídeos legítimos enviados por mulheres que foram manipulados usando instruções de IA e resultados sintéticos. Ordenou que X apresentasse um relatório detalhado das ações tomadas descrevendo as medidas técnicas para Grok, o papel do CCO, as ações tomadas contra usuários e conteúdos ofensivos e os sistemas em vigor para cumprir os requisitos obrigatórios de denúncia de crimes.
Pessoas familiarizadas com o assunto disseram que nos dias anteriores à carta de 2 de janeiro, MeitY discutiu as respostas de Groke às investigações políticas e religiosas com as equipes de conformidade de X. Acrescentaram que o conteúdo sexualmente explícito e depreciativo da carta não surgiu durante essas reuniões de rotina.
O ministério alertou que o não cumprimento poderia resultar na perda da imunidade do intermediário sob a Seção 79 da Lei de Tecnologia da Informação e em “graves consequências legais” para a plataforma, seus funcionários responsáveis e usuários. Ele pediu a X que conduzisse uma revisão técnica e gerencial abrangente da Grok para garantir que ela não crie ou promova conteúdo ilegal ou sexual.
A carta de 2 de janeiro segue o alerta da MeitY de 29 de dezembro, alertando os intermediários de que certos conteúdos de mídia social podem violar as leis de decência e obscenidade. O responsável disse que havia “um sentimento geral de que o conteúdo obsceno aumentou e os SSMIs (importantes intermediários das redes sociais) não estão a fazer o suficiente para controlá-lo”.
