O governo estendeu na terça-feira a X Corp 48 horas para apresentar um relatório detalhado sobre o cumprimento das ações tomadas para evitar que seu chatbot Grok AI crie conteúdo obsceno e sexualmente explícito, disse um alto funcionário ao HT.
Na sexta-feira, o Ministério de Eletrônica e Tecnologia da Informação (MeitY) deu ao X (antigo Twitter) 72 horas para responder ao uso indevido da Grok AI em sua plataforma.
A plataforma de microblog de Elon Musk funciona até às 17h. em 7 de janeiro para responder à carta de MeitY.
Em 2 de janeiro, o ministério escreveu uma carta com palavras fortes a X, assinalando o que chamou de falhas graves na prevenção de conteúdos obscenos e sexualmente explícitos gerados pela sua ferramenta Grok AI, e alertou que mais incumprimentos poderiam resultar na perda de proteção legal ao abrigo da lei indiana.
A prorrogação de 48 horas foi concedida depois que X disse à MeitY que sua equipe estava de férias, citando dois feriados – Natal e Ano Novo – como o motivo pelo qual ele precisava de mais tempo para responder. Nos dois dias que antecederam a carta de 2 de janeiro, MeitY discutiu com as equipes X a conformidade da resposta de Grok às questões políticas e religiosas, como HT relatou pela primeira vez em 3 de janeiro.
Leia também:Governo emite ultimato X de 72 horas para Elon Musk enquanto Grok divulga fotos sexuais
Essas discussões, disse a pessoa, não estavam relacionadas a conteúdo obsceno ou pornográfico, razão pela qual a carta de MeitY pegou X desprevenido, disse a pessoa citada acima ao HT.
A reunião marcada para 3 de janeiro não ocorreu após X solicitar o seu adiamento.
A carta, dirigida ao Diretor de Conformidade (CCO) da X Índia, Vinay Prakash, dizia: “Foi observado especificamente que o serviço chamado ‘Grok AI’… está sendo usado por usuários para criar contas falsas para postar, criar, publicar ou distribuir imagens ou vídeos obscenos de mulheres de maneira degradante ou vulgar, com o objetivo de difamá-las obscenamente”. Ele acrescentou que o abuso não se limita a contas falsas, mas também atinge mulheres que carregam legitimamente suas próprias fotos ou vídeos, que são então manipulados usando avisos de IA e resultados sintéticos.
MeitY ordenou que X apresentasse um Relatório de Ações Tomadas (ATR) detalhado, que deveria descrever as medidas técnicas tomadas para Grok, o papel do CCO, as ações tomadas contra usuários e conteúdos ofensivos e os sistemas implementados para cumprir os requisitos obrigatórios de denúncia de crimes.
O ministério alertou que o não cumprimento poderia resultar na perda da imunidade da Seção 79 e em “graves consequências legais” contra a plataforma, seus responsáveis e usuários sem aviso prévio.
A divulgação da carta também ocorre depois que a deputada Rajya Sabha, Priyanka Chaturvedi, escreveu uma carta ao ministro do MeitY, Ashwini Vaishnau, em 2 de janeiro, detalhando como Grok cria imagens sexuais de mulheres e instando o governo a abordar o assunto com a plataforma.
Separadamente no evento, Vaishno disse: “As redes sociais têm um impacto tão grande na nossa sociedade hoje… elas têm que assumir a responsabilidade pelo conteúdo. A comissão permanente (parlamentar) (sobre comunicações e tecnologia da informação) recomendou veementemente que deveria haver leis fortes para garantir a responsabilização das redes sociais”.
X não respondeu imediatamente ao pedido de comentário de HT.
