A deputada do Shiv Sena (UBT), Priyanka Chaturvedi, acusou no sábado X de monetizar comportamento prejudicial em vez de interromper a geração de imagens sexuais com sua ferramenta Grok AI, dizendo que a plataforma limitou o recurso a usuários pagos em vez de resolver o problema subjacente.
Grock disse aos usuários do X na sexta-feira que os recursos de geração e edição de imagens estão disponíveis apenas para assinantes pagos, após ampla reação contra o uso de inteligência artificial pela ferramenta para criar e postar imagens sexuais.
“É decepcionante ver como, em vez de parar completamente a criação de imagens sexuais problemáticas através do Grok, a plataforma restringiu seu uso a usuários pagos”, disse Chaturvedi em um post no X, acrescentando que isso poderia levar ao abuso não autorizado de imagens de mulheres e crianças. Ela chamou a medida de “uso vergonhoso de inteligência artificial” e destacou o Ministério de Eletrônica e Tecnologia da Informação (MeitY) e o Ministro de TI Ashwini Vaishnau.
Chaturvedi fez os comentários no mesmo dia em que a Indonésia bloqueou temporariamente Grok por temor de que a ferramenta de IA pudesse gerar conteúdo pornográfico, tornando-se o primeiro país a restringir o acesso a ela. A medida atraiu críticas de governos e reguladores na Europa e na Ásia, com algumas autoridades investigando o papel de Grok na criação de conteúdo sexualizado.
Na Índia, MeitY e X estão brigando pela mesma questão. O ministério solicitou a resposta de X numa carta datada de 2 de janeiro, solicitando um relatório de ação e uma revisão técnica, processual e de gestão abrangente de Grok. Naquela época, Chaturvedi também escreveu ao Ministro da União de Meiti Ashwini Vaishnau pedindo-lhe que tomasse medidas.
Após receber a resposta de X a esta carta, MeitY comunicou a X que não estava satisfeito com a resposta da empresa. Conforme relatado anteriormente por HT, o ministério está buscando pareceres jurídicos e acredita que Grok deve ser tratado como um criador de conteúdo e não como uma ferramenta de plataforma, pedindo à empresa que declare claramente as medidas tomadas contra conteúdo e usuários ilegais.
O Governo da Índia também lembrou a X que a protecção do porto seguro ao abrigo da Secção 79 da Lei das Tecnologias de Informação só se aplica se as obrigações de devida diligência forem rigorosamente cumpridas. De acordo com a Seção 79, plataformas como X não são legalmente responsáveis pelo conteúdo gerado pelo usuário postado em seus serviços, desde que sigam os requisitos de devida diligência exigidos pelo governo.
MeitY e X não responderam aos pedidos de comentários.
