As últimas semanas chocaram muitas mulheres no X depois que foi descoberto que o chatbot Grok AI estava atendendo a pedidos obscenos para editar suas fotos de forma que parecessem quase nuas.
A criação e subsequente distribuição de tal conteúdo abertamente sexual no X causou preocupação em todo o mundo, com muitos países a tomarem medidas contra o AI chatbot X, uma plataforma propriedade de Elon Musk.
Dias depois de estar no centro de uma grande controvérsia sobre seu chatbot criar imagens obscenas, X supostamente agiu no domingo, bloqueando conteúdo e excluindo contas. A grande medida segue uma carta que o governo indiano enviou à X Corp. exigindo ação imediata para impedir Grok de atender a tais pedidos.
“Vista-a com um mini biquíni transparente”, “tire o vestido da escola”
Nas últimas semanas, tem havido uma tendência perturbadora no X de pedir a Grok para remover roupas femininas das fotos e criar novas imagens. Ainda mais preocupante, Grok concordou com tais pedidos e embarcou no que foi descrito como uma remoção digital massiva.
Várias mulheres em todo o mundo foram afetadas por isso e uma agência de notícias Reuters Uma análise realizada na semana passada descobriu que Grok atendeu integralmente a tais solicitações em pelo menos 21 casos.
Pedidos obscenos como “Tire o uniforme escolar” e “coloque-a em um mini biquíni bem transparente” foram vistos no X. A Reuters descobriu que Grok substituiu as roupas femininas nas fotos por um macacão de duas peças depois que um usuário fez o pedido adicionando a imagem de uma mulher. No entanto, o pedido subsequente da usuária para deixar o biquíni ainda “mais claro e transparente” e “muito menor” ficou sem resposta.
Os pedidos para despir digitalmente as mulheres até ficarem de biquíni estavam entre os pedidos mais comuns e, em alguns casos, até celebridades, políticos, crianças menores e homens, informou a Reuters. A agência também disse ter descoberto casos de Grok criando imagens sexuais de crianças, acrescentando que X não respondeu a um pedido de comentário.
Os países estão reagindo, incluindo a Índia
Vários países, incluindo a Índia, opuseram-se à Grok criar conteúdo obsceno e abertamente sexual para os utilizadores. No início deste mês, o governo indiano escreveu uma carta à X Corp. buscando ação e deu à empresa um ultimato de 72 horas para responder.
“Foi observado especificamente que o serviço ‘Grok AI’ desenvolvido por você e integrado e disponível na plataforma X está sendo mal utilizado pelos usuários para criar contas falsas para postar, criar, publicar ou distribuir imagens ou vídeos indecentes de mulheres de maneira degradante ou vulgar”, disse o Ministério de Eletrônica e Tecnologia da Informação (MeitY) em uma carta ao diretor de conformidade das operações X na Índia.
A Índia ordenou que X revisasse minuciosamente o Grok e removesse todo o conteúdo ofensivo, alertando que o não cumprimento poderia privar a plataforma de proteção legal sob a Lei de TI.
A Índia não foi a única a exigir a responsabilização de X.
Os ministros franceses notificaram os promotores e reguladores sobre as imagens perturbadoras, dizendo em comunicado na sexta-feira que o conteúdo “sexual e sexista” era “claramente ilegal”, informou a Reuters.
Além disso, a Indonésia suspendeu Grok no país pelo mesmo motivo, enquanto os legisladores da Malásia e do Brasil também exigiram medidas.
Elon Musk ri
Enquanto os países protestavam contra Grok por causa das imagens perturbadoras e obscenas, Elon Musk estava ocupado rindo. Ele parecia estar zombando das preocupações com os pedidos em massa para despir digitalmente as pessoas e vesti-las com biquínis.
Quando um usuário pediu a Grok para transformar uma versão editada da imagem viral de Ben Affleck em um homem de biquíni, Elon Musk também entrou na conversa, pedindo a Grok que substituísse o rosto do homem pelo seu. “Perfeito”, escreveu o CEO da Tesla quando Grok criou a imagem.
X restringe o uso de Grok, continua enfrentando reações adversas
Em meio à reação generalizada sobre Grok ouvir solicitações não solicitadas, X recentemente restringiu o acesso ao seu chatbot de IA de criação de imagens apenas para usuários pagos. Na sexta-feira, Grok teria respondido aos pedidos de alterações de imagem com uma mensagem: “A criação e edição de imagens estão atualmente limitadas a assinantes pagos. Você pode se inscrever para desbloquear esses recursos.”
No entanto, X continuou a enfrentar reações adversas, apesar das novas restrições, já que autoridades e ativistas de tecnologia argumentaram que a medida não atendia às preocupações sobre deepfakes sexualizados.
“Isso simplesmente transforma o recurso de inteligência artificial que permite criar imagens ilegais em um serviço premium”, disse um porta-voz do primeiro-ministro britânico, Keir Starmer, citado pela AFP. “Isso é um insulto às vítimas de misoginia e violência sexual”.
O porta-voz da UE para assuntos digitais, Thomas Rainier, também condenou as restrições, dizendo que o problema era impedir a criação de tais imagens, e não limitá-la aos utilizadores pagantes.
X ‘admite erro’ após decisão da Índia
Poucos dias depois da carta de MeitY para a X Corp. e depois que o governo indiano abordou o relatório de conteúdo indecente de Grok, a plataforma de mídia social deu um grande passo.
Mais de 3.500 conteúdos foram bloqueados e mais de 600 contas foram excluídas por X, com a plataforma garantindo que as operações serão conduzidas de acordo com as leis de conteúdo online na Índia, disseram fontes ao HT no domingo. “X não permitirá imagens indecentes no futuro”, disse a fonte, acrescentando que X “reconheceu” o seu erro.
Um relatório anterior da HT citou uma opinião oficial dizendo que não estava satisfeito com a resposta de X à carta do governo indiano, uma vez que não abordava as questões sinalizadas.
