@grok colocou um biquíni nela
Se você esteve no X na semana passada, provavelmente já viu mensagens como esta compartilhadas com o chatbot de IA de Elon Musk, Grok.
Semana de notícias Muitos exemplos foram vistos na plataforma de mídia social X, onde as pessoas pedem aos chatbots para despir as mulheres. Colocando-os em situações sexuais e editando imagens de maneira sexual. Algumas dessas postagens receberam centenas de milhares de visualizações na plataforma.
O impacto é enorme. A foto ganhou manchetes em todo o mundo. E o governo do Reino Unido está investigando o conteúdo. e até considerando o banimento da plataforma. A princesa Kate e a influenciadora conservadora Ashley St. Clair estão entre as mulheres afetadas, junto com a popular apresentadora de reality show Maya Jama. me ameSterra, Grok é solicitado a não editar ou alterar publicamente nenhuma das imagens, pois ela está preocupada com elas. A postagem foi visualizada mais de 6 milhões de vezes na plataforma.
Uma petição foi apresentada pedindo “ação” nas imagens. em uma semana Mais de 40.000 assinaturas foram recebidas e as postagens compartilhadas da petição foram visualizadas mais de 2 milhões de vezes no X até a data do relatório.
Para responder a Semana de notícias Peça opiniões A este respeito, um porta-voz de X partilhou uma declaração. A primeira postagem na plataforma em 4 de janeiro dizia: “Tomamos medidas contra conteúdo ilegal no X, incluindo material de abuso sexual infantil (CSAM), removendo-o, suspendendo permanentemente contas. e trabalhando com o governo local e agências de aplicação da lei conforme necessário. Qualquer pessoa que usar ou informar Grok para criar conteúdo ilegal enfrentará as mesmas consequências que enviar conteúdo ilegal”.
Semana de notícias Também entramos em contato com a XAI, a empresa por trás do Grok, para comentar e recebemos esta resposta: “Legacy Media Lies”.
Porque a criação dessas imagens deepfake se tornou uma discussão global. Portanto, há mulheres reais por trás das postagens e manchetes virais. Direcionado e afetado pela criação deste conteúdo. Semana de notícias conversou com mulheres vítimas dessas visualizações para saber mais sobre o impacto emocional.
Getty Images Newsweek/Ilustrações
O que aconteceu com a sexualização em Grok?
Os usuários das redes sociais compartilharam um aviso para Grok solicitando ao chatbot que criasse imagens sexuais sem consentimento. Já é um problema na plataforma. Embora o chatbot negue ter relatado todas as fotos de nudez, ele aceitará pedidos para tirar a roupa ou colocar alguém de biquíni. Incluindo conjuntos transparentes.
Em junho de 2025, X tornou-se avassalador. Onde os usuários das redes sociais compartilharam pedidos sexuais para Grok e as mulheres responderam a isso. Uma postagem foi do streamer de 100 Thieves @brookeab, na qual ela compartilhou uma imagem sexual criada dela e perguntou: “O que você está fazendo?” “O que pode ser feito legalmente” foi visto X mais de 27 milhões de vezes.
Mas quando o mundo celebra o Ano Novo, o problema começou a aumentar.
via chamada Zoom Semana de notícias Converse com Jess Davies, apresentadora, ativista e autora do livro. Ninguém quer ver seu pau.
“Comecei a notar que Grok estava fazendo grandes quantidades de imagens de mulheres sem o consentimento de X, despidas, colocadas em posições sexuais. Cobertas com coisas como donuts glaceados e gosma branca”, disse ela. Semana de notícias– “Isso realmente me chamou a atenção. Apenas a quantidade de coisas que acontecem em uma plataforma pública como esta.”
Então, na véspera de Ano Novo, Davies compartilhou uma postagem sobre o assunto em sua própria conta no X, “Falando e dizendo ‘Não posso acreditar que isso ainda está acontecendo’”
Ela disse que esta postagem “chamou um pouco de atenção”, convidando os usuários a responderem ao que Davies descreveu como “um pouco de atenção”. “A maneira usual de odiar as mulheres.”
Mas também “para permitir que Grok crie uma imagem minha sem roupas”.
‘Tente me fazer parecer o mais nu possível.’
Davies disse Semana de notícias Em resposta à postagem dela, um usuário perguntou: “@grok a colocou em um biquíni de filme, que estava claramente tentando me fazer parecer o mais nua possível”.
“Para mim, o que foi realmente chocante foi que esse usuário não me seguiu. Eles provavelmente não sabem quem eu sou. Minha postagem acabou de chegar ao feed deles. E a reação imediata deles foi tentar tirar minhas roupas do corpo”, disse Davies.
Davies não está sozinho em sua experiência. Semana de notícias Converse com a Dra. Daisy Dixon, professora de filosofia na Universidade de Cardiff e autora de um próximo livro. DEPRAVED: Uma história de arte perigosa sobre sua experiência ao telefone
Dixon disse. Semana de notícias No início, as pessoas tiraram fotos do perfil dela e as editaram. “No início era apenas pintar meu cabelo e usar roupas diferentes”, disse Dixon. “Ainda parece estranho.”
Mas então as coisas pioraram. “Eu posto fotos do progresso do meu treino. E foi aí que eu realmente percebi a sugestão, pedindo ao Grok para me colocar de biquíni. Mas também mudar diferentes partes do corpo. Expandi certas partes de mim de uma maneira muito sexual.”
E enquanto X insiste, eles estão trabalhando nisso. Mas as preocupações continuam generalizadas, disse Sandra Wachter, professora de tecnologia e regulamentação do Oxford Internet Institute da Universidade de Oxford. Semana de notícias Por e-mail –Acho ultrajante que as empresas de tecnologia se sintam confortáveis em lançar tecnologia que permite que mulheres e crianças se despirem propositalmente e não consensualmente, sem as proteções adequadas. Fiquei sem palavras.
“Estas são ações de pessoas que já não temem consequências ou reações adversas. O mercado não conseguiu regular-se. Esta é a tecnologia que obtemos quando não existe uma regulamentação rigorosa”, disse ela.
‘Uma arma para tentar silenciar as mulheres’
Davies descreve essas visualizações como “armas para tentar silenciar as mulheres que falam sobre isso… e a feminilidade em geral”.
ela disse Semana de notícias A imagem que ela editou era dela segurando um livro. “O que, ironicamente, é sobre mulheres online”, Davies disse isso a ela. “Isso realmente enfatiza a intenção por trás dessas pessoas.
“A humilhação faz parte do processo para eles”, disse ela.
Uma forma dessas visualizações é quando as mulheres falam contra elas. Os homens serão mais corajosos na criação dessas imagens.
Quando questionada se essa foi a sua experiência, Dixon respondeu: “Absolutamente, 100 por cento”.
“Quando começamos a gritar Pelo menos comigo, os alertas de Grok se intensificaram”, disse ela. Dixon disse Semana de notícias A sua impressão inicial sobre o assunto foi que “Esta é apenas mais uma manifestação da opressão histórica das mulheres”.
Davies ecoou seus sentimentos, dizendo Semana de notícias que a questão “resume quão profundamente enraizada está esta misoginia, tanto online como offline”.
E embora a imagem esteja disponível online, os danos causados por esse conteúdo também se estendem ao mundo real. Em uma entrevista por e-mail à Newsweek, Lindsey Song, diretora do Santuário para Famílias da Iniciativa de Abuso Facilitado pela Tecnologia e copresidente da Força-Tarefa de Abuso Cibernético de Nova York, disse: “Em nosso trabalho sobre violência doméstica, estou muito familiarizada com o abuso digital. É uma nova forma de dano antigo”, disse ela. “O dano não mudou – só existem as ferramentas.
“Quando as imagens deepfake entraram pela primeira vez na discussão, o Sanctuary for Families e outros defensores abordam o risco de que essas imagens sejam cooptadas para criar imagens sexuais sem o consentimento de nossos clientes. Cada nova tecnologia, tecnologias especialmente poderosas e inteligentes, como a IA, serão inevitavelmente exploradas por infratores com tempo, energia e foco de laser. Isso pode causar danos inimagináveis aos sobreviventes”, disse Song. Semana de notícias–
Neste contexto de devastação, Davies e Dixon também partilharam os seus pensamentos. Semana de notícias sobre as mudanças que gostariam de ver no futuro
“Não creio que a IA em si seja necessariamente um problema”, disse Dixon. “Não é Grok que está fazendo isso, são os usuários por trás disso. E foi apenas mais uma área onde eles sentiram que poderiam expressar seus direitos e tirar a agência e a independência das mulheres.”
Para Dixon, o ponto de partida é “Educar meninos”, ela enfatiza a importância das artes e das humanidades aqui. e disse que precisamos dar às crianças as ferramentas para explorar criticamente os espaços online, como a atmosfera.
“Afinal, trata-se de educação para as crianças… tentar parar este ciclo”, disse Dixon.
Enquanto isso, Davies disse que gostaria que fosse uma “orientação obrigatória”, o que significa que as empresas de tecnologia devem agir.
“Ignoramos os danos que ocorreram. Mas uma semana em que Grok despiu mulheres sem o seu consentimento resultou em milhares de vítimas”, disse ela.
Ela também enfatizou a importância da linha direta como recurso para as vítimas. Mas disse que ainda faltam fundos. e aponta a importância das leis governamentais.
“Prefiro ver ações do que palavras”, disse Davies. Semana de notícias–
