O chatbot Grok de Elon Musk começou a limitar a capacidade de usuários não pagantes de criar imagens profundamente falsas e sexualizadas na quinta-feira, após pressão global de usuários e governos.
No final do mês passado, alguns usuários começaram a marcar Grok na plataforma de mídia social X de Musk com frases como “coloque-a de biquíni” para criar imagens nada lisonjeiras de pessoas reais no X.
As imagens desfiguradas, incluindo de celebridades, políticos e alguns menores, foram criadas por Grok e publicadas publicamente no X.
Antes do início das restrições atuais, Musk participou da tendência de roupas de IA, instruindo Grok a criar fotos suas de biquíni.
Usuários e autoridades reclamaram e ameaçaram processar ou punir X. Grok inicialmente pediu desculpas pelas imagens inadequadas de crianças.
Agora X colocou as controversas habilidades de transformação de Grok atrás de um acesso pago.
Os governos, incluindo o Reino Unido e a Comissão Europeia, disseram que não estavam satisfeitos com a proteção do X porque a capacidade de criar e editar imagens ainda existia. há Para usuários pagantes.
“Embora restringir a geração de imagens de IA a usuários pagantes possa reduzir ligeiramente o volume e melhorar a detectabilidade, o abuso não parou. Ele simplesmente foi colocado atrás de um acesso pago, permitindo que X explorasse a vulnerabilidade”, disse Emma Pickering, chefe de abuso de facilitação de tecnologia e capacitação econômica no abrigo.
À medida que cresce a indignação pública sobre o que muitos chamam de bullying possibilitado pela IA, os reguladores tomaram nota de algumas propostas para proibir o X nos seus próprios países.
O primeiro-ministro do Reino Unido, Keir Stormer, disse que X deveria “controlar” sua tendência “nojenta”. “Tomaremos medidas sobre isso porque é simplesmente intolerável”, disse Starmer.
Em uma reação velada, Musk pareceu criticar os reguladores do Reino Unido raiva Ao publicar uma alegação de que o ChatGPT também permitiu a criação de uma foto de biquíni de uma pessoa não real por meio de incentivos criativos e ambíguos.
Depois de condenar Grok por produzir imagens sexuais, a Comissão Europeia ordenou que X retenha todos os documentos relacionados com Grok para garantir o cumprimento das suas regras.
“Devemos ter acesso a eles se o solicitarmos expressamente”, disse um porta-voz da comissão num comunicado. coletiva de imprensa.
França, Índia e Malásia, e Brasil também investigam a plataforma.
Embora as figuras públicas fossem o principal alvo dos wearables de IA, estes foram rapidamente alargados a particulares. Em 3 de janeiro, um usuário solicitou que Grok produzisse 50 vezes por dia imagens sexuais não consensuais de mulheres em ambientes de trabalho, de acordo com uma análise da empresa de detecção de IA CopyLeaks.
O grupo de justiça de gênero UltraViolet lançou uma campanha para pressionar a Apple e o Google a removerem X de suas respectivas lojas de aplicativos porque X viola suas diretrizes de abuso sexual infantil.
Musk está posicionando seu chatbot como uma alternativa mais flexível a alternativas como Gemini, ChatGPT e Cloud, que têm mais Instruções limitadas Em torno de solicitações de conteúdo explícito.
