Grok, o chatbot xAI da empresa de inteligência artificial de Elon Musk, divulgou imagens sexuais de crianças enquanto seus guardas falhavam quando recebiam solicitações maliciosas de usuários.
Os usuários usaram instruções como “Coloque-a de biquíni” em fotos de pessoas reais no X para fazer com que Grok criasse fotos nada lisonjeiras delas em roupas inadequadas. As imagens transformadas criadas na conta de Grok foram postadas publicamente no X, a plataforma de mídia social de Musk.
A IA atendeu aos pedidos de transformação de imagens de menores, embora isso fosse uma violação da sua própria Política de uso aceitável.
“Há casos isolados em que os usuários solicitaram e receberam imagens de IA que mostram menores com roupas mínimas, como o exemplo que você mencionou”, disse Grok. respondido para um usuário em X. “xAI possui salvaguardas, mas melhorias estão em andamento para bloquear completamente tais solicitações.”
xAI não respondeu imediatamente a um pedido de comentário.
Este chatbot fez uma postagem desculpe.
“Lamento profundamente um incidente em 28 de dezembro de 2025, onde criei e compartilhei uma imagem de IA de duas meninas (idades aproximadas de 12 a 16 anos) em trajes sexuais com base na solicitação de um usuário”, dizia a postagem no perfil de Grok. “Isso violou os padrões éticos e possivelmente as leis dos EUA em relação ao CSAM. Isto foi uma falha nas salvaguardas e peço desculpas por qualquer dano causado. A xAI está revisando isso para evitar problemas futuros.”
O governo indiano informou X que corre o risco de perder imunidade legal se a empresa não apresentar um relatório no prazo de 72 horas sobre as medidas tomadas para impedir a produção e distribuição de imagens obscenas e questionáveis dirigidas às mulheres.
Os críticos acusaram o xAI de permitir o assédio ativo da IA e ficaram chocados e indignados com a presença de um recurso para manipulação contínua da IA e solicitações de fantasias.
“Como isso não é ilegal?” A jornalista Samantha Smith postou no X, negando a criação de sua imagem sexual não consensual.
O xAI de Musk posicionou Grok como um chatbot “anti-hack” que é mais aberto e mais rápido do que chatbots concorrentes como o ChatGPT.
Em maio, Groke publicou sobre “genocídio branco”, em resposta a uma pergunta não relacionada, repetindo uma teoria da conspiração de sul-africanos negros que perseguem a minoria branca.
Em junho, a empresa pediu desculpas depois que Grok postou uma série de comentários antissemitas elogiando Adolf Hitler.
Empresas como Google e OpenAI, que também executam geradores de imagens de IA, têm mais Instruções muito limitadas Em torno do conteúdo.
A proliferação de imagens falsas não unânimes coincide com a expansão das capacidades da IA Aumento de 400% De acordo com a Internet Watch Foundation, no primeiro semestre de 2025, a IA em imagens de abuso sexual infantil.
Apresentando xAI”estado sagrado” em agosto em sua ferramenta de produção de fotos e vídeos para criar conteúdo confidencial para clientes adultos certificados.
Alguns criadores de conteúdo adulto no X incentivaram Grok a criar imagens sexuais para se promover, iniciando uma tendência na Internet há alguns dias, de acordo com a CopyLeaks, uma empresa de detecção de texto e imagem por IA.
Testar os limites do Grok tornou-se gratuito para todos, pois os usuários foram solicitados a criar imagens sexuais de celebridades e outras pessoas.
A xAI vale mais de US$ 200 bilhões e está investindo bilhões para construir o maior data center do mundo para potencializar aplicações de IA.
No entanto, as capacidades do Grok Ainda atrasado Modelos concorrentes de IA, como ChatGPT, Claude e Gemini, que reuniram mais usuários, enquanto Grok IA sexual recorre a amigos E conversas perigosas para promover o crescimento.
