Steel Skill, Malásia (EIONILE NADNA), 12 de janeiro: A Malásia e a Indonésia tornaram-se os primeiros países a bloquear o Grok, um chatbot de inteligência artificial desenvolvido pela xAI de Elon Musk, depois de as autoridades terem dito que estava a ser utilizado indevidamente para gerar imagens sexualmente explícitas sem consentimento. As medidas refletem a crescente preocupação global com ferramentas generativas de IA que podem produzir imagens, sons e textos realistas, enquanto as salvaguardas existentes não conseguem impedir a sua utilização indevida. O chatbot Grok, que é acessado através da plataforma de mídia social X de Musk, tem sido criticado por gerar imagens manipuladas, incluindo representações de mulheres de biquíni ou poses sexualmente explícitas, bem como imagens envolvendo crianças.
Os reguladores dos dois países do Sudeste Asiático afirmaram que os controlos existentes não impedem a criação e difusão de conteúdos pornográficos falsos, especialmente sobre mulheres e menores. O governo indonésio bloqueou temporariamente o acesso a Grok no sábado, seguido pela Malásia no domingo. Grok banido na Indonésia: o país bloqueia temporariamente o AI Chatbot de Elon Musk por causa de falsas preocupações com pornografia.
“O governo vê a falsificação sexual não consensual como uma violação grave dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, disse o Ministro das Comunicações e Assuntos Digitais da Indonésia, Meutya Hafid, num comunicado no sábado. O Ministério anunciou que a medida visa proteger as mulheres, as crianças e a comunidade em geral de conteúdos pornográficos falsos gerados por inteligência artificial.
As descobertas iniciais mostraram que Grok não tinha salvaguardas eficazes para impedir que os usuários criassem e distribuíssem conteúdo pornográfico baseado em fotos reais de residentes indonésios, disse Alexander Sabar, diretor-geral do órgão de vigilância do espaço digital, em um comunicado separado. Ele disse que tais práticas correm o risco de violar a privacidade e os direitos de imagem quando as fotos são manipuladas ou compartilhadas sem consentimento, causando danos psicológicos, sociais e de reputação. O Grok Chatbot de Elon Musk limita a geração de imagens após reação global sobre deepfakes sexualizados.
Em Kuala Lumpur, a Comissão de Comunicações e Multimídia da Malásia ordenou no domingo uma proibição temporária de Grok, depois do que classificou como “abuso repetido” da ferramenta para gerar imagens obscenas, sexualmente explícitas e manipuladas sem consentimento, incluindo conteúdo envolvendo mulheres e menores.
O regulador disse que os avisos emitidos este mês para a X Corp. e xAI exigindo salvaguardas mais fortes suscitaram respostas que dependiam principalmente de mecanismos de denúncia de usuários.
“A restrição é imposta como medida preventiva e proporcional enquanto os processos legais e regulamentares estão em curso”, afirmou, acrescentando que o acesso permanecerá bloqueado até que sejam implementadas salvaguardas eficazes.
Lançado em 2023, o Grok é gratuito para uso no X. Os usuários podem fazer perguntas na plataforma de mídia social e marcar postagens que criaram diretamente ou responder às postagens de outros usuários. No verão passado, a empresa adicionou um recurso de geração de imagens, Grok Imagine, que inclui o chamado “modo picante” que pode gerar conteúdo adulto.
As restrições no Sudeste Asiático surgem em meio ao crescente escrutínio de Grok em outros lugares, inclusive na União Europeia, Grã-Bretanha, Índia e França. Grok restringiu na semana passada a geração e edição de imagens a usuários pagantes após uma reação global contra deepfakes sexualizados de pessoas, mas os críticos dizem que isso não abordou totalmente o problema.
(A história acima apareceu pela primeira vez em LatestLY em 12 de janeiro de 2026 às 12h27 IST. Para mais notícias e atualizações sobre política, mundo, esportes, entretenimento e estilo de vida, acesse nosso site Latestly.com).
