Indonésia bloqueia Grok devido a pornografia Deepfake

Domingo, 11 de janeiro de 2026 – 13h18 WIB

Jacarta – O Ministério das Comunicações e Tecnologias Digitais (Kemkomdigi) suspendeu temporariamente o acesso ao aplicativo Grok de Elon Musk como um passo para proteger mulheres, crianças e toda a comunidade do risco de propagação de conteúdo pornográfico falso produzido por tecnologia de imitação (inteligência artificial ou inteligência artificial/AI).

Leia também:

Grok limita recursos de pagamento de IA depois que a controvérsia sobre ‘despir-se digital’ de Elon Musk atrai críticas globais

O Ministro das Comunicações e Tecnologia, Meutya Hafid, disse que a política foi tomada como uma forma de responsabilidade do Estado para manter um espaço digital que seja seguro, ético e que respeite os direitos humanos (HAM).

“O governo considera a prática de falsificações sexuais não consensuais uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, disse ele no sábado, 10 de janeiro de 2026, em Jacarta.

Leia também:

Komdigi bloqueia temporariamente o acesso ao Grok e pede que X explique imediatamente

Segundo ele, utilizar a tecnologia de IA para criar e distribuir conteúdo pornográfico falso sem o consentimento da parte visada é uma forma de violência digital, cujo impacto pode ser psicológica, social e legalmente prejudicial para as vítimas.

Meutya Hafid explicou ainda que o encerramento do acesso a Grok foi temporário e foi feito como medida preventiva e corretiva.

Leia também:

Os efeitos da IA ​​estão se tornando mais assustadores, a onda de demissões está prevista para continuar até 2030

O governo deve garantir que todas as plataformas digitais que operam na Indonésia possuem mecanismos de segurança adequados para que não sejam utilizadas para produzir ou disseminar conteúdos proibidos.

Além de encerrar o acesso, Kemkomdigi também solicitou uma plataforma

Este esclarecimento é necessário para explicar os impactos negativos do uso do Grok, bem como as medidas de mitigação que serão tomadas para evitar abusos repetidos desta tecnologia.

“Pedimos

A Kemkomdigi exerce a sua autoridade conforme regulamentado no Regulamento do Ministro das Comunicações e Tecnologias de Informação n.º 5 de 2020 sobre operadores privados de sistemas eletrónicos.

Neste regulamento, em particular no artigo 9.º, cada operador de sistema eletrónico (PSE) é obrigado a garantir que o sistema eletrónico que gere não contém, facilita ou divulga informação eletrónica e/ou documentos eletrónicos proibidos por lei.

Grok é conhecido por atrair fortes críticas de vários grupos ao redor do mundo por permitir que usuários criem imagens pornográficas.

Outro lado

Grok disse em comunicado que apenas clientes pagantes do X podem criar e editar imagens na plataforma. No entanto, muitas pessoas acusam o aplicativo de permitir que qualquer pessoa crie imagens sem ter que pagar uma assinatura.



Link da fonte