O regulador de comunicações da Grã-Bretanha lançou uma investigação sobre o X de Elon Musk para determinar se permitir que seu chatbot Grok AI criasse deepfakes sexuais violava seu dever de proteger as pessoas no Reino Unido de conteúdo potencialmente ilegal.
“Houve relatos profundamente preocupantes sobre a conta do chatbot Grok AI em
O regulador está sob pressão para agir depois que o primeiro-ministro Keir Starmer disse que as imagens criadas por Grok eram “nojentas” e “ilegais”.
Conheça as novidades com o app 7NEWS: Baixe hoje mesmo
Starmer disse na quinta-feira que o X de Musk teve que “capturar” Grok, acrescentando que o Ofcom tinha total apoio do governo para agir.
Criar ou compartilhar imagens íntimas não consensuais ou material de abuso sexual infantil, incluindo imagens sexuais geradas por IA, é ilegal no Reino Unido.
Além disso, as plataformas tecnológicas devem impedir que os utilizadores britânicos encontrem conteúdos ilegais e removê-los assim que tomarem conhecimento deles.
X foi condenado em outros países porque o recurso pode criar imagens de mulheres e menores vestindo roupas minúsculas.
As autoridades francesas denunciaram X aos procuradores e reguladores, classificando o conteúdo como “claramente ilegal”, enquanto as autoridades indianas também exigiram uma explicação.
X restringiu esse recurso para usuários pagantes.
Na semana passada, disse que removeria todo o conteúdo ilegal da plataforma e suspenderia permanentemente as contas envolvidas.
“Qualquer pessoa que use ou incite Grok a criar conteúdo ilegal estará sujeita às mesmas consequências que se tivesse carregado conteúdo ilegal”, afirmou.
Quando questionado recentemente sobre este tópico, xAI disse à Reuters: “Legacy Media Lies”.
O Ofcom investigará se X não avaliou o risco de as pessoas no Reino Unido visualizarem conteúdo ilegal e se X considerou isso um risco para as crianças.
Ofcom disse que nos casos mais graves de incumprimento, poderia pedir a um tribunal que ordene “provedores de pagamento ou anunciantes a retirarem os seus serviços da plataforma” ou fazer com que um fornecedor de serviços de Internet bloqueie o acesso a um site no Reino Unido.
X não respondeu imediatamente a um pedido de comentário sobre a investigação do Ofcom.
