Autores: Supantha Mukherjee e Paul Sandle
ESTOCOLMO/LONDRES (Reuters) – O chatbot Grok de Elon Musk está testando a capacidade da Europa de impedir deepfakes e remoção de fotos digitais na Internet, mesmo depois que os reguladores obtiveram uma rara vitória ao forçar o xAI de Musk a reprimir a criação de imagens sexualizadas.
A xAI disse na quarta-feira que restringiu a edição de fotos para usuários do Grok AI depois que o chatbot divulgou milhares de fotos sexualizadas de mulheres e menores, alarmando os reguladores globais.
O declínio de Musk, que inicialmente ridicularizou a tendência, destaca a dificuldade de controlar as ferramentas de inteligência artificial que tornam a criação de conteúdo adulto barata e fácil. Este é o mais recente confronto da Europa com Musk, após disputas sobre interferência eleitoral, moderação de conteúdo e liberdade de expressão.
Muitos reguladores ainda lutam para desenvolver leis e políticas para governar a IA, deixando dúvidas sobre o que constitui nudez, como definir o consentimento e quem é responsável por ele: o utilizador ou a plataforma.
“É realmente uma área cinzenta quando se trata de produzir fotos de nus”, disse Ängla Pändel, advogada de proteção de dados e privacidade em Estocolmo, na Mannheimer Swartling, à Reuters.
O regulador britânico Ofcom, um dos mais expressivos sobre o assunto, saudou a medida de Musk, mas disse que sua investigação xAI sobre as fotos de Grok continuaria.
“Nossa investigação formal está em andamento”, disse o porta-voz. “Estamos trabalhando dia e noite para progredir e obter respostas sobre o que deu errado e ações estão sendo tomadas para corrigir isso.”
Autoridades dizem que a aplicação mais estrita da lei ainda é necessária
No início deste mês, Grok criou imagens hiper-realistas de mulheres em X manipuladas para parecerem usar biquínis minúsculos, em poses degradantes e até cobertas de hematomas. Alguns menores tiveram seus trajes de banho digitalmente despojados.
Na quarta-feira, a Reuters descobriu que o chatbot ainda gerava imagens sexuais mediante solicitação. Na quinta-feira, isso parecia ter sido reduzido, pelo menos em algumas regiões.
O XAI de Musk afirma que impede que os usuários criem imagens de pessoas com roupas minúsculas em “jurisdições onde fazer isso é ilegal”. Não especificou essas jurisdições.
Na Malásia e na Indonésia, o governo impôs proibições temporárias de Grok, enquanto os reguladores da UE e do Reino Unido declararam as fotos ilegais. A Grã-Bretanha, a França e a Itália iniciaram investigações, mas enfrentaram apelos para uma acção mais enérgica.
“É necessária uma aplicação mais rigorosa da Lei dos Serviços Digitais (DSA) para impedir aplicações e plataformas que sexualizam ou nuam mulheres e crianças”, disse a eurodeputada democrata-cristã Nina Carberry, que classificou a última medida como um “passo positivo”.
Um porta-voz da Comissão Europeia disse que se as mudanças de Grok não fossem eficazes, a Comissão continuaria a usar o conjunto completo de ferramentas de aplicação incluídas na lei DSA da UE contra a plataforma.
ÁREA CINZA JURÍDICA, UM ENORME FARGO PARA AS VÍTIMAS
A Lei de Segurança na Internet do Reino Unido torna o compartilhamento não consensual de imagens íntimas, incluindo notícias falsas geradas por inteligência artificial, um “crime prioritário”, disse Alexander Brown, advogado britânico de proteção de dados da Simmons & Simmons.
“Isso significa que X deve tomar medidas proativas e proporcionais para evitar que tal conteúdo apareça em sua plataforma e removê-lo rapidamente se for detectado”, disse ele.
O regulador do Reino Unido pode, nos casos mais graves de incumprimento, multar uma empresa até 10% da receita ou pedir a um tribunal que ordene aos ISPs que bloqueiem um site.
Para os indivíduos, levar as plataformas a tribunal é “um processo realmente difícil e difícil”, disse Anders Bergsten, advogado do Mannheimer Swartling, citando o impacto emocional nas vítimas.
Os deepfakes já existem há anos, muito antes de existirem aplicações de IA, embora estivessem em grande parte confinados aos cantos mais obscuros da web. O poder editorial de X dá a Grok um alcance sem precedentes.
“A capacidade de publicar sem interrupção permite que deepfakes se espalhem em grande escala”, disse a advogada norte-americana Carrie Goldberg, que trabalha com vítimas de assédio online.
As leis do Reino Unido e da Suécia proíbem o compartilhamento de fotos nuas sem consentimento. O Reino Unido estende esta lei para cobrir a criação de tais imagens.
De acordo com o DSA, a suspensão do serviço é considerada o último recurso. A Lei de Inteligência Artificial da UE também não contém disposições sobre fotos nuas de adultos, apenas obrigações de transparência no caso de deepfakes, dizem os especialistas.
O primeiro-ministro britânico, Keir Starmer, deu as boas-vindas ao Move
“Se precisarmos fortalecer ainda mais as regulamentações existentes, estamos prontos para fazê-lo.”
(Reportagem de Supantha Mukherjee em Estocolmo e Sam Tobin em Londres; edição de Adam Jourdan, Kenneth Li e Elaine Hardcastle)
