Três adolescentes no Tennessee processaram a xAI de Elon Musk esta semana, alegando que as ferramentas de produção fotográfica da empresa foram usadas para transformar suas fotos originais em imagens abertamente sexuais.
O estudante do ensino médio, que busca agir sob pseudônimo, entrou com a ação na Califórnia, onde a xAI – empresa de inteligência artificial de Musk – está sediada. Eles estão buscando o status de ação coletiva para representar o que o processo diz serem milhares de vítimas como eles, que eram menores de idade ou eram menores de idade quando suas imagens sexualmente explícitas foram criadas.
De acordo com o processo, Jane Doe 1 a avisou anonimamente em dezembro que alguém estava postando fotos sexualmente explícitas dela em um site de mídia social.
“Pelo menos cinco desses arquivos, um vídeo e quatro fotografias, mostravam seu rosto e corpo reais em ambientes com os quais ela estava familiarizada, mas foram alterados de forma sexualmente explícita”. Alega que a pessoa que compartilhou as fotos conhecia Doe e usou as ferramentas de geração de imagens da xAI para transformar suas imagens originais em imagens sexualmente explícitas. Uma das fotos é tirada da foto do regresso a casa. Outro foi retirado de um livro didático do ensino médio.
A pessoa que distribuiu as fotos também deixou fotos explícitas de pelo menos outras 18 meninas, duas das quais são co-rés no caso. No final de dezembro, a polícia prendeu o acusado e confiscou seu telefone. Eles descobriram que ele havia carregado as imagens em diversas plataformas onde as trocava por imagens sexuais de outros menores.
Outras empresas de IA proibiram seus geradores de imagens de produzir qualquer conteúdo sexualmente explícito, mesmo adulto. Musk viu isso como uma oportunidade de negócio e desenvolveu a capacidade do grok chatbot da xAI de gerar conteúdo “picante”, afirma o processo. No entanto, atualmente não há como impedir a geração de imagens explícitas de adultos e ao mesmo tempo bloquear completamente a geração de imagens de crianças, afirma o processo. Também afirma que a xAI sabia que Grok seria capaz de produzir imagens sexualmente explícitas de crianças, mas as publicou mesmo assim.
A ação alega que a pessoa que distribuiu as imagens dos demandantes usou um aplicativo que licenciou a tecnologia xAI ou “de outra forma obteve acesso ao Grok e foi usado como recorte ou intermediário”.
A XAI não respondeu a um e-mail solicitando comentários da Associated Press. Mas uma publicação de 14 de janeiro sobre a controvérsia na plataforma de mídia social X dizia: “Estamos comprometidos em tornar X uma plataforma segura para todos e continuamos a ter tolerância zero com qualquer forma de exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado.
“Tomamos medidas para remover conteúdo infrator de alta prioridade, incluindo material de abuso sexual infantil (CSAM) e pornografia não consensual, tomando as medidas apropriadas contra contas que violam nossas regras X. Também denunciamos contas que contêm material de abuso sexual infantil às autoridades policiais, conforme necessário.”
Ao mesmo tempo, os alunos do teste disseram estar preocupados com a possibilidade de as imagens que criaram viverem para sempre na Internet. Eles temem ser rastreados porque seus nomes verdadeiros e o nome da escola estão anexados aos arquivos. Eles se preocupam com o fato de seus amigos e colegas de classe terem visto as fotos e os vídeos, que parecem reais, e se preocupam com quem os verá no futuro.
Jane Doe 1 disse que sofre de ansiedade, depressão e estresse. “Ele tem problemas para comer e dormir e sofre de pesadelos recorrentes”. Jane Doe 2 “começou a se isolar e a evitar estar no campus de sua escola, e até tem medo de comparecer à formatura”. Jane Doe 3 sofre de medo e ansiedade constantes de que alguém olhe para imagens geradas por IA e reconheça seu rosto, de acordo com o processo.
Lawler escreve para a Associated Press.
