Ashley St. Clair, uma influenciadora conservadora que é mãe de um dos filhos de Elon Musk, processou a xAI por imagens sexualmente explícitas geradas por Grok, o chatbot de IA da empresa.
De acordo com vários relatos da mídia, St. Clair entrou com uma ação contra a empresa de seu ex na quinta-feira, alegando que a plataforma gerou e circulou imagens sexualmente sugestivas dela – como adulta e criança – em X (outra empresa de Musk).
“O réu xAI, um gigante da tecnologia com todas as ferramentas e vantagens à sua disposição, optou por deliberadamente fechar os olhos e até celebrar a exploração sexual de mulheres e crianças”, afirma o processo.
O documento continua: “O produto Grok da xAI, um chatbot generativo de inteligência artificial (‘IA’), usa IA para despir, humilhar e explorar sexualmente as vítimas – criando conteúdo infantil profundamente falso, alterado e de aparência real.
Além disso, o processo afirma que St. Clair supostamente alertou xAI sobre as falsificações perturbadoramente profundas, nas quais ela foi retratada como “uma criança vestida com um biquíni” e “como uma adulta em poses sexualmente explícitas”.
Clair afirma que Grok confirmou que suas imagens “não seriam usadas ou alteradas sem consentimento explícito em gerações ou respostas futuras”, mas que xAI continuou a permitir que os usuários criassem representações explícitas dela.
Em uma declaração à People na quinta-feira, a advogada de St. Clair, Carrie Goldberg, criticou o xAI, dizendo: “xAI não é um produto razoavelmente seguro e é um incômodo público”.
Goldberg continuou: “Ninguém recebeu mais barulho do que Ashley St. Clair. Ashley processou porque Grok a assediou ao criar e distribuir fotos não consensuais, insultuosas e degradantes dela e publicá-las no X.”
O processo de St. Clair segue a decisão do procurador-geral da Califórnia, Rob Bonta, na quarta-feira, de abrir uma investigação sobre Grok. Na época, o governador Gavin Newsom chamou a empresa em X, escrevendo: “A decisão da xAI de criar e hospedar um terreno fértil para predadores espalharem deepfakes de IA sexualmente explícitos sem consentimento, incluindo imagens despindo crianças digitalmente, é vil”.
Embora Musk e xAI ainda não tenham emitido uma declaração, a empresa processou St. Clair em um tribunal federal no Texas na quinta-feira, acusando-a de “quebra de contrato” e pedindo indenização superior a US$ 75.000.
“A Ré Ashley St. Clair registrou-se para uma conta na plataforma do Requerente e, ao fazê-lo, concordou com os Termos de Serviço do xAI, que obriga o Réu a trazer quaisquer disputas entre ele e a xAI LLC – e afiliadas da xAI – exclusivamente neste tribunal ou nos tribunais estaduais do Condado de Tarrant”, afirma o processo. “Apesar deste acordo claro para litigar no Texas, os réus declararam sua intenção de processar a xAI Holdings a cerca de 1.600 milhas de distância no tribunal estadual de Nova York.”
