Sacramento – A Califórnia anunciou uma investigação sobre a empresa de inteligência artificial xAI de Elon Musk na quarta-feira, com o governador Gavin Newsom dizendo que o site de mídia social de propriedade do bilionário é um “terreno fértil para predadores que espalham deepfakes de IA sexualmente explícitos e não obrigatórios”.
Grok, um chatbot xAI, inclui recursos de geração de imagens que permitem aos usuários transformar imagens existentes em novas imagens. As imagens recém-criadas são então publicadas publicamente no X.
Em alguns casos, os utilizadores criaram imagens sexualmente explícitas ou questionáveis baseadas em pessoas reais, incluindo imagens alteradas que parecem mostrar pessoas parcial ou completamente nuas. Outros criaram imagens que parecem mostrar menores, suscitando críticas de que não existem salvaguardas suficientes para prevenir a pornografia infantil.
O site de mídia social declarou anteriormente que “Tomamos medidas contra conteúdo ilegal no X, inclusive removendo material de abuso sexual infantil (CSAM), suspendendo permanentemente contas e trabalhando com governos locais e autoridades policiais conforme necessário. Qualquer pessoa que use ou incentive Grok a criar conteúdo ilegal enfrentará as mesmas consequências que aqueles que enviam conteúdo ilegal”.
Newsom chamou as imagens sexuais criadas na plataforma de “nojentas”. O general Attiy Rob Bonta disse que seu escritório “usará todas as ferramentas à nossa disposição para manter o povo da Califórnia seguro”.
“Os detalhes do material não consensual e sexualmente explícito que a xAI supostamente produziu e publicou online nas últimas semanas são chocantes”, disse Bonta em comunicado na quarta-feira. “Este material, que retrata mulheres e crianças em situações nuas e sexuais, tem sido usado para assediar pessoas na Internet. Exorto a xAI a tomar medidas imediatas para garantir que isso não aconteça novamente. Temos tolerância zero com a criação e disseminação baseadas em IA de imagens sexuais não interativas ou material de abuso sexual infantil.”
Newsom assinou dois projetos de lei em 2024 que tornavam ilegal a criação, posse ou distribuição de imagens sexualmente explícitas de menores, mesmo quando criadas com computadores, e não com câmeras. Estas medidas entraram em vigor no ano passado.
Assembly Bill 1831, de autoria do deputado Mark Berman (D-Menlo Park), expandiu a proibição da pornografia infantil no estado para incluir “imagens digitalmente alteradas ou geradas por inteligência artificial (do que parece ser) uma pessoa menor de 18 anos envolvida ou simulando conduta sexual.” Projeto de lei 1381 do Senado, de autoria da senadora Ayesha Wahab (D-Hayward), o estado alterou a lei para proibir expressamente o uso de IA para criar imagens de crianças reais envolvidas em comportamento sexual ou para usar crianças como modelos para pornografia infantil alterada digitalmente ou gerada por IA.
