A Comissão Europeia abriu uma investigação sobre a empresa de tecnologia norte-americana X por causa do seu chatbot de inteligência artificial Grok, depois de a empresa ter criado imagens sexualmente explícitas de mulheres e crianças.
“Atos não consensuais de representação sexual por parte de mulheres e crianças são uma forma de violência inaceitável e degradante”, disse a vice-presidente da Comissão Europeia, Henna Virkkunen, na segunda-feira.
A Comissão, que atua como vigilante digital da UE, escreveu em comunicado que a investigação investigará se X cumpriu as suas obrigações ao abrigo da legislação da União Europeia, incluindo a obrigação de “diligência na avaliação e mitigação de riscos sistémicos”.
Atualize notícias com o aplicativo 7NEWS: Baixe hoje
“Isto inclui riscos associados à disseminação de conteúdos ilegais na UE, tais como imagens pornográficas manipuladas, incluindo conteúdos que podem tornar-se material de abuso sexual infantil”, afirmou.
“Estes riscos parecem ter-se materializado, deixando os cidadãos da UE expostos a danos graves.”
A plataforma de mídia social de Elon Musk tem sido alvo de fortes críticas nas últimas semanas, depois que Grok permitiu que usuários substituíssem digitalmente roupas femininas por biquínis e, em alguns casos, criassem representações sexualmente explícitas de menores.
Após indignação internacional sustentada, X introduziu uma série de restrições em meados de janeiro.
Isso inclui impedir que Grok “permita a edição de imagens de pessoas reais revelando roupas como biquínis” e limitar o recurso de geração de imagens do chatbot de IA a assinantes pagos, disse X em um comunicado.
A Comissão enfatizou que a abertura da investigação não afeta o resultado da investigação.
O regulador de comunicações da Grã-Bretanha, Ofcom, também abriu uma investigação formal sobre a plataforma online de Musk no início de janeiro sobre imagens pornográficas criadas por Grok.
O primeiro-ministro britânico, Keir Starmer, classificou as imagens geradas por IA de “absolutamente nojentas”.
As autoridades francesas também têm investigado Grok desde o ano passado.
A investigação inicial centrou-se em alegações de que os algoritmos das redes sociais foram alterados para prestar mais atenção ao conteúdo de extrema direita. Desde então, novas alegações de negação do Holocausto e imagens sexuais foram adicionadas.
Grok foi proibido na Indonésia e na Malásia.
Na segunda-feira, Bruxelas também anunciou a prorrogação de uma investigação separada sobre X aberta em dezembro de 2023.
A comissão está trabalhando para avaliar se o sistema de recomendação da plataforma, o algoritmo que sugere conteúdo aos usuários, “avaliou e mitigou adequadamente quaisquer riscos sistêmicos” de acordo com a Lei de Serviços Digitais (DSA) do bloco.
A investigação agora também aborda “o impacto da transição recentemente anunciada para um sistema de aconselhamento baseado em Grok”, disse a comissão.
