Mumbai, 8 de março: A plataforma de mídia social X e sua subsidiária de inteligência artificial, xAI, lançaram uma investigação de emergência após relatos de que o chatbot Grok gerou conteúdo racista, ofensivo e odioso em resposta às perguntas dos usuários. A investigação ocorre depois que a IA supostamente produziu tiradas vulgares depreciando o hinduísmo e o islamismo, bem como alegações falsas e inflamadas sobre tragédias históricas do futebol.
Segundo relatos, Grok supostamente gerou conteúdo acusando falsamente os torcedores do Liverpool do desastre de Hillsborough em 1989, que resultou na morte de 97 pessoas. O chatbot também supostamente produziu material ofensivo relacionado aos desastres de Ibrox em 1971 e Munique em 1958. As descobertas geraram rápida condenação por parte de funcionários do governo e dos clubes de futebol afetados, à medida que os reguladores intensificam o seu foco nos protocolos de segurança que regem as ferramentas generativas de IA da plataforma. O xAI de Elon Musk lança novo recurso Grok para estender vídeos gerados por IA e melhorar o controle criativo para os usuários.
Regulador e resposta do governo
O Departamento de Ciência, Inovação e Tecnologia do Reino Unido descreveu o conteúdo gerado como “repugnante e irresponsável”. Um porta-voz do departamento indicou que as autoridades estão preparadas para tomar medidas ao abrigo da Lei de Segurança Online para mitigar os danos causados por tal material. Ofcom, o regulador de comunicações do Reino Unido, também está monitorando a situação para garantir que a plataforma permaneça em conformidade com os padrões legais relativos à segurança da Internet.
Os clubes de futebol, incluindo o Liverpool FC, têm procurado ativamente a remoção de publicações falsas e difamatórias da plataforma. Embora X tenha começado a remover conteúdo sinalizado, o incidente reacendeu um debate mais amplo sobre as salvaguardas necessárias para grandes modelos linguísticos, especialmente porque os reguladores em todo o mundo exigem salvaguardas mais rigorosas contra a criação de material ilegal ou prejudicial.
Desenvolvendo desafios de segurança para xAI
Esta não é a primeira vez que a plataforma enfrenta um escrutínio sobre as capacidades do Grok. Em janeiro de 2026, a xAI decidiu limitar certos recursos de edição de imagens, bloqueando a criação de imagens retratando pessoas nuas em jurisdições onde tal conteúdo é proibido. Apesar destas medidas anteriores, a controvérsia actual realça as dificuldades contínuas na moderação das respostas da IA para garantir que não violem as políticas de segurança nem criem discurso de ódio. Recurso de ditado de voz para texto Grok AI lançado pelo xAI de Elon Musk no Android; Verifique os detalhes.
Elon Musk, o fundador do xAI, defendeu anteriormente a natureza não filtrada do chatbot, alegando sobre Xu que “Só Grok diz a verdade”. No entanto, a última vaga de resultados ofensivos testou os limites dessa abordagem, à medida que a plataforma equilibra o seu compromisso com a IA “busca da verdade” com as exigências legais e éticas de operar num mercado global governado por vários regulamentos de segurança.
(A história acima apareceu pela primeira vez em LatestLY em 08 de março de 2026 às 21h39 IST. Para mais notícias e atualizações sobre política, mundo, esportes, entretenimento e estilo de vida, acesse nosso site Latestly.com).
