A Comissão Eleitoral da Índia (ECI) convocou uma reunião com os principais executivos das principais plataformas de mídia social em 11 de março, em Nirvachan Sadan, para abordar a crescente ameaça de desinformação e deepfakes gerados pela IA antes das próximas eleições parlamentares.
A reunião ocorre num momento em que o ECI, em coordenação com o Instituto Internacional Indiano para a Democracia e Gestão Eleitoral (IIIDEM), está a trabalhar para desenvolver um quadro tecnológico dedicado para detectar e combater a desinformação gerada pela IA durante as eleições.
Altos funcionários da ECI disseram que as discussões se concentrarão no fortalecimento do monitoramento do conteúdo eleitoral, na redução do tempo de resposta às reclamações e na melhoria da coordenação entre as plataformas digitais e os órgãos eleitorais durante o período de campanha. O encontro será realizado sob o tema estudar “oportunidades e desafios” relacionados ao uso das redes sociais durante as eleições.
Autoridades disseram que esta seria a primeira vez que a Comissão realizaria uma reunião direta e estruturada com grandes empresas de tecnologia sobre conteúdo relacionado às eleições. Até agora, a ICE abordou principalmente estas questões, fornecendo orientações na implementação do Código de Conduta Modelo (MCC). Durante este período, os Coletores Distritais, que também atuam como Oficiais Nodais Distritais durante as eleições, podem enviar mensagens a candidatos, partidos políticos ou plataformas digitais e direcionar a remoção de conteúdos enganosos ou ilegais.
Espera-se a participação de representantes de alto escalão de empresas globais de tecnologia, incluindo representantes da Meta Platforms, que opera Facebook, Instagram e WhatsApp; Alphabet Inc., controladora do Google e do YouTube; e X Corp., que opera X.
No âmbito do desenvolvimento das suas próprias ferramentas tecnológicas e da coordenação com as plataformas digitais onde esse conteúdo circula, as autoridades disseram que a Comissão está a explorar o desenvolvimento de software especializado e protocolos operacionais para detectar vídeos falsos, áudio sintético e materiais digitais manipulados durante as eleições.
O sistema proposto analisaria o conteúdo digital para determinar se um vídeo, clipe de áudio ou imagem é genuíno, criado artificialmente usando ferramentas de IA ou editado de forma enganosa, disseram as autoridades. O software será projetado para sinalizar alterações como discursos fabricados, alteração digital de expressões faciais, clonagem de voz e casos em que imagens reais foram editadas seletivamente ou combinadas com imagens não relacionadas para alterar seu significado.
Atualmente, a principal plataforma de gestão eleitoral da ECI, a ECINET, não possui nenhum mecanismo integrado para autenticar ou identificar conteúdos digitais manipulados, como deepfakes ou meios de comunicação gerados por IA.
A iniciativa faz parte dos esforços mais amplos da Comissão para reforçar a preparação institucional para o papel crescente da inteligência artificial na política eleitoral. Os responsáveis de TI da ECI afirmaram que as ferramentas de IA podem ser utilizadas para manipular o discurso público, criando conteúdos políticos realistas mas falsos, fazendo-se passar por candidatos ou apresentando declarações genuínas num contexto enganoso.
Espera-se que o sistema de detecção proposto ajude os funcionários eleitorais a verificar a autenticidade do conteúdo viral e a identificar casos em que material genuíno tenha sido editado, cortado selectivamente ou combinado com elementos não relacionados para criar desinformação.
A iniciativa também está ligada a um plano mais amplo em consideração no IIIDEM para construir capacidade institucional a longo prazo em IA e eleições, incluindo investigação, programas de formação e a eventual criação de um centro de conhecimento global sobre riscos eleitorais relacionados com a IA.
A reunião ocorre no momento em que Bengala Ocidental, Tamil Nadu, Kerala, Assam e o Território da União de Puducherry se preparam para as eleições parlamentares nos próximos meses, levantando preocupações na Comissão sobre o uso crescente de ferramentas de inteligência artificial para criar conteúdo político enganoso. As autoridades eleitorais são particularmente cautelosas com vídeos profundamente falsos, clipes de áudio sintéticos e imagens falsas que podem deturpar os candidatos, fabricar alegações ou criar falsos endossos.
