A implantação da inteligência artificial para as pessoas precisa de superar o hype para que o “sucesso do painel” não se transforme num “fracasso do bem-estar”, disse o chefe de uma das principais organizações de investigação económica do mundo, alertando que a expansão de soluções de inteligência artificial não comprovadas poderia causar danos reais, e não apenas desperdiçar dinheiro.
Enquanto legisladores, pesquisadores e líderes tecnológicos se reúnem para discutir “IA para o bem social” no segundo dia da Cúpula da Índia sobre o Impacto da Inteligência Artificial em Nova Delhi, na terça-feira, Iqbal Dhaliwal, diretor executivo global do Laboratório Anti-Pobreza Abdul Latif Jamil (J-PAL), disse que a atual obsessão com downloads de aplicativos e registros de bate-papo ameaça obscurecer o objetivo final: melhorar a vida das pessoas. Pior ainda, corre o risco de perpetuar a desigualdade, minar a confiança do público na tecnologia e excluir o julgamento humano crítico.
“O envolvimento é importante… mas é uma condição necessária – não é uma condição suficiente”, disse Dhaliwal ao HT na segunda-feira. “A condição suficiente não mudou… (é) o impacto.”
A J-PAL lançará o AI Evidence Playbook, um guia para orientar os funcionários públicos na implementação responsável da inteligência artificial. O compêndio fornece lições de pesquisas globais para alinhar a implementação da IA com evidências rigorosas.
“Armadilha do Engajamento”
A cautela de Dhaliwal baseia-se no que ele chama de “armadilha do engajamento”, em que altas taxas de utilização mascaram a incapacidade de proporcionar benefícios reais. Ele citou um chatbot de IA baseado no WhatsApp para empreendedores quenianos que atraiu 85% dos usuários.
“Grande envolvimento… mas os ganhos ou receitas não parecem ter aumentado”, observou Dhaliwal. “Saber que as pessoas estão interagindo com o bot… não mostra nenhum impacto nos resultados reais.”
Além de medir se a IA está funcionando, Dhaliwal enfatizou a avaliação da relação custo-eficácia e do impacto distributivo. “É eficaz? Em segundo lugar, é rentável?” ele perguntou. “No final das contas, inicialmente todo mundo oferece essas coisas de graça, mas os dados e as consultas custarão dinheiro e terão consequências ambientais”.
Não menos importante é a questão de quem se beneficia com isso. “Isso beneficia a todos ou o impacto médio é determinado por algumas pessoas?” disse ele, observando que os resultados podem ser alcançados por empresas já de alto desempenho, e não pelas mais necessitadas.
Já podemos ver o setor de desenvolvimento
Dhaliwal descreveu a actual campanha publicitária sobre a IA como parte de um padrão familiar de frustrações no sector do desenvolvimento. “Tem sido sempre uma armadilha no sector do desenvolvimento”, disse ele, referindo-se ao microfinanciamento e ao One Laptop Per Child.
“O microfinanciamento deveria resolver todos os nossos problemas – expandir as oportunidades das mulheres, aumentar os seus rendimentos, reduzir os choques de saúde”, lembrou. “Descobrimos que o microfinanciamento é benéfico. Pode aumentar o rendimento, mas não conduzirá automaticamente a outras coisas.”
Da mesma forma, o projeto One Laptop per Child teve como objetivo melhorar a educação e ajudar as crianças a aceder a programas sociais. “Isso simplesmente não funciona porque as relações inversas e futuras de como isso vai acontecer no campo não vão acontecer”, disse ele.
O perigo não reside apenas no desperdício de dinheiro, mas também nos danos activos. A ampliação de soluções ineficientes pode consolidar a desigualdade ou impedir o julgamento humano crítico. Ele destacou os programas de saúde mental como uma preocupação particular, alertando contra a substituição de conselheiros por algoritmos simplesmente porque são escassos.
“Em vez de um médico, agora é um relacionamento individual entre a IA e o paciente. Isso pode diminuir muito rapidamente”, disse ele.
Embora um médico de ponta da AIIMS possa filtrar “alucinações” de uma ferramenta de IA, uma enfermeira em um centro de atenção primária em Bihar ou Uttar Pradesh pode se sentir compelida a seguir “conselhos do departamento”, potencialmente causando danos se a IA errar.
Os riscos estendem-se ao enfraquecimento da confiança do público na tecnologia. Dhaliwal ilustrou isto com o exemplo dos extensionistas agrícolas – tradicionalmente poucos mas valiosos conselheiros que visitaram as explorações agrícolas, recomendaram tratamentos e, fundamentalmente, regressaram para verificar os resultados.
“O extensionista agrícola voltava uma semana depois e dizia ‘kuch farak pada?’ (isso importava?), explicou Dhaliwal. “Se um agricultor disser ‘ye to aur kharab ho gaya’ (piorou), ele resolverá o problema rapidamente.”
Agora imagine um programa de inteligência artificial dando conselhos errados usando diagnósticos baseados em fotos. “O que acontece se você der a eles o conselho errado (e) algo ruim acontecer? Que tal confiar na tecnologia? Eles voltarão para você ou não?”
Índia como capital da evidência
Apesar das advertências, Dhaliwal vê a Índia como uma pessoa singularmente posicionada para resolver este enigma global. Enquanto o Ocidente luta com sistemas legados fragmentados, a Infraestrutura Pública Digital (DPI) da Índia, incluindo Aadhaar e UPI, transformou-a na “Capital Mundial da IA”.
“A diferença entre vir para a Índia e ver o trabalho do DPI e ir para outro país de rendimento baixo e médio é fenomenal”, disse Dhaliwal. “A digitalização e os dados disponíveis na Índia estão disparando.”
Esta autoestrada digital permite à Índia realizar ensaios aleatórios (ECR) rápidos e de baixo custo para testar se as ferramentas de IA realmente funcionam.
Velocidade versus gravidade
Dhaliwal reconheceu que a tensão entre a avaliação rigorosa e os prazos políticos não é nova. “Durante meus 16 anos no J-PAL, qual tem sido uma pergunta comum? “Isso vai demorar muito. Precisamos implementá-lo agora”, disse ele.
A pressão vem de várias fontes: eleições próximas, remodelações burocráticas (os funcionários querem resultados antes do final dos seus mandatos de 18 meses) e ciclos orçamentais que exigem gastos até 31 de março.
A sua resposta: “Desacelere não porque não nos importamos com os pobres, mas porque nos preocupamos com os pobres e realmente queremos que eles tenham resultados.”
Mas ele rejeitou a premissa. Graças à infraestrutura digital da Índia, a avaliação é agora “muito mais rápida”. “Agora podemos capturar dados sobre hospitalizações, resultados de aprendizagem e produtividade dos agricultores de forma muito mais digital”, o que permite resultados preliminares mais rápidos.
Um aumento, não uma substituição
Dhaliwal argumentou que, para o Sul Global, a IA precisa de ser implementada para salvar as pessoas do trabalho árduo, e não para substituí-las.
Ele apontou o Letrus, ferramenta de avaliação brasileira com inteligência artificial que faz trabalhos mecânicos como verificação ortográfica e gramatical para testes padronizados. Isso permitiu que os professores se concentrassem na orientação. “Tira fora de questão o papel do avaliador… (liberando) o professor para sentar com você… e pensar na forma analítica como você abordou o problema”, explicou.
Da mesma forma, a inteligência artificial pode corrigir os preconceitos humanos na cobrança de impostos. No Senegal – um contexto semelhante a áreas como Vasant Kunj – os inspectores fiscais muitas vezes “subvalorizam” as casas ultraluxuosas porque não conseguem imaginar o custo dos acabamentos de alta qualidade.
A lista de verificação de um burocrata
Dhaliwal, um antigo funcionário do IAS, propôs na cimeira uma “lista” pragmática para magistrados e conservadores distritais. Ele exigiria respostas a três perguntas antes de assinar qualquer contrato com a AI.
Primeiro, uma teoria da mudança: “A nossa teoria da mudança é a de que o professor é redundante, ou… que o professor está a fazer coisas que são inúteis e que podem ser automatizadas para se concentrarem no lado mais analítico do ensino?”
Em segundo lugar, os dados de formação: “Será que descarregaram os dados de formação dos EUA ou os dados de formação vêm da Índia? Porque isso determinará completamente, especialmente em termos de resultados de saúde… Sofremos durante muitos anos porque muitos destes ensaios foram realizados no Ocidente.”
Por fim, confiabilidade em campo: “Como vai funcionar em campo? Já dei exemplos de máquinas que vão cair… Internet e energia elétrica continuam acabando”.
“Eu faria todas essas perguntas com muito rigor”, concluiu Dhaliwal. “E depois disso eu diria… ‘Vamos testar isso por três, quatro, cinco meses. Vamos dar uma olhada nisso… e se for o caso, vamos fazer isso.”
Dhaliwal explicou que nem toda aplicação precisa de ensaios randomizados rigorosos. Testes A/B simples funcionam para aplicativos que lidam com faturamento, classificações pós-engajamento ou rastreamento de retorno de chamada.
