A IA não tropeça por causa de algoritmos ruins. É um obstáculo porque as pessoas não confiam.
À medida que as empresas dependem agora da IA para impulsionar o crescimento, a confiança na tecnologia está a diminuir. A nossa pesquisa mostra que 71% das organizações ainda hesitam em confiar em agentes autónomos em ambientes empresariais.
Para uma ferramenta considerada o próximo mecanismo de produtividade, isso representa uma crise de confiança escondida à vista de todos.
O artigo continua abaixo
Vice-presidente de Analytics e IA da Capgemini Invent.
Lacuna de confiança na linha de frente
Para que a IA forneça um ROI real e escalável, ela não pode ficar apenas em um laboratório de inovação. Deve estar integrado nas decisões e fluxos de trabalho diários que mantêm o crescimento do negócio. Mas as pessoas que fazem este trabalho diário são, ironicamente, as menos convencidas.
A Harvard Business Review descobriu recentemente que o uso de ferramentas fornecidas pelo empregador pelos funcionários caiu 15% entre fevereiro e julho deste ano. Quando a IA parece opaca ou não testada, os funcionários tendem a evitá-la. Pior ainda, eles recorrem às suas próprias ferramentas de IA “sombra”
A pesquisa da Capgemini mostra que 63% dos profissionais de software que usam IA criativa hoje o fazem com ferramentas não autorizadas ou de maneira não regulamentada. Isso introduz ameaças à segurança, lacunas de conformidade e resultados inconsistentes, o que acaba retardando a adoção bem-sucedida.
Quando a confiança é desgastada na linha da frente, as organizações não conseguem avançar para além da fase experimental, por mais avançados que sejam os seus modelos.
Excesso de confiança sem justificativa
A questão da confiança tem ambos os lados. Há muita confiança, ou melhor, nos lugares errados. A IDC relata que um terço das empresas do Reino Unido afirma “confiar totalmente” na IA.
No entanto, muitas destas organizações não implementaram salvaguardas básicas: governação, controlos de dados, quadros de risco ou supervisão ética. Por outras palavras, dependem mais da tecnologia do que da sua infra-estrutura.
O desequilíbrio é perigoso. As organizações avançam com experimentações que ultrapassam a maturidade da IA, sem preconceitos ou planejamento de conformidade. E num ambiente regulamentar moldado por quadros como a Lei da IA da UE, o custo do julgamento erróneo pode ser grave – até 7% das receitas globais resultantes da utilização indevida de alto risco.
Corrigindo o problema de confiança na raiz
A IA tradicional sempre exigiu governança. Mas a IA criativa, com a sua criatividade, imprevisibilidade e risco de alucinação, exige mais intencionalidade do que nunca. Construir confiança requer uma abordagem holística que combine governança, cultura, treinamento e colaboração intencional entre humanos e IA.
A governação não pode ser considerada uma reflexão tardia, vinculada quando a implementação estiver concluída. Deveria ter ajustado o design desde o primeiro dia. As organizações devem estabelecer estruturas claras para a gestão do ciclo de vida do modelo, proveniência dos dados, avaliação de riscos, explicabilidade, supervisão humana e monitorização contínua e garantia de qualidade.
Embora a lista possa parecer longa, uma governação forte deve ser vista como uma vantagem competitiva e não como um obstáculo. Feito da maneira certa, acelera a inovação, tornando o dimensionamento seguro, previsível e confiável.
Crie uma IA que reflita os valores humanos
Não podemos esperar que as pessoas confiem naquilo que não entendem, e nem deveriam confiar.
A confiança vem da clareza. Ela prospera quando os funcionários entendem como a IA funciona, por que recomenda determinados resultados e como ela se alinha aos valores organizacionais. Portanto, a governação deve ir além das considerações técnicas. A ética humana deve estar integrada na pilha de IA tão firmemente quanto as métricas de desempenho.
Quando as pessoas reconhecem os seus princípios (como justiça e transparência) refletidos no comportamento da IA, a adoção torna-se um passo natural e não um ato de fé.
Capacitar os funcionários com habilidades e confiança
A IA é mais eficaz quando as pessoas sabem como usá-la. Treinamento abrangente, novas definições de funções (como supervisores de IA e especialistas em regime humano) e uma abordagem baseada em habilidades ajudam os funcionários a se sentirem capacitados.
Para conseguir isto, a colaboração humano-IA deve ser concebida deliberadamente. Estruturas de tomada de decisão, caminhos de escala, transferências de tarefas; todas essas são complexidades que exigem mapas.
Embora os agentes autônomos conduzam processos de ponta a ponta, os humanos são responsáveis por fornecer orientação, manter a proteção e garantir resultados bem-sucedidos.
Dos pilotos ao ROI empresarial
O caminho para o ROI da IA passa pela escala, e a escala só acontece quando os fundamentos são sólidos.
Hoje, muitas vezes faltam esses fundamentos. Muitas organizações estão presas no modo piloto, conduzindo experimentos isolados sem a arquitetura de dados, a governança ou o gerenciamento de mudanças necessários para escalar.
Uma pesquisa recente da Microsoft destaca que os líderes de IA que alcançam um ROI acima do “atrasado” se distinguem por sua estratégia coerente e consistente.
Os líderes devem aceitar que a construção de tal estratégia leva tempo. A confiança não se constrói da noite para o dia. Um roteiro passo a passo alinhado aos valores de seu pessoal sempre superará a pressa de lançar o modelo mais recente deste mês.
Um futuro construído na confiança
A IA não alcançará o seu potencial empresarial apenas através da inovação técnica. Requer transformação cultural, inovação em governação e um compromisso renovado para construir sistemas onde as pessoas realmente queiram trabalhar.
A confiança é a base do ROI escalonável. Ignore isso e sua estratégia de IA se transformará em uma bomba-relógio. Mas quando as organizações investem nas proteções, competências e valores corretos, a IA torna-se aquilo que sempre foi concebida para ser: um parceiro de confiança na construção do futuro.
Apresentamos o melhor software de automação de TI.
Este artigo foi produzido como parte do canal Expert Insights da TechRadarPro, onde apresentamos as melhores e mais brilhantes mentes da indústria de tecnologia atualmente. As opiniões expressas aqui são de responsabilidade do autor e não necessariamente da TechRadarPro ou Future plc. Caso tenha interesse em participar, mais informações aqui:
