Dentro das suítes executivas, a conversa sobre IA mudou.
A questão não é mais se devemos ou não adotar a inteligência artificial. Quão rigorosa e segura é a implantação em toda a empresa? em muitas indústrias, os benefícios percebidos cresceram além das vantagens adicionais. Os líderes veem a IA não como um recurso. Mas é cada vez mais um ponto de viragem estrutural.
“Existe a percepção de se isso é certo ou errado. As apostas certas na IA estão aí”, disse Keith Enright, sócio e copresidente do grupo de inovação tecnológica da Gibson Dunn e ex-diretor global de privacidade do Google, durante uma sessão recente sobre IA. Semana de notícias Série de webinars AI Agenda apresentada por Suraj Srinivasan, professor da Harvard Business School “A velocidade é essencial para a sobrevivência.”
Esse enquadramento tem consequências profundas. Se velocidade fosse sinônimo de sobrevivência Um sistema projetado para desacelerar uma organização começa a parecer um risco.
Mas a governação existe por uma razão.
“Essas coisas são criadas para desacelerar as coisas, para que não cometamos grandes erros”, disse Srinivasan em um bate-papo na web. Refere-se às estruturas de conformidade e governança dentro das empresas. Os mecanismos de governança corporativa não são conflitos acidentais. É um recurso de design deliberado destinado a introduzir a deliberação na tomada de decisões de alto risco.
A inteligência artificial está agora testando esses projetos.
Armadilha da dívida de conformidade
Quando a IA se tornar um imperativo estratégico anunciado, a pressão diminuirá rapidamente. A placa precisa de aceleração. O CEO impulsiona a adoção em toda a empresa. Os líderes de produto foram orientados a agir. E as equipas jurídicas e de conformidade estão a ser alertadas para não sufocarem a inovação.
Essa combinação cria uma tentação previsível.
“Se você tiver uma organização de governança e conformidade e um ambiente político muito estáveis dentro da empresa”, adverte Enright, “a solução mais clara e simples… é criar um curto-circuito”.
Em vez disso, as iniciativas de IA são encaminhadas através de canais de revisão estabelecidos. As organizações estão encontrando outros caminhos, como a substituição de executivos. Assinatura expressa Aprovações simplificadas Parece útil. Mantém a velocidade Sinaliza um compromisso com a inovação.
Também separa a governança.
Quando as decisões ultrapassam as regras regulamentares normais, os líderes perdem a consciência situacional. O risco se acumula na bolsa. As compensações ocorrem sem uma visão consistente do risco global.
O resultado é uma dívida de conformidade. Trata-se de uma acumulação de riscos não geridos que não ocorrem imediatamente. Mas isso acontece continuamente ao longo do tempo. Isto é especialmente verdadeiro quando a inteligência artificial está incorporada nos sistemas de RH. Ferramentas de preços Plataforma de marketing Etapas de trabalho de atendimento ao cliente e ferramentas de otimização interna
nesse ambiente A supervisão de um curto-circuito não é um desvio único. Torna-se estruturalmente frágil.
Em muitos casos, os problemas começam antes da implantação da IA.
“Se você usar novas ferramentas tecnológicas e especialmente agora, a IA vai além do conhecimento confuso e não regulamentado. Isso inclui políticas conflitantes e conteúdo desatualizado sem propriedade clara. Você realmente não se move tão rápido”, disse Philip Brittan, CEO da Bloomfire, uma plataforma de inteligência empresarial. Semana de notícias Numa entrevista recente “Você está acelerando em direção a um problema que não verá até que se torne muito caro resolvê-lo”.
A alternativa é mais difícil, porém mais durável: desenvolver suas próprias ferramentas de compliance. Aumente a carga de trabalho Melhore a coordenação multifuncional Calibre os processos de avaliação de risco para ambientes de maior velocidade.
“Quanto mais rápido o carro, melhor. Quanto mais freios, melhor você quer”, disse Srinivasan durante a sessão. Semana de notíciasSeminários on-line
A parábola é instrutiva. Os sistemas de alto desempenho não eliminam a frenagem mecânica. Eles os fortalecem. Uma governação que não consegue agir com rapidez não é relevante. E a supervisão que é completamente contornada torna-se perigosa.
“As organizações que vi avançando mais rapidamente estabeleceram sistemas de governança desde o início. Até que se tornem uma estrutura de permissão em vez de limitações.” Paul McDonagh-Smith disse professor sênior da MIT Sloan School of Management. Semana de notícias.
“O governo é um andaime: as condições estruturais que tornam possíveis experiências ambiciosas sem colapso sistemático.”
Propriedade sem clareza
A pressão pela rapidez revela também uma segunda tensão estrutural: a responsabilidade.
As organizações responderam criando novos cargos, como diretores de IA, conselhos de governança de IA e forças-tarefa multifuncionais. A intuição é compreensível. Quando o risco se espalha por uma organização, as empresas procuram uma propriedade clara.
Mas a inteligência artificial complica as estruturas organizacionais tradicionais.
“(IA) abrange todos os domínios, todas as funções de negócios”, disse Enright. “É um impulsionador estratégico de negócios, é um enorme impulsionador de risco.”
Essa dualidade complica o design organizacional. Se todos corressem riscos de IA, ninguém o faria. Mas e se for atribuída responsabilidade a um único executivo sem a autoridade correspondente? Esse papel se tornará icônico.
As crises de liderança são frequentemente causadas por “existe uma lacuna significativa entre aquilo pelo que as pessoas são responsáveis e o que elas têm o poder e a capacidade… de fazer”, observa Enright.
O desafio aumenta à medida que a IA se espalha por diferentes áreas. das organizações modernas
“As aplicações de IA são muito mais amplas do que apenas uma pessoa ou uma pequena equipe, sendo responsabilidade exclusiva de toda a empresa”, disse Matt Kunkel, CEO e cofundador da plataforma de governança LogicGate. Semana de notícias.
A governança da IA amplia essa lacuna. Os líderes de produto querem autonomia. A equipe jurídica precisa de uma proteção. E o conselho precisa de confiança. Poucos executivos estão ansiosos para se tornarem. Como diz Enright, ele é o único “homem de vida ou morte”. Para que a tecnologia mude junto com a outra e não possa ser prevista
Pode não haver um único projeto corporativo bonito. O que importa é o alinhamento: responsabilidade combinada com poder. O poder corresponde aos recursos. e supervisão integrada multifuncional Em vez de serem separados
Os nomes por si só não colmatarão a lacuna de governação. A estrutura deve seguir a estratégia.
Limitações de Notificação e Consentimento
Além do design de interiores, há um desafio estrutural mais profundo: grande parte da legislação moderna sobre privacidade é baseada no consentimento informado. A IA filtra essa base.
Durante décadas, a conformidade digital dependeu de evidências concretas. Se a empresa informar aos usuários como seus dados são utilizados e obter seu consentimento. O processamento será legal. Este modelo está incompleto. Mas também serve como âncora jurídica.
Enright concluiu que a âncora estava solta há muitos anos.
“Como as nossas vidas são cada vez mais mediadas por milhares de tecnologias complexas”, disse ele, “a ideia de que cada uma dessas interações… Deveria haver um momento perturbador em que eles explicassem o que aconteceu e pedissem o seu consentimento para destruir tudo”.
A IA, por outro lado, intensificou mais uma vez essas tensões. Os sistemas baseados em inferência não processam apenas pontos de dados individuais, derivando padrões, previsões e conclusões a partir de uma combinação de entradas. Informações confidenciais podem ser inferidas isoladamente de sinais aparentemente benignos. As estruturas de privacidade construídas em torno de categorias estáticas de dados pessoais lutam para acompanhar os sistemas que criam novo conhecimento a partir do comportamento agregado.
É improvável que a solução tenha mais visibilidade ou caixas de seleção adicionais. Transferir completamente a carga para os utilizadores individuais não é prático nem eficiente.
A governação na era da IA, por outro lado, exige cada vez mais julgamentos baseados em princípios dentro das instituições, tais como processos internos deliberados que possam pesar os benefícios contra os danos. e oportunidades para ignorar riscos
Em outras palavras, freios.
Teste real
A inteligência artificial apresenta oportunidades intensas e sem precedentes. Também cria volatilidade e stress estrutural nas organizações, o que contribui para ciclos mais lentos de mudança tecnológica.
O verdadeiro teste à governação não é saber se as empresas podem abrandar a inovação? Cabe a eles decidir se podem mantê-lo ou não.
A velocidade não estruturada cria fragilidade. Estruturas que não têm capacidade de adaptação levam à estagnação. A tarefa dos líderes é redesenhar os sistemas internos para que a agilidade e a responsabilidade se reforcem, em vez de se enfraquecerem.
Nem todas as ferramentas são novas, as instituições já passaram por mudanças disruptivas antes. Foi desenvolvida uma visão geral regulamentar. Os mecanismos de governação foram recalibrados.
“Sabemos como fazer freios”, disse Srinivasan.
A questão é: as empresas investirão em atualizações antes que a curva se intensifique?
As empresas irão avançar de uma forma ou de outra, de acordo com Enright, e o avanço pode não ser negociável. Mas a durabilidade não acontece automaticamente.
Na era da IA, a verdadeira resiliência pertencerá às organizações que tratam da boa governação, e não aos obstáculos que são evitados. Mas é a infraestrutura para modernizar. Forte o suficiente para lidar com a velocidade, flexível o suficiente para se adaptar E é confiável o suficiente para resistir ao escrutínio quando ele inevitavelmente chegar.
