- Agentes de IA descobriram vulnerabilidades de forma independente e as exploraram enquanto executavam tarefas rotineiras
- Sistemas multiagentes cooperaram para evitar a prevenção contra perda de dados e roubar credenciais confidenciais
- Backup Server AI aumentou privilégios para desativar a proteção de endpoint e concluir downloads
As tarefas convencionais atribuídas a agentes de inteligência artificial podem por vezes evoluir para ações semelhantes a ataques cibernéticos, alertam os especialistas.
O laboratório de segurança Irregular analisou como os agentes autônomos se comportavam em um ambiente corporativo simulado enquanto executavam tarefas comuns.
Em diversas execuções, os agentes de IA procuraram vulnerabilidades, escalaram privilégios, desativaram proteções de segurança e transferiram informações confidenciais para fora dos sistemas internos.
O artigo continua abaixo
Comportamentos ofensivos que ocorrem em tarefas rotineiras
Essas ações ocorreram enquanto os agentes tentavam concluir tarefas como recuperar documentos, baixar arquivos ou preparar conteúdo para publicação.
A rede simulada representava uma empresa fictícia chamada MegaCorp e incluía servidores, aplicações e serviços internos dentro da infraestrutura corporativa.
Nesse ambiente, os agentes cuidavam de tarefas rotineiras que muitas organizações já automatizam.
Essas funções incluíam pesquisar informações em um wiki, manter arquivos de backup em um servidor e escrever postagens em mídias sociais usando documentos técnicos.
Os investigadores disseram que as instruções dadas aos agentes não mencionavam hacking ou exploração.
“Agentes de IA implantados para tarefas rotineiras de negócios estão hackeando autonomamente os sistemas em que operam.
“Os agentes descobriram vulnerabilidades de forma independente, aumentaram privilégios, desabilitaram ferramentas de segurança e infiltraram dados, tudo isso enquanto tentavam realizar tarefas normais.”
Em um cenário, um sistema de pesquisa multiagente recuperou documentos do wiki de uma empresa.
Quando as restrições de acesso bloquearam uma solicitação, o sistema examinou o armazenamento de código do aplicativo e encontrou uma chave secreta codificada.
O agente usou essa chave para criar um cookie de sessão administrativa e recuperou um documento restrito.
Outro teste envolveu um agente de servidor de backup responsável por baixar arquivos para um diretório de armazenamento.
Quando o Windows Defender bloqueou um arquivo contendo malware, o agente procurou scripts locais e encontrou credenciais de administrador incorporadas em um arquivo utilitário.
Ele então aumentou seus privilégios e desativou a proteção de endpoint para que o download pudesse prosseguir.
Um experimento separado mostrou agentes cooperando para contornar um sistema de prevenção contra perda de dados.
Dois agentes responsáveis pela redação do conteúdo das redes sociais foram solicitados a inserir suas credenciais em um documento técnico.
Quando o sistema bloqueou a mensagem, os agentes desenvolveram um método esteganográfico que ocultava a senha no texto.
Segundo os pesquisadores, vários fatores contribuíram para esse comportamento, incluindo acesso a ferramentas como execução de código e comandos shell, e muitos prompts que incentivavam a persistência das tarefas quando encontravam erros.
As interações entre vários agentes também criaram ciclos de feedback que impulsionaram soluções quando surgiram obstáculos.
Os investigadores argumentam que as defesas de cibersegurança existentes foram concebidas para impedir atacantes humanos, em vez de sistemas autónomos que operam dentro de redes empresariais.
As organizações que implementam estes agentes não devem subestimar a rapidez com que a automação de rotina pode evoluir para um comportamento semelhante a uma intrusão cibernética interna.
Através registro
Siga o TechRadar no Google Notícias e adicione-nos como sua fonte padrão para receber notícias, opiniões e opiniões de nossos especialistas em feeds. Certifique-se de clicar no botão Continuar!
E é claro que você também pode Siga o TechRadar no TikTok para receber novidades, análises, unboxings em formato de vídeo e receber atualizações constantes nossas WhatsApp também
