- A ferramenta GenAI “Bob” da IBM é vulnerável a ataques de injeção indireta em testes beta
- CLI apresenta riscos imediatos de injeção; Dados específicos do IDE AI expostos a vetores de infiltração
- A exploração requer permissões “sempre permitir”, permitindo scripts de shell arbitrários e implantação de malware.
A ferramenta Generative Artificial Intelligence (GenAI) da IBM, Bob, é vulnerável ao mesmo vetor de ataque perigoso que a maioria das outras ferramentas semelhantes: injeção indireta.
A injeção indireta de prompt permite que a ferramenta de IA leia o conteúdo encontrado em outros aplicativos, como e-mail ou calendário.
Um ator mal-intencionado pode enviar um e-mail aparentemente benigno ou uma entrada de calendário que contém um prompt oculto que instrui a ferramenta a fazer coisas nefastas, como exfiltrar dados, baixar e executar malware ou definir persistência.
Licenças perigosas
Recentemente, os pesquisadores de segurança Prompt Armor publicaram um novo relatório, dizendo que o agente de codificação da IBM, que está atualmente em beta, pode ser acessado via CLI (um agente de codificação baseado em terminal) ou IDE (um editor alimentado por IA). A CLI é vulnerável à injeção imediata, enquanto o IDE é vulnerável a “vetores conhecidos de exfiltração de dados específicos de IA”.
“Decidimos tornar este trabalho público para garantir que os usuários estejam cientes dos riscos agudos do uso do sistema”, afirmaram. “Esperamos que proteções adicionais estejam disponíveis para a versão General Access do IBM Bob para lidar com esses riscos”.
Há uma grande advertência aqui, no entanto. Para que os invasores aproveitem esse vetor de ataque, os usuários devem configurar Bob para conceder permissões amplas. Ou seja, a permissão ‘sempre permitir’ deve estar habilitada – para qualquer comando.
Isso é bastante tempo, mesmo para usuários inseguros. Como a ferramenta ainda está em beta, não sabemos se essa permissão está habilitada por padrão, mas duvidamos que esteja.
No entanto, Prompt Armor afirma que a vulnerabilidade permite que os agentes de ameaças forneçam uma carga útil de script de shell arbitrário às vítimas, aproveitando variantes de malware populares e personalizadas para realizar vários ataques cibernéticos, como ransomware, roubo de credenciais, spyware, sequestro de dispositivos, assimilação de botnet e muito mais.
a estrada; PromptArmor
O melhor antivírus para cada orçamento
Siga o TechRadar no Google Notícias e adicione-nos como sua fonte padrão para receber notícias, opiniões e opiniões de nossos especialistas em feeds. Certifique-se de clicar no botão Continuar!
E é claro que você também pode Siga o TechRadar no TikTok para receber novidades, análises, unboxings em formato de vídeo e receber atualizações constantes nossas WhatsApp também
