- Unidade 42 alerta que GenAI permite sites de phishing dinâmicos e personalizados
- LLMs geram cargas JavaScript exclusivas, ignorando os métodos tradicionais de detecção
- Pesquisadores pedem proteções mais fortes, prevenção de phishing e uso limitado de LLM no local de trabalho
Quando a Inteligência Artificial Generativa (GenAI) foi criada, os primeiros pensadores discutiam websites dinâmicos: sites que não são concebidos e expostos antecipadamente, mas onde os visitantes são criados no local, com base na sua localização, palavras-chave utilizadas, hábitos de navegação, dispositivo utilizado, intenção, etc.
A era dos sites estáticos está quase no fim e em breve o conteúdo que veremos na internet será único e feito sob medida só para nós.
Embora este sonho ainda não tenha sido concretizado, os pioneiros desta abordagem serão provavelmente os cibercriminosos.
Não é exatamente teórico
Pesquisadores de segurança do braço 42 da Palo Alto Networks descobriram que essa técnica pode ser facilmente usada em phishing.
Em poucas palavras, veja como funcionaria:
Uma vítima seria vítima de phishing para visitar uma página da web aparentemente benigna. Ele não contém nenhum código malicioso visível, mas, uma vez carregado, envia prompts cuidadosamente elaborados para uma API LLM legítima. O LLM traduz o código JavaScript (que é único e diferente para cada usuário), que é então montado e executado diretamente no navegador.
Como resultado, as vítimas recebem uma página de phishing totalmente funcional e personalizada, criada sem carga estática na web, que pode ser interceptada e analisada pelos pesquisadores.
Embora o método seja atualmente principalmente uma prova de conceito, também não é puramente hipotético. A Unidade 42 não afirmou ter visto tais ataques na natureza, mas observou que estão sendo usados blocos de construção.
LLMs já estão criando JavaScript ofuscado, embora offline; o uso do tempo de execução em máquinas comprometidas é onipresente; As campanhas de malware, ransomware e ciberespionagem apoiadas por LLM estão aumentando a cada dia.
As páginas de phishing geradas dinamicamente são o futuro da fraude, enfatizou a Unidade 42, mas acrescentou que a detecção é possível através de navegadores aprimorados baseados em navegador.
“As defesas também devem limitar a utilização de serviços LLM não aprovados nos locais de trabalho. Embora esta não seja uma solução completa, pode servir como uma importante medida preventiva”, acrescentaram.
“Finalmente, nosso trabalho ressalta a necessidade de barreiras de segurança mais fortes nas plataformas LLM, pois mostramos que uma engenharia cuidadosa pode contornar as proteções existentes e permitir o uso malicioso.”
O melhor antivírus para cada orçamento
Siga o TechRadar no Google Notícias e adicione-nos como sua fonte padrão para receber notícias, opiniões e opiniões de nossos especialistas em feeds. Certifique-se de clicar no botão Continuar!
E é claro que você também pode Siga o TechRadar no TikTok para receber notícias, análises, unboxings de vídeos e receber atualizações nossas WhatsApp também
