- Gartner advierte a las organizaciones que no bloqueen los navegadores con IA
- Los rastreadores de IA pueden comprometer datos, filtrar información financiera y transmitir credenciales
- Los empleados pueden utilizar navegadores de IA para completar la formación en ciberseguridad
La firma de analistas Gartner ha aconsejado a las organizaciones que bloqueen el uso de navegadores de IA, advirtiendo sobre el riesgo de exposición de datos o acciones autónomas al operar navegadores en sitios web maliciosos.
La observación clave hecha por el vicepresidente investigador Dennis Xu, el director senior analista Evgeny Mirolyubov y el vicepresidente analista John Watts fue: “La configuración predeterminada del navegador de IA prioriza la experiencia del usuario sobre la seguridad”.
Los rastreadores de IA, como ChatGPT Atlas de OpenAI, se utilizan a menudo para aumentar la eficiencia mediante la navegación, el flujo de trabajo y la recopilación de datos autónomos, pero los sitios web maliciosos pueden engañarlos para que recopilen y transfieran información confidencial, como detalles de cuentas bancarias, credenciales y correos electrónicos.
“Feliz de hackearte “
Los analistas de Gartner resumieron un agente de navegador para incluir dos características clave:
- La capacidad de interactuar con contenido web utilizando el modelo de inteligencia artificial del desarrollador, proporcionando funciones como resumen de contenido, recopilación de datos, traducción y capacidades de búsqueda.
- La capacidad de realizar tareas de forma autónoma en sitios web, especialmente dentro de sesiones autenticadas.
Muchos agentes de navegador no admiten el uso de funciones de IA en un LLM local, lo que significa que los datos del usuario, desde el contenido web hasta el historial de navegación y las pestañas abiertas, “a menudo se envían a un servidor de IA basado en la nube, lo que aumenta el riesgo de exposición de los datos a menos que las configuraciones de seguridad y privacidad se refuercen deliberadamente y se gestionen de forma centralizada”.
En última instancia, depende de cada organización evaluar los servicios backend del navegador de IA para ver si cumplen con las políticas de protección de datos y ciberseguridad de una organización. Pero incluso si se superan, se pueden utilizar de una manera que genere más riesgos para la organización.
En este caso, el propio usuario puede proporcionar información confidencial innecesaria al navegador, manteniendo los datos confidenciales abiertos en la misma ventana del navegador web mientras utiliza el asistente de inteligencia artificial del navegador.
Además, debido a que los agentes del navegador pueden realizar acciones de forma autónoma, Gartner advierte que los empleados “pueden verse tentados a utilizar navegadores de IA y automatizar ciertas tareas obligatorias, repetitivas y menos interesantes”, como la capacitación en ciberseguridad.
Gartner sugiere que las organizaciones que continúan usando agentes de navegador “deberían informarse de que todo lo que ven se puede enviar al backend del servicio de IA para garantizar que no tengan datos confidenciales activos en la pestaña del navegador mientras usan la barra lateral del navegador de IA para acortar o realizar otras acciones autónomas”.
Al comentar sobre el consejo de Gartner, Javvad Malik, director senior de concienciación sobre seguridad en KnowBe4, dijo:
“Las funciones de IA han introducido una presión sobre la ciberseguridad, y la gente necesita evaluar el equilibrio entre productividad y riesgos de seguridad. Si bien los agentes de navegador prometen muchas funciones para mejorar la experiencia del usuario, todavía estamos en las primeras etapas, donde los riesgos no se comprenden bien y las configuraciones predeterminadas priorizan la conveniencia sobre la seguridad, algo que vemos en muchas tecnologías”.
“Sin embargo, las prohibiciones generales rara vez son una estrategia sostenible a largo plazo. En cambio, la atención debe centrarse en evaluaciones de riesgos que evalúen los servicios de IA específicos que impulsan estos navegadores. Esto puede permitir una adopción medida mientras se mantiene la supervisión necesaria. A medida que encontramos más y más agentes de IA ingresando a todos los aspectos de la tecnología, las organizaciones necesitan tener folletos para evaluar y proteger a sus agentes, sus necesidades y su apetito por el riesgo”.
A través de registro
Las mejores computadoras portátiles empresariales para cada presupuesto
