En el panorama digital actual, ha emergido una nueva amenaza cibernética conocida como 'Man in the Prompt', que destaca la necesidad de una vigilancia constante en la era de la inteligencia artificial (IA). Este ataque explota las extensiones del navegador para manipular las interacciones entre los usuarios y las herramientas de IA, como ChatGPT y Google Gemini, comprometiendo la seguridad de la información sensible.
La vulnerabilidad radica en la integración de los campos de entrada de texto de los chatbots en el Document Object Model (DOM) de las páginas web. Esto permite que cualquier extensión del navegador con acceso al DOM pueda leer o modificar lo que los usuarios escriben en los prompts de IA, incluso sin permisos especiales. Investigaciones han demostrado la viabilidad de estos ataques, mostrando cómo una extensión con permisos mínimos puede inyectar un prompt en ChatGPT, extraer la respuesta de la IA y eliminar el historial de chat del usuario. En el caso de Google Gemini, la vulnerabilidad se extiende a la integración con Google Workspace, permitiendo el acceso y la exfiltración de datos sensibles, como correos electrónicos y contactos, incluso cuando la barra lateral de Gemini está cerrada.
Este tipo de ataques subraya la importancia de una estrategia de seguridad proactiva. Se recomienda monitorear las interacciones del DOM dentro de las herramientas de IA, bloquear extensiones riesgosas y prevenir la manipulación de prompts y la exfiltración de datos en tiempo real a nivel de navegador. La aparición de los ataques 'Task-in-Prompt' (TIP) añade otra capa de complejidad, ya que incorporan tareas específicas en los prompts para eludir las salvaguardas de los modelos de lenguaje, resaltando la necesidad urgente de estrategias de defensa más sofisticadas.
La información que consumimos impacta directamente en nuestra realidad y bienestar. Al elegir conscientemente qué leemos, vemos y escuchamos, podemos influir en la realidad que deseamos crear. La seguridad en línea es un reflejo de nuestra propia capacidad de discernimiento y protección.