Los ciberdelincuentes están incorporando instrucciones ocultas en correos electrónicos de phishing para intentar manipular a los asistentes de inteligencia artificial utilizados en entornos empresariales. Una investigación de Barracuda Research ha identificado mensajes diseñados para atacar simultáneamente a las personas que los reciben y a los sistemas automatizados que procesan su contenido, mediante una combinación de ingeniería social e inyección de instrucciones maliciosas.

Esta modalidad, denominada por los investigadores ataque de «doble objetivo», aprovecha la incorporación de asistentes de IA a herramientas de correo electrónico capaces de resumir conversaciones, identificar tareas pendientes, clasificar mensajes y facilitar determinadas acciones.

El riesgo aparece cuando estos sistemas interpretan instrucciones procedentes de un correo externo como si fueran órdenes legítimas, en lugar de tratarlas únicamente como información que deben analizar.

Ad

Dos ataques diferentes dentro de un mismo correo electrónico

Según Barracuda Research, los mensajes fraudulentos contienen distintas capas de contenido. La primera está formada por el texto y las imágenes visibles para el destinatario, que pueden incluir solicitudes de pago, avisos empresariales o enlaces destinados al robo de credenciales. La segunda incorpora instrucciones dirigidas específicamente a los modelos de inteligencia artificial.

Estas indicaciones pueden esconderse en comentarios HTML, elementos con tamaño de fuente cero, texto blanco sobre fondo blanco, contenido codificado o archivos adjuntos protegidos. Aunque el usuario no perciba estas instrucciones al leer el mensaje, un asistente que procese su contenido podría encontrarlas e interpretarlas. La técnica se conoce como prompt injection o inyección de instrucciones y consiste en introducir órdenes maliciosas dentro de información que un sistema de IA recibe de fuentes externas.

Facturas fraudulentas y manipulación de decisiones empresariales

Uno de los escenarios identificados por Barracuda consiste en utilizar instrucciones ocultas para alterar los resúmenes automáticos de los correos. Por ejemplo, un mensaje puede incorporar una orden destinada a que el asistente genere una tarea de máxima prioridad solicitando actualizar los datos bancarios de un proveedor. De esta manera, los atacantes intentarían convertir una petición fraudulenta en una recomendación aparentemente legítima dentro del flujo de trabajo de un empleado.

Los investigadores también describen intentos de manipulación de herramientas de selección de personal. En este caso, un currículum puede contener instrucciones ocultas para que el sistema de IA le asigne una puntuación perfecta y recomiende una entrevista, independientemente de la experiencia o las competencias del candidato. Estos ejemplos muestran cómo una inyección de instrucciones puede dirigirse no solo al robo de información, sino también a modificar procesos de decisión automatizados.

Intentos de acceder a configuraciones y modificar código

Barracuda Research también ha observado instrucciones que pretenden que un asistente cambie a un supuesto modo administrativo o de mantenimiento y revele información sobre su configuración. Otra variante está dirigida a asistentes de programación, a los que se intenta ordenar que incorporen código destinado al robo de credenciales cuando generen funciones de autenticación. En estos casos, el objetivo consiste en introducir comportamientos no autorizados aprovechando que la IA procesa contenido controlado por terceros.

No obstante, la presencia de estas instrucciones no demuestra que los ataques hayan conseguido sus objetivos. Su eficacia depende de las capacidades del asistente, sus restricciones y los controles de seguridad implantados. Guruprasad Kenja, analista de amenazas de Barracuda, explica que un mismo correo puede contener un intento tradicional de robo de credenciales y, simultáneamente, instrucciones destinadas a alterar el comportamiento de un asistente de IA.

Esta combinación amplía la superficie de ataque de las organizaciones que utilizan inteligencia artificial para gestionar comunicaciones y automatizar tareas. La protección requiere distinguir las instrucciones autorizadas de los datos procedentes de mensajes externos, limitar las acciones que pueden ejecutar los asistentes y establecer mecanismos de verificación para operaciones sensibles.

MLuz Domínguez
Periodista especializada en ciberseguridad y tecnología. Mi enfoque se centra en analizar mundo de las aplicaciones y la seguridad especialmente en redes sociales. Con un interés constante en informar sobre avances, riesgos y sin olvidar la importancia de la prevención, busco compartir información precisa y comprensible para el usuario.

Deja un comentario

Por favor, introduce tu comentario
Por favor, introduce tu nombre