La inteligencia artificial está revolucionando la manera en que creamos y compartimos contenido en Internet. Sin embargo, esta misma tecnología puede ser aprovechada para fines menos éticos. ¿Es OpenAI la aliada perfecta para el spam?
En una información reciente revelada por SentinelLabs, un grupo de spammers logró enviar contenido no deseado a más de 80.000 sitios web en tan solo cuatro meses, sin que los filtros antispam tradicionales pudieran detenerlo. Y lo más sorprendente es que todo esto fue posible gracias al uso indebido de herramientas de OpenAI.
El incidente ha puesto en el punto de mira una preocupación creciente: la capacidad de los modelos de lenguaje para generar contenido convincente, específico y único, lo que los hace particularmente útiles para campañas masivas de spam que buscan pasar desapercibidas.
Esta brecha ha sido utilizada por actores maliciosos a través de un framework automatizado conocido como AkiraBot, que se valió de la API de chat de OpenAI para escalar sus operaciones.
Así se utilizó OpenAI para generar spam
El hecho de que OpenAI ayudó a enviar spam a 80.000 webs sin pasar por ningún filtro previo no fue resultado directo de una colaboración intencional. La realidad es que el sistema fue explotado mediante técnicas automatizadas desarrolladas por terceros.
AkiraBot, un framework orientado al spam y la promoción de servicios SEO sospechosos, integró la API de OpenAI vinculada al modelo gpt-4o-mini para generar mensajes de spam personalizados.
Cada mensaje era único, dirigido específicamente al sitio web objetivo, e incluía su nombre y una breve descripción de sus servicios. Esta estrategia permitió sortear fácilmente los filtros tradicionales, que suelen bloquear mensajes repetitivos o idénticos.
El uso del modelo de lenguaje generativo facilitó la creación de contenido altamente personalizado que aparentaba haber sido redactado manualmente.
Los grandes modelos de lenguaje tienen mucho que mejorar
La personalización automática, la coherencia lingüística y la capacidad de respuesta contextual convierten a estos modelos de lenguaje en herramientas poderosas, pero también difíciles de controlar en contextos abiertos.
Al configurar el rol de la API con la indicación “Eres un asistente útil que genera mensajes de marketing”, los spammers crearon una identidad que facilitaba la producción de contenido con apariencia profesional. Como resultado, el contenido generado no levantaba sospechas al pasar por formularios de contacto o widgets de chat en vivo integrados en los sitios web objetivo.
Serias limitaciones en la capacidad de detección
La razón por la que OpenAI ayudó a enviar spam a 80.000 webs sin pasar por ningún filtro previo no solo radica en la sofisticación del contenido, sino también en la debilidad de los mecanismos actuales de detección de spam ante mensajes únicos.
A diferencia de las campañas masivas del pasado, donde el mismo texto se replicaba en múltiples correos o formularios, AkiraBot se enfocó en el individualismo del mensaje.
Cada texto creado era diferente, específico para cada sitio web, y por lo tanto más difícil de identificar como spam automatizado. Según SentinelLabs, los mensajes incluían el nombre del sitio web de destino y una descripción de su actividad, generando así una apariencia “curada” que contribuía a mejorar las tasas de entrega.
Se trataba de un enfoque calculado, diseñado para evadir los mecanismos de protección tradicionales.
Cifras de spam de auténtico vértigo
Los archivos de registro obtenidos por SentinelLabs mostraron que, entre septiembre de 2024 y enero de 2025, se enviaron con éxito mensajes a más de 80.000 sitios.
En cambio, los intentos fallidos se limitaron a unos 11.000 dominios. Esto no solo demuestra la escala del ataque, sino también su efectividad en términos operativos.
El hecho de que OpenAI ayudó a enviar spam a 80.000 webs sin pasar por ningún filtro previo evidencia una carencia de herramientas preventivas eficaces en los entornos de integración de IA.
Aunque OpenAI revocó la cuenta de los usuarios maliciosos una vez que fue informado del abuso, la realidad es una: durante cuatro meses se operó sin detección. Esto revela cómo las medidas de control actuales son, en muchos casos, reactivas y no preventivas.
OpenAI respondió al descubrimiento agradeciendo a los investigadores de SentinelLabs por su colaboración. A la vez, reiteró que el uso de su tecnología para este tipo de fines está prohibido en sus términos de servicio.
No obstante, este caso ha vuelto a abrir el debate sobre la responsabilidad compartida entre proveedores de tecnología y los actores que implementan medidas de seguridad: ¿se requiere una mayor supervisión sobre cómo se integran las APIs de modelos de lenguaje en herramientas automatizadas? ¿hay que implementar límites más estrictos, como filtros en tiempo real, restricciones sobre uso masivo de prompts, y trazabilidad del contenido generado? Parece evidente que sí.
