En plena expansión de la inteligencia artificial dentro de las plataformas sociales, los ciberatacantes han encontrado un nuevo aliado inesperado: el propio asistente de X. Investigadores han detectado que “Grok”, la herramienta de IA integrada en la red social X, está siendo utilizada de forma maliciosa para difundir enlaces maliciosos que de otro modo serían bloqueados. El hallazgo evidencia un riesgo creciente: los sistemas de IA no solo pueden ser explotados a través de ataques externos, sino también manipulando su modo de interactuar con los usuarios.
¿Qué es Grok?
Grok es el asistente de inteligencia artificial integrado en la red social X (antes Twitter), diseñado para responder en tiempo real a las preguntas de los usuarios. Funciona como un chatbot avanzado que extrae información directamente de la plataforma y la presenta a través de una cuenta oficial del sistema.
Su objetivo es enriquecer la experiencia en X, facilitando el acceso a información contextual, tendencias y publicaciones. Sin embargo, esa etiqueta “oficial” también hace que muchos confíen ciegamente en lo que comparte. Precisamente esa confianza es la que los ciberdelincuentes han conseguido manipular.
Una puerta trasera inesperada
Investigadores de Guardio Labs descubrieron que los atacantes están explotando una vulnerabilidad en la forma en que X maneja y muestra enlaces. El fallo se encuentra en un campo de metadatos oculto en las tarjetas de vídeo publicitario.
Normalmente, los anuncios con contenido adulto o dudoso no pueden incluir enlaces directos hacia páginas externas, lo que reduce el riesgo de estafas. Sin embargo, algunos actores maliciosos han encontrado la forma de ocultar direcciones web en campos secundarios, que no pasan por los sistemas habituales de seguridad de la plataforma.
El caso Grok es un recordatorio de un problema cada vez más evidente: la confianza excesiva en sistemas automatizados. Cuando una IA “oficial” comparte un enlace, la mayoría de usuarios lo perciben como seguro. Esa confianza mal gestionada se convierte en una herramienta poderosa para los atacantes.
El rol de Grok en la cadena de ataque
El problema se activa cuando un usuario interactúa con Grok. Si alguien pregunta de dónde procede un vídeo, el asistente no solo devuelve la información visible, sino que también extrae y publica el enlace oculto incrustado en los metadatos.
Esto convierte a Grok en un altavoz involuntario de enlaces fraudulentos. Al provenir de una cuenta del sistema, el mensaje gana legitimidad y muchos usuarios confían en él más que en un anuncio o una cuenta cualquiera. El resultado: un número mucho mayor de clics en enlaces que, en condiciones normales, habrían sido bloqueados.
Del clic inocente al fraude
Las pruebas de Guardio Labs revelan que estos enlaces siguen un recorrido habitual:
-
Primero redirigen al usuario a redes publicitarias poco conocidas, que actúan como intermediarias.
-
Después, lo conducen a sitios que simulan ser páginas de verificación o descargas necesarias, pero en realidad instalan malware.
-
En otros casos, llevan a portales diseñados para robar credenciales o información personal mediante técnicas de phishing.
El método, ya bautizado como “Grokking”, multiplica el alcance de los anuncios fraudulentos y llega en algunos casos a millones de impresiones. Paradójicamente, la herramienta que X creó para mejorar la interacción se ha convertido en un canal perfecto para amplificar campañas que debería estar limitando.
Cómo reducir el riesgo
El investigador que identificó la vulnerabilidad propone medidas para limitar el problema:
-
Escanear todos los campos donde puedan insertarse enlaces, incluidos los metadatos secundarios.
-
Impedir que Grok publique direcciones no verificadas.
-
Añadir validaciones adicionales para que el asistente no actúe como un vehículo de contenido malicioso.
Hasta ahora, X no ha dado respuesta oficial sobre si implementará estas soluciones ni en qué plazo.
