El uso masivo de la inteligencia artificial está multiplicando también el impacto de sus fallos. Un análisis de Paligo sobre más de 1.400 incidentes dañinos relacionados con IA, registrados en la AI Incident Database, muestra qué sectores, plataformas y grupos aparecen con más frecuencia en casos donde estos sistemas han provocado perjuicios económicos, psicológicos, físicos o vinculados a derechos civiles.
El estudio, publicado en marzo de 2026, advierte de que el sector de información y comunicaciones concentra el mayor número de incidentes, con un 25 % del total. En esta categoría se incluyen redes sociales, buscadores, plataformas publicitarias y sistemas de contenido. Según el informe, los daños más comunes detectados en todos los sectores son los relacionados con la seguridad física, las pérdidas económicas, el daño psicológico y las vulneraciones de libertades civiles.
La ciudadanía, el grupo más afectado
Uno de los datos más relevantes del análisis es que más de una cuarta parte de los incidentes documentados afectan a la población general, sin dirigirse a un colectivo concreto. Paligo cita casos como respuestas erróneas o potencialmente dañinas generadas por sistemas de IA en servicios de gran alcance.
Sin embargo, cuando el daño afecta de forma diferenciada a un grupo concreto, la raza o etnia aparece como el principal factor de impacto. El informe recoge ejemplos de sistemas de reconocimiento facial defectuosos o algoritmos sanitarios que han subestimado riesgos médicos en determinados colectivos.
El estudio también apunta a los usuarios de redes sociales como uno de los grupos especialmente expuestos, con incidentes relacionados con algoritmos de recomendación, segmentación publicitaria, contenidos dañinos o suplantaciones mediante herramientas generativas.
OpenAI, Google y Facebook, entre las organizaciones más citadas
Entre las organizaciones mencionadas en incidentes documentados, OpenAI, Google y Facebook aparecen con mayor frecuencia, con porcentajes del 5 %, 4 % y 4 %, respectivamente. El informe matiza que esta presencia no implica necesariamente responsabilidad legal, sino que refleja cómo fueron registradas estas organizaciones en la base de datos y, en gran medida, la escala de despliegue de sus sistemas.
Tesla también figura entre las compañías más citadas, aunque sus incidentes se diferencian de los anteriores porque están más vinculados a vehículos autónomos y consecuencias físicas, como accidentes o lesiones.
Además, un 15 % de los incidentes analizados no pudo atribuirse a una organización concreta. En estos casos predominan fraudes con clonación de voz, vídeos falsos generados con IA y estafas de inversión donde no se identifica al responsable final.
Los sistemas solo software concentran casi la mitad de los incidentes
El análisis de Paligo señala que casi la mitad de los incidentes documentados, un 49 %, están relacionados con sistemas exclusivamente software. Esto incluye errores en contenidos generados por IA, publicaciones, documentación técnica, respuestas automatizadas o chatbots que producen información incorrecta.
El informe recuerda que estos fallos pueden tener consecuencias económicas y legales. Entre los ejemplos citados figura un informe de Deloitte para el Gobierno australiano que contenía citas académicas fabricadas atribuidas al uso de IA.
Las redes sociales, por su parte, aparecen en el 19 % de los incidentes donde se identifica una plataforma concreta. Facebook es la plataforma individual más mencionada, mientras que ChatGPT figura como el modelo de lenguaje más citado entre los LLM analizados.
La calidad del contenido, clave para reducir riesgos
Paligo concluye que uno de los principales desafíos para las organizaciones es garantizar que los sistemas de IA se alimenten de información clara, actualizada y correctamente estructurada. El informe recomienda ordenar los contenidos antes de integrarlos en herramientas de IA, evitar versiones contradictorias, mantener taxonomías claras y validar siempre los resultados generados frente a las fuentes originales.
También insiste en retirar material obsoleto, especialmente en ámbitos sensibles como salud, información legal o asesoramiento financiero. En estos contextos, una respuesta desactualizada o inventada puede traducirse en daños reales para los usuarios.
El estudio deja una advertencia clara: la inteligencia artificial no falla en abstracto. Sus errores afectan a personas, empresas e instituciones, y el riesgo aumenta cuanto más se integran estos sistemas en procesos cotidianos. Por eso, la gobernanza del contenido, la supervisión humana y la trazabilidad de las respuestas se han convertido en elementos esenciales para reducir los daños asociados a la IA.
