La Comisión Europea se prepara para incluir a ChatGPT y Roblox dentro de la categoría de plataformas sujetas a las obligaciones más estrictas de la Ley de Servicios Digitales (DSA). Si finalmente se confirma la designación, ambas compañías deberán reforzar sus medidas de transparencia, seguridad y gestión de riesgos, además de someterse a auditorías independientes y un mayor control regulatorio.
Según ha adelantado Bloomberg, la decisión podría hacerse oficial durante el mes de agosto. De confirmarse, OpenAI y Roblox pasarían a formar parte del grupo de Plataformas Online Muy Grandes (VLOP), una categoría en la que ya figuran servicios como Facebook, Instagram, TikTok, YouTube, X o Amazon.
¿Por qué ChatGPT y Roblox entrarían en esta categoría?
La Ley de Servicios Digitales establece que las plataformas con más de 45 millones de usuarios activos mensuales en la Unión Europea pueden ser designadas como servicios de muy gran tamaño.
Tanto OpenAI como Roblox ya han comunicado cifras de usuarios que superarían ese umbral. Aunque la Comisión Europea todavía no ha confirmado oficialmente la decisión, un portavoz reconoció recientemente que esta designación es una posibilidad real.
Una vez notificada oficialmente, las compañías dispondrían de cuatro meses para adaptarse a las nuevas obligaciones.
Qué exigirá la Unión Europea
La normativa obliga a estas plataformas a adoptar medidas mucho más amplias que las exigidas al resto de servicios digitales.
Entre ellas destacan:
- Evaluar periódicamente los riesgos que generan sus plataformas.
- Reducir la difusión de contenidos ilegales.
- Proteger especialmente a los menores de edad.
- Analizar el impacto sobre la salud mental y física de los usuarios.
- Identificar riesgos relacionados con procesos electorales, discriminación o violencia de género.
- Explicar cómo funcionan sus sistemas de recomendación.
- Ofrecer alternativas de recomendaciones que no se basen en la elaboración de perfiles de los usuarios.
- Someterse a auditorías independientes cada año.
- Compartir información con las autoridades y con investigadores autorizados.
- Notificar determinados delitos cuando sean detectados.
Además, deberán reforzar la transparencia sobre sus políticas de moderación y sobre el funcionamiento de los algoritmos que determinan qué contenido ve cada usuario.
Roblox llega con un amplio historial de críticas
La posible inclusión de Roblox no resulta especialmente sorprendente.
Durante los últimos años la plataforma ha recibido numerosas críticas por la protección de los menores, especialmente por la presencia de depredadores sexuales, contenidos inapropiados y mecanismos insuficientes para verificar la edad de los usuarios.
Como respuesta, la compañía ha incorporado nuevas medidas de seguridad, entre ellas sistemas de verificación mediante selfis, chats diferenciados por edad y herramientas basadas en inteligencia artificial para detectar posibles situaciones de explotación infantil.
ChatGPT también se enfrenta a un mayor escrutinio
En el caso de ChatGPT, el interés regulatorio llega en un momento de creciente debate sobre la seguridad de los sistemas de inteligencia artificial.
OpenAI afronta diferentes procedimientos judiciales relacionados con el comportamiento del chatbot y con el posible impacto que determinadas respuestas podrían tener sobre los usuarios.
La futura designación bajo la DSA obligaría además a la compañía a documentar mejor los riesgos asociados a su plataforma y explicar con mayor detalle el funcionamiento de algunos de sus sistemas.
Incumplir puede salir muy caro
La Ley de Servicios Digitales contempla sanciones de hasta el 6 % de la facturación mundial anual para aquellas empresas que incumplan las obligaciones impuestas.
No obstante, la experiencia demuestra que la designación como plataforma de muy gran tamaño no implica necesariamente cambios inmediatos. La red social X, por ejemplo, ya ha sido sancionada por incumplimientos relacionados con la transparencia y el acceso de investigadores, aunque las autoridades europeas continúan supervisando su evolución.
Si finalmente ChatGPT y Roblox pasan a formar parte de esta categoría, ambas compañías deberán demostrar que sus plataformas son capaces de gestionar los riesgos que generan y ofrecer un mayor nivel de transparencia tanto a los reguladores como a los propios usuarios.
