Seguridad, gobernanza y soberanía en tiempos de IA

Preguntas frecuentes

¿Qué normas europeas afectan a un despliegue de IA en una empresa?

Seis principales. GDPR y EU AI Act aplican a todas las empresas. DORA aplica al sector financiero y a sus proveedores tecnológicos, NIS2 a sectores esenciales e importantes y ENS al sector público español y a quien le presta servicios. El Data Act regula, entre otras cosas, el cambio de proveedor. Las ISO y SOC 2 son estándares voluntarios, no leyes.

¿Cuáles son las cuatro preguntas comunes a todas esas normas?

De quién es el dato y para qué puede usarse; quién responde de qué; qué pasa cuando el sistema falla; y si se puede demostrar mañana. El manual recomienda organizar el trabajo por capacidad (registro de accesos, inventario, proveedores, incidentes y continuidad) y no abrir un proyecto por cada norma.

¿Qué cambia en la seguridad cuando quien consulta los datos es un agente de IA?

Tres cosas: el volumen (lee en segundos lo que una persona en una tarde), la separación (cruza sistemas que estaban compartimentados) y la previsibilidad (decide por sí mismo qué pasos dar). El problema no está en el modelo, sino en el momento en que el dato sale de donde vive. Por eso el control que sigue funcionando es el gobierno del propio dato.

¿Es el EU AI Act un «GDPR para la IA»?

No. El GDPR protege datos de personas. El EU AI Act sigue la lógica de la seguridad de producto: clasifica los sistemas por el daño que pueden causar (riesgo inaceptable, alto, de transparencia y mínimo) y aplica aunque no haya datos personales. Las obligaciones dependen del rol: proveedor o responsable del despliegue. Las dos normas aplican a la vez.

¿Qué exige el EU AI Act a una empresa que usa IA sin sistemas de alto riesgo?

Tres obligaciones: no incurrir en prácticas prohibidas, como reconocer emociones de empleados o candidatos; garantizar la alfabetización en IA de su personal; y cumplir la transparencia, es decir, informar cuando una persona interactúa con un sistema de IA y marcar el contenido sintético. Conviene además documentar el rol y la clasificación de riesgo de cada sistema.

¿Basta con que los datos estén alojados en Europa para que sean soberanos?

No. La soberanía tiene cuatro capas: dónde reside el dato, quién tiene acceso técnico, a qué ley responde el proveedor y su matriz, y qué costaría marcharse. Las obligaciones legales siguen a la empresa, no al servidor: el CLOUD Act obliga a los proveedores sujetos a jurisdicción estadounidense a entregar datos bajo su control, estén donde estén.

¿Qué diferencia hay entre un guardrail y un control de acceso?

Un guardrail es un filtro o una instrucción: actúa sobre el lenguaje, cuando el dato ya ha llegado al modelo. Un control de acceso es un punto de decisión en el camino del dato: si la petición no está autorizada, el dato no se entrega. Para ser sólido debe denegar por defecto, no servir el dato si falla y ser el único camino hacia él.

¿Qué debe evaluar la autorización de un agente de IA?

Cuatro dimensiones: identidad (quién pide, incluida la persona por cuya cuenta actúa el agente), propósito (para qué), entidad (sobre quién) y campo (qué atributo). El propósito es lo que permite aplicar la limitación de finalidad del GDPR, y obliga a diseñar agentes acotados, cada uno con su finalidad declarada.

¿Por dónde empezar a gobernar la IA en una empresa?

El manual propone 90 días. Del 1 al 30: inventariar los sistemas de IA, determinar el rol y clasificar el riesgo de cada uno. Del 31 al 60: corregir lo ya exigible y revisar los proveedores más críticos. Del 61 al 90: construir la trazabilidad del acceso al dato y aprobar un primer despliegue con el circuito completo.

¿Qué incluye el manual y a quién va dirigido?

Son 46 páginas en seis partes y cuatro anexos: glosario, calendario del EU AI Act, cuestionario para evaluar a un proveedor de IA y fuentes. Va dirigido a dirección y negocio, legal y cumplimiento, tecnología y seguridad, sin conocimientos previos. No es asesoramiento jurídico ni un checklist de certificación.