El Reglamento de IA de la UE: qué exige, a quién se aplica y qué implica para los clientes de SAP

El Reglamento de IA de la UE: qué exige, a quién se aplica y qué implica para los clientes de SAP

Qué exige el Reglamento de IA de la UE, y cómo afecta a los clientes de SAP y a Joule.

Análisis | ~15 min de lectura | Por J. Torre

En resumen

  • El Reglamento de IA de la UE (el «AI Act») regula la IA según el riesgo de su uso. La mayor parte de la IA no tiene obligaciones nuevas. Unos pocos usos están prohibidos, algunos se clasifican como de alto riesgo y deben cumplir requisitos detallados, y otros solo deben ser transparentes.
  • Las obligaciones dependen del rol.
  • Las normas para los sistemas de alto riesgo se aplican desde diciembre de 2027 y agosto de 2028. Las normas de transparencia y la supervisión de los modelos de propósito general ya se aplican.
  • SAP dice que clasifica sus agentes función por función. Los agentes de SuccessFactors que seleccionan candidatos, evalúan el desempeño o asignan tareas se clasifican como de alto riesgo.

Qué es el Reglamento y qué quiere resolver

La Comisión Europea lo describe como el primer marco jurídico integral sobre IA. Su objetivo declarado es que la IA en Europa sea fiable: proteger la seguridad y los derechos fundamentales, y dar a las empresas reglas claras para que puedan invertir y vender en todo el mercado único.

En la práctica aborda tres problemas.

1. Decisiones que las personas no pueden entender ni impugnar. Pensemos en una empresa que usa un programa para ordenar candidaturas. Un candidato es rechazado y pregunta por qué. Si el proveedor no puede explicar cómo se llegó a esa ordenación, y la empresa no puede demostrar que revisó el resultado, nadie puede saber si el candidato fue tratado de forma justa. Lo mismo ocurre con un banco que usa un programa para fijar límites de crédito, o con un centro educativo que lo usa para calificar exámenes. La Comisión considera que la legislación existente, como las normas de protección de datos y de no discriminación, da cierta protección, pero no obliga a nadie a documentar, probar y supervisar estos sistemas antes de usarlos.

2. Unos pocos usos que la UE considera inaceptables en cualquier caso. Algunos ejemplos son puntuar a los ciudadanos según su comportamiento social y usar esa puntuación para decidir quién accede a un servicio, o deducir las emociones de los empleados a partir de una cámara web. El Reglamento prohíbe estos usos de forma directa.

3. Reglas distintas en cada país. Sin una ley común, cada uno de los 27 Estados miembros podría fijar sus propios requisitos, y una empresa que vende IA en la UE tendría que cumplirlos todos. Un reglamento único sustituye eso por un solo conjunto de reglas.

El Reglamento no regula la IA como tecnología. Regula usos, y las obligaciones crecen con el riesgo que el uso supone para las personas. El mismo programa puede ser de riesgo bajo en un uso y de alto riesgo en otro.

Los cuatro niveles de riesgo

Para situar un sistema en un nivel hay que preguntarse para qué se usa y qué efecto tiene su resultado. Una herramienta que corrige la ortografía no afecta a los derechos de nadie. Una herramienta que decide quién recibe un préstamo, sí. El Reglamento convierte esa diferencia en cuatro niveles. Los ejemplos siguientes son ilustrativos y basados en las listas del Reglamento (no son oficiales).

Nivel Qué significa Ejemplos Qué exige el Reglamento
Inaceptable Usos que la UE considera incompatibles con sus valores Un sistema que puntúa a las personas por su comportamiento social y niega servicios según la puntuación; una herramienta que deduce las emociones de los empleados a partir del vídeo en el trabajo Prohibido
Alto Usos que pueden afectar de forma significativa al empleo, al dinero, a la educación, a la seguridad o a la situación jurídica de una persona Seleccionar y ordenar candidatos; evaluar la solvencia de personas físicas; calificar exámenes; asignar tareas y supervisar el desempeño de los empleados Permitido si el proveedor cumple requisitos detallados y el usuario sigue las reglas de uso
Transparencia Usos en los que se podría engañar a las personas sobre si hablan con una máquina o sobre qué es real Un chatbot de atención al cliente; una imagen o un vídeo generado por IA que parece real Hay que informar a la persona de que es IA; el contenido generado debe marcarse o etiquetarse
Mínimo Todo lo demás Un filtro de spam; la previsión de demanda; el cruce de facturas con pedidos de compra; un corrector ortográfico Sin obligaciones nuevas

La Comisión afirma que la mayor parte de la IA en uso hoy está en el grupo de riesgo mínimo.

El uso determina el nivel, no la tecnología. Veamos un mismo modelo de lenguaje usado de dos formas. Un equipo de finanzas lo usa para resumir correos de proveedores: riesgo mínimo. Un equipo de RR. HH. usa el mismo modelo dentro de una herramienta que ordena candidatos: alto riesgo.

Para los sistemas de alto riesgo, el proveedor debe gestionar los riesgos, usar datos de calidad adecuada, conservar documentación y registros, dar instrucciones al usuario, permitir la supervisión humana y garantizar la precisión, la robustez y la ciberseguridad.

Los modelos y los sistemas se regulan por separado.

Un modelo de propósito general (GPAI), como un LLM (Large Language Model), puede usarse para muchas tareas: redactar, resumir, programar. Su proveedor, es decir, quien lo desarrolla y lo pone en el mercado, tiene obligaciones propias: documentación técnica, información para quienes lo usan en sus productos, una política de derechos de autor y un resumen público de los datos de entrenamiento. Los modelos más potentes, con riesgo sistémico, deben además evaluarse, mitigar riesgos y notificar incidentes.

Un sistema de IA es el producto concreto que se construye sobre un modelo para un fin (uso) determinado. Los cuatro niveles de riesgo se aplican al sistema, según para qué se use.

Por tanto, el proveedor del modelo cumple las obligaciones de GPAI, y la empresa que construye una herramienta de selección de personal sobre ese modelo cumple las de un sistema de alto riesgo.

Quién es responsable: proveedores y responsables del despliegue

El Reglamento asigna las obligaciones según el rol, y una misma empresa puede tener roles distintos en sistemas distintos.

  • El proveedor desarrolla un sistema de IA, o hace que se desarrolle, y lo comercializa o lo pone en servicio con su propio nombre.
  • El responsable del despliegue (deployer) utiliza un sistema de IA bajo su propia autoridad en un contexto profesional.
  • Los importadores y distribuidores tienen obligaciones más limitadas cuando traen sistemas a la UE o los distribuyen.

En términos generales, el proveedor responde de que el sistema sea seguro y esté documentado, y el responsable del despliegue responde de usarlo correctamente. Para un sistema de alto riesgo:

Proveedor Responsable del despliegue
Pregunta principal ¿El sistema está diseñado, probado y documentado conforme al estándar exigido? ¿El sistema se usa como está previsto y con personas que lo supervisan?
Obligaciones típicas Gestión de riesgos; calidad de los datos; documentación técnica; registro de actividad; precisión, robustez y ciberseguridad; instrucciones de uso; evaluación de conformidad; registro en la base de datos de la UE Usar el sistema según las instrucciones; asignar personal formado para supervisarlo; vigilar su funcionamiento; conservar los registros bajo su control; informar a los trabajadores y, en algunos casos, a las personas afectadas; evaluar el impacto sobre los derechos fundamentales cuando corresponda

Ambos deben adoptar medidas para que su personal entienda la IA lo suficiente como para usarla con responsabilidad (alfabetización en IA).

Ejemplos de cómo funcionan los roles

Un proveedor de modelos, un fabricante de software y un cliente. Un proveedor de modelos desarrolla un LLM y lo publica. Tiene las obligaciones de GPAI. Un fabricante de software, como SAP, construye un asistente sobre ese modelo y lo vende como parte de su producto. El fabricante es el proveedor del asistente como sistema de IA y tiene las obligaciones que corresponden a su nivel de riesgo. La empresa que compra el producto y lo usa en sus operaciones es el responsable del despliegue.

Una herramienta de RR. HH. Una empresa usa un agente de su software de RR. HH. que selecciona y ordena candidatos. La selección de personal es un ámbito de alto riesgo, por lo que el agente es de alto riesgo. El fabricante, como proveedor, debe preparar la documentación, probar el agente, habilitar el registro de actividad y dar instrucciones. La empresa empleadora, como responsable del despliegue, debe usarlo como se indica, asegurarse de que una persona formada revise las ordenaciones antes de tomar decisiones, conservar los registros e informar a los empleados y a sus representantes cuando corresponda.

Un cliente que cambia de rol. Una empresa toma un agente de uso general pensado para redactar correos y, por iniciativa propia, lo configura para preseleccionar candidatos. Este cambio de finalidad convierte el sistema en uno de alto riesgo y puede hacer que la empresa sea el proveedor de ese sistema, con las obligaciones de proveedor descritas arriba. Lo mismo puede ocurrir si la empresa pone su propio nombre a un sistema o lo modifica de forma sustancial.

Un equipo de finanzas. Una empresa usa un agente que cruza facturas y propone asientos. Trata datos de la empresa, no decide nada sobre el acceso de personas a servicios y no encaja en un ámbito de alto riesgo. Lo más probable es que sea de riesgo mínimo, sin obligaciones específicas aparte de la alfabetización en IA. Si otro agente evalúa la solvencia de clientes personas físicas, ese uso sí es de alto riesgo y el análisis cambia.

Por qué importa el rol en la práctica. El rol determina quién debe qué, por lo que debe reflejarse en los contratos: qué documentación e instrucciones da el fabricante, quién conserva los registros y quién responde de la supervisión humana.

Las sanciones son proporcionales a la infracción. El máximo es de 35 millones de euros o el 7 % del volumen de negocio anual mundial por prácticas prohibidas, y de 15 millones o el 3 % para la mayoría de las demás obligaciones. Para las pymes se aplica el menor de los dos importes.

Situación actual

Fecha Qué se aplica
1 de agosto de 2024 Entrada en vigor
2 de febrero de 2025 Prácticas prohibidas y alfabetización en IA
2 de agosto de 2025 Obligaciones de los proveedores de modelos de propósito general
2 de agosto de 2026 Normas de transparencia; la Comisión puede sancionar a los proveedores de modelos de propósito general
2 de diciembre de 2027 Sistemas de alto riesgo en los ámbitos enumerados (selección de personal, crédito y otros)
2 de agosto de 2028 IA de alto riesgo integrada en productos regulados

Las fechas originales para los sistemas de alto riesgo eran agosto de 2026 y agosto de 2027. Un reglamento de modificación de 2026, conocido como el Ómnibus Digital sobre IA, las aplazó. El aplazamiento refleja que las normas y las guías necesarias para cumplir no estaban listas. La misma modificación añadió una novena práctica prohibida (la IA que genera contenido sexual no consentido) y suavizó algunas obligaciones, como la alfabetización en IA.

Desde agosto de 2026, la Oficina de IA de la Comisión supervisa los modelos de propósito general y las autoridades nacionales supervisan el resto de los sistemas de IA.

Cómo cumplen los proveedores de modelos de IA

Las obligaciones de los proveedores de modelos de propósito general se aplican desde agosto de 2025. La vía principal para cumplir es el Código de Buenas Prácticas de IA de propósito general, publicado en julio de 2025. Es voluntario.

Entre los firmantes que figuran en la lista de la Comisión están Amazon, Anthropic, Google, IBM, Microsoft, Mistral AI, OpenAI, Aleph Alpha, ServiceNow y Cohere. Meta decidió no firmar, y alegó inseguridad jurídica y obligaciones que van más allá del Reglamento. xAI firmó solo el capítulo de seguridad. No firmar no elimina las obligaciones, pero el proveedor debe demostrar el cumplimiento por otros medios. La lista cambia, por lo que conviene comprobarla en la página de la Comisión antes de apoyarse en ella.

Los proveedores deben publicar también un resumen del contenido usado para entrenar el modelo, con una plantilla obligatoria de la Comisión. Los modelos comercializados antes de agosto de 2025 tienen hasta agosto de 2027.

Para el contenido generado por IA, la Comisión publicó a finales de julio de 2026 una primera lista de más de 180 firmantes de un código de buenas prácticas voluntario sobre el marcado y etiquetado de ese contenido.

SAP y el Reglamento de IA

El rol de SAP

SAP indica que puede actuar como proveedor, responsable del despliegue, comprador o integrador de sistemas de IA, y que además desarrolla sus propios modelos fundacionales. Para los clientes, el caso más relevante es la cartera SAP Business AI, donde SAP es el proveedor de funciones como Joule y el cliente es el responsable del despliegue.

Unas preguntas y respuestas publicadas por heise/iX en julio de 2026 hacen la misma distinción y añaden que el rol del cliente puede cambiar. El cliente que construye agentes en Joule Studio y los opera con su propio nombre, o los pone a disposición de empresas del grupo, clientes o terceros, puede ser considerado proveedor de esos agentes. Que eso lleve a obligaciones de alto riesgo depende de lo que haga el agente.

Su exposición principal parece estar en su rol de proveedor y responsable del despliegue de sistemas de IA que usan modelos de terceros, además de los modelos que desarrolle por su cuenta. Conviene confirmarlo en la lista de la Comisión.

Qué dice SAP que hace

El enfoque de IA responsable de SAP se organiza en torno a la ética, la seguridad y el cumplimiento:

  • Una política global de ética de la IA basada en los diez principios de la UNESCO, con una oficina de ética, un comité directivo interno, un panel asesor externo y un comité de revisión de los casos de uso de alto riesgo.
  • Una evaluación de impacto ético para cada caso de uso de IA, que lo clasifica como de riesgo mínimo o nulo, alto riesgo o línea roja. Los casos de línea roja se detienen. Los de alto riesgo requieren revisión y aprobación adicionales.
  • La certificación ISO/IEC 42001 para la gestión de la IA, que según SAP cubre Joule, SAP AI Core y los principales productos de Business AI. Es una declaración de SAP. El certificado acredita procesos de gestión, no la conformidad de un sistema concreto con el Reglamento.
  • Sobre el Reglamento, SAP dice que alinea sus operaciones con las obligaciones por fases y que un equipo multifuncional, que depende del Consejo Ejecutivo, está construyendo un proceso de clasificación.

En lo técnico, una publicación de SAP Community de julio de 2025 describe cómo Joule se apoya en las autorizaciones por rol que el cliente ya tiene en las aplicaciones SAP. Los datos del cliente permanecen en el tenant de la aplicación y no se almacenan en Joule, y los proveedores de modelos de terceros no almacenan los datos ni entrenan con ellos. SAP ofrece también el SAP AI Agent Hub, basado en LeanIX, que da un inventario de agentes y modelos, clasificación de riesgos y gobierno del ciclo de vida. Apoya el trabajo de inventario y clasificación del propio cliente; no toma por él la decisión de clasificación.

Agentes de Joule: la posición de SAP

En junio de 2026, SAP publicó un documento informativo de seis páginas para clientes, Joule Agents: Governance, Auditability, and EU AI Act Compliance (versión 1.0, 17 de junio de 2026). Es la declaración más clara que hemos encontrado sobre cómo aplica SAP el Reglamento a sus agentes. Los puntos que siguen son la posición de SAP tal como figura en ese documento; SAP aclara que no es asesoramiento jurídico y que sus opiniones pueden cambiar.

Los agentes son sistemas de IA según el Reglamento. SAP afirma que los agentes de Joule cumplen la definición: funcionan con distintos niveles de autonomía y generan resultados que influyen en entornos reales, en este caso los flujos de trabajo del ERP y los datos de negocio que gobiernan. A diferencia de la automatización basada en reglas, razonan sobre entradas variables. A diferencia de los asistentes, persiguen un objetivo a lo largo de varios pasos sin una instrucción humana para cada acción.

La clasificación se hace función por función. Un agente de Joule que realiza o influye de forma material en una función de un ámbito de alto riesgo se clasifica como de alto riesgo. En SAP SuccessFactors, los agentes apoyan la selección y ordenación de candidatos, la evaluación del desempeño y la asignación de tareas, y SAP los sitúa en el ámbito del empleo. En finanzas y seguros, SAP dice que los agentes pueden influir en decisiones sobre el acceso a servicios esenciales. El documento señala que las clasificaciones de alto riesgo confirmadas hasta ahora se concentran en SuccessFactors, que la evaluación de la cartera no ha terminado y que se esperan más clasificaciones. Una función puede quedar exenta si solo realiza una tarea de procedimiento, mejora el resultado de una actividad humana (por ejemplo, sugerencias de gramática) o prepara información que no determina un resultado. SAP indica que las exenciones se aplican a funciones concretas, que cada una debe justificarse y que se revisan a medida que cambian las capacidades. El uso de un cliente en un sector regulado también puede hacer que una función exenta vuelva a estar dentro del alcance.

Identidad, permisos y registro de auditoría.

  • Cada agente tiene su propia identidad, que SAP gestiona de forma centralizada, y sus acciones se registran en la misma infraestructura que la actividad de los usuarios humanos.
  • Cuando un agente actúa en nombre de un usuario, sus permisos son un subconjunto de los de ese usuario. No puede superar la autorización del usuario.
  • El registro de auditoría responde a cuatro preguntas: quién actuó, qué estaba autorizado a hacer, qué hizo (acciones permitidas y bloqueadas) y en nombre de quién, incluida la cadena de delegación.

Supervisión humana. SAP indica que la supervisión la proporcionan los mecanismos de aprobación que ya están integrados en los flujos de trabajo del ERP. Los usuarios pueden revisar, anular y revertir lo que hizo un agente, y siempre existe una alternativa sin IA para completar la tarea. La política de ética de la IA de SAP define tres modelos de supervisión (human-in-the-loop, human-on-the-loop y human-in-command) y la evaluación de impacto decide cuál se aplica.

Un límite que SAP reconoce. Las normas técnicas que traducen el Reglamento en especificaciones no se esperan antes de finales de 2026. Hasta que existan, las evaluaciones de conformidad no se pueden cerrar, y SAP dice que sus posiciones de gobierno actuales deben considerarse provisionales. El documento se publicó antes de la entrada en vigor del reglamento modificativo y no indica fechas; los plazos posteriores dan más margen, pero lo que dice sobre las normas sigue vigente.

Dos observaciones. Primera, SAP describe un control mediante mecanismos que ya existen (roles, aprobaciones, registros). Es una base razonable para la supervisión y la trazabilidad, pero si basta para los requisitos de alto riesgo se juzgará según normas que todavía no se han publicado. Segunda, el documento es una descripción del proveedor y no ha sido evaluado por un tercero independiente.

Recursos Humanos es el primer ámbito que revisar

La selección de personal y la gestión de trabajadores son ámbitos de alto riesgo en el Reglamento. El propio documento de SAP confirma que los agentes de SuccessFactors que apoyan la selección de candidatos, la evaluación del desempeño y la asignación de tareas se clasifican como de alto riesgo. Para un cliente que usa estas funciones, SAP tiene las obligaciones del proveedor y el cliente las del responsable del despliegue: uso conforme a las instrucciones, supervisión humana por personal formado, seguimiento, conservación de registros e información a los empleados y sus representantes. El documento no indica qué funciones concretas de SuccessFactors están clasificadas ni cuáles están exentas, por lo que los clientes deben pedir a SAP la clasificación de cada función que utilizan.

Qué puede hacer ahora un CIO o un CFO

  1. Inventariar la IA en uso. Incluir la IA integrada en las aplicaciones SAP, las funciones activadas por defecto, los agentes desarrollados internamente y la IA de otros proveedores.
  2. Establecer el rol en cada caso. Proveedor o responsable del despliegue, y si algún desarrollo propio cambia ese rol.
  3. Clasificar el uso. Revisar cada caso frente a las prácticas prohibidas y los ámbitos de alto riesgo. RR. HH., crédito y acceso a servicios esenciales requieren atención primero.
  4. Comprobar la transparencia. Los chatbots y el contenido generado están sujetos ya a las normas de transparencia.
  5. Pedir pruebas a los proveedores. En el caso de SAP: la clasificación de cada función que se usa, las instrucciones de uso que deben recibir los responsables del despliegue de sistemas de alto riesgo y el estado de la evaluación de conformidad.
  6. Planificar para diciembre de 2027. El plazo de alto riesgo se movió, pero las normas que definen el cumplimiento todavía se están ultimando.

Fuentes