⚠️🤖 La UE acaba de publicar el manual para saber si tu IA es "de alto riesgo" (y lo que te toca hacer si lo es)
La mayoría cree que el AI Act solo afecta a grandes empresas. Pero si usas IA para contratar personas, evaluar créditos, gestionar acceso a servicios públicos o tomar decisiones, también te toca.
🎯 Qué es esto y por qué importa ahora
La Comisión Europea acaba de publicar en borrador sus Guidelines sobre la clasificación de sistemas de IA de alto riesgo (Article 6, AI Act). Es el documento que explica, con ejemplos concretos, qué tipo de IA está sujeta a las obligaciones más exigentes del reglamento.
No es ley todavía. Es un borrador en consulta pública. Pero marca exactamente hacia dónde va todo.
El AI Act entró en vigor el 1 de agosto de 2024. La mayoría de sus obligaciones para sistemas de alto riesgo se activan en diciembre de 2027 (con el AI Omnibus ya incorporado). No es mañana, pero tampoco es dentro de mucho.
Y lo más importante: las empresas que usan IA para tomar decisiones que afectan a personas necesitan saber ahora mismo si están en la categoría que exige cumplimiento, porque prepararse lleva tiempo.
🧠 ¿Qué hace que un sistema de IA sea “de alto riesgo”?
El documento distingue dos caminos para llegar a esa clasificación.
El primero afecta a sistemas de IA integrados en productos físicos regulados: maquinaria industrial, dispositivos médicos, vehículos, ascensores, equipos de protección. Si la IA es parte de un producto que ya requería certificación de terceros, entra directamente en la categoría de alto riesgo.
El segundo —y el más relevante para la mayoría de empresas y profesionales— es el de los casos de uso del Anexo III. Son áreas donde la IA puede tener un impacto serio en los derechos fundamentales de las personas:
Selección y evaluación de candidatos en procesos de RRHH
Crédito, seguros y scoring financiero
Acceso a servicios públicos esenciales
Sistemas usados en educación (evaluación de estudiantes)
Aplicaciones en el ámbito de la ley y la justicia
Gestión de infraestructuras críticas
Control de fronteras y migración
Si tu empresa usa IA en alguno de estos ámbitos, probablemente ya estás en zona de alto riesgo.
🔗 El detalle que nadie está contando: el “propósito previsto”
Aquí está la parte más importante del documento, y la que menos se está comentando en los medios.
La Comisión deja claro que lo que determina si tu sistema es de alto riesgo no es solo lo que hace técnicamente, sino cómo lo describes.
Si tu empresa vende o despliega una herramienta de IA presentada como “uso general” pero sin restricciones claras que impidan usos de alto riesgo, la clasificación de alto riesgo se aplicará igualmente.
Cito literalmente el documento (traducción propia):
“Simplemente declarar (por ejemplo en los términos del servicio) que los usos de alto riesgo están excluidos es insuficiente para evitar que el sistema sea considerado de alto riesgo, cuando la presentación general del proveedor, los ejemplos o el posicionamiento del producto efectivamente proporciona o promueve tales usos.”
En cristiano: poner una cláusula en los términos de servicio diciendo “esta IA no debe usarse para contratar personas” no te libra si en tu web de ventas pones ejemplos de cómo usarla exactamente para eso.
Esto tiene implicaciones directas para cualquier empresa que venda soluciones de IA a otras empresas. Necesitan revisar todos sus materiales de marketing, contratos y documentación técnica con coherencia.
🚀 Cómo saber si esto te afecta (y qué hacer)
Identifica qué decisiones toma o apoya tu IA. No el nombre del producto: las decisiones reales. ¿Afectan a personas concretas? ¿En ámbitos sensibles?
Revisa el Anexo III del AI Act. Las áreas de uso de alto riesgo están listadas. Es un documento público. Busca si tu caso de uso aparece o se parece a alguno de los listados.
Analiza cómo describes tu producto. Si lo vendes o lo compras como “asistente de RRHH”, “herramienta de scoring” o “sistema de evaluación”, la descripción ya lo dice todo.
Si eres proveedor, revisa que tu documentación técnica, materiales de ventas y términos de servicio sean coherentes entre sí. La incoherencia es exactamente lo que el regulador va a buscar.
Si eres desplegador (usas IA de un tercero), ten en cuenta que si modificas el propósito del sistema o le pones tu marca encima, puedes asumir responsabilidades de proveedor.
Marca en tu agenda diciembre de 2027. Es la fecha límite para los sistemas clasificados bajo el Artículo 6(2). No es tarde para empezar, pero sí para esperar mucho más.
Consulta el AI Act Service Desk. La Comisión ha habilitado un canal oficial de consultas en la plataforma de información del AI Act. Si tienes dudas sobre tu caso concreto, es el primer sitio donde preguntar.
No necesitas ser abogado para empezar este análisis. Necesitas entender qué hace realmente tu IA y a quién afecta.
❓ FAQ
¿Estas Guidelines son ya obligatorias?
No. Son un borrador en consulta pública. La versión final la adoptará la Comisión Europea tras el proceso de consulta. Pero el AI Act en sí ya está en vigor, y las Guidelines simplemente aclaran cómo se interpreta.
¿Y si uso ChatGPT o Claude en mi empresa para apoyar decisiones de RRHH?
Depende de cómo lo uses. Si el sistema de IA da una recomendación que un humano luego valida con criterio propio, el análisis es diferente que si el sistema clasifica automáticamente candidatos. El papel humano en la decisión final importa, pero no elimina por completo el análisis de riesgo.
¿Afecta esto a autónomos o solo a empresas grandes?
El AI Act no distingue por tamaño de empresa en la categoría de alto riesgo. Hay disposiciones específicas para PYMES y startups (menores exigencias en algunos trámites), pero la clasificación en sí aplica igual.
¿Qué herramientas hacen algo similar al análisis de riesgo del AI Act?
La propia Comisión tiene una plataforma interactiva (AI Act Single Information Platform) donde puedes buscar casos de uso. También están empezando a aparecer herramientas de compliance específicas para el AI Act, aunque el sector todavía está muy verde.
¿El AI Act prohíbe estos sistemas de alto riesgo?
No los prohíbe. Los somete a obligaciones: documentación técnica, registro, transparencia, supervisión humana, etc. Lo que sí prohíbe son sistemas en una categoría separada (IA prohibida), como scoring social o manipulación subliminal.
📌 Para terminar
El AI Act no es una amenaza abstracta. Es el marco dentro del cual la IA va a operar en Europa durante los próximos años. Las empresas que entiendan esto ahora y empiecen a prepararse tendrán una ventaja clara sobre las que lo dejen para el último momento.
¿Usas IA en tu trabajo para tomar o apoyar decisiones que afectan a personas? Cuéntanos en los comentarios en qué ámbito: puede que no seas el único con esa duda.
Si este post te ha sido útil, compártelo con alguien de tu empresa que necesite entender qué implica el AI Act.
¿Sobre qué herramienta o tema de IA quieres que escribamos la próxima semana?
🛡️ Cómo preparar documentación técnica de IA para el AI Act
🤝 Herramientas de IA para RRHH: qué es legal y qué no
🔍 Cómo auditar el uso de IA en tu empresa en un día
