Cumplimiento · July 18, 2026 · 6 min de lectura

La IA para contratación es IA de alto riesgo: construir para la NYC Local Law 144 y la EU AI Act desde el primer día

Las herramientas automatizadas de contratación se ubican en el rincón más regulado de la IA aplicada. Por qué tratamos la NYC Local Law 144 y la EU AI Act como insumos de diseño en lugar de consideraciones legales de último momento, y qué significa eso concretamente dentro del producto.

Si desarrollas IA para contratación, los reguladores ya han decidido qué eres: la NYC Local Law 144 somete las herramientas automatizadas de decisión de empleo a auditorías de sesgo, y la EU AI Act ubica la IA relacionada con el empleo en el Annex III, la categoría de alto riesgo, con obligaciones en torno a documentación, supervisión humana, registro de actividad y transparencia. Puedes tratar eso como un problema del departamento legal, o como una especificación de ingeniería. Nosotros elegimos la especificación.

Qué significa esto concretamente

• Análisis de sesgo en la generación: cada pregunta se analiza en busca de señales de sesgo antes de poder almacenarse, y el resultado del análisis queda registrado. Un análisis fallido no pasa en silencio: el contenido sin analizar se retiene en lugar de almacenarse como auditado y limpio.
• Supervisión humana como característica del producto: la cola de revisión del reclutador no es un teatro de cumplimiento; es el humano en el circuito con la forma del Article 14, con acciones de aprobar/editar/rechazar registradas.
• Registros de auditoría en todas partes: veredictos de las puertas de control, registros de consentimiento (el consentimiento de procesamiento de datos y el de supervisión son independientes), decisiones de las puertas con sus razones, y anulaciones del reclutador con actor y motivo. Cuando un auditor pregunta '¿por qué se rechazó a este candidato?', la respuesta es una consulta, no un proyecto de arqueología.
• Eliminación que preserva la integridad: la supresión conforme al Article 17 del GDPR elimina el contenido personal a la vez que retiene hashes de integridad anonimizados, de modo que una solicitud de eliminación no destruye el propio registro de auditoría.

La parte honesta

Las herramientas respaldan el cumplimiento; no lo otorgan. Una auditoría de sesgo de la LL144 es algo que un auditor independiente realiza sobre tu uso, y el análisis de impacto adverso es algo que le corresponde a tu organización. Lo que un proveedor puede prometer legítimamente es hacer posibles esos ejercicios, generando los registros que requieren. Esa es la promesa que hacemos, y la que querríamos de cualquier proveedor que contratáramos.

También hay aquí una observación del mercado: la mayoría de los proveedores de evaluaciones no publican ninguna metodología de control de calidad ni de auditoría. A medida que madure la aplicación de estos regímenes, 'podemos mostrar nuestro trabajo' deja de ser un diferenciador y se convierte en un requisito básico. Preferimos anticiparnos.