�鶹ֱ��

Aunque el proyecto de ley 7 del Senado de California no se convirtió en ley y el proyecto de ley 1018 de la Asamblea de California se encuentra actualmente inactivo, ambos proyectos de ley ofrecen un avance de los tipos de obligaciones en materia de información, documentación y supervisión que los legisladores de California han estado barajando en relación con el uso de herramientas automatizadas por parte de los empleadores en las decisiones laborales.

Muchos empleadores ya utilizan herramientas automatizadas para preseleccionar a los candidatos, evaluar el rendimiento y respaldar las decisiones de contratación y disciplinarias. Sin embargo, en algunos casos, las personas que utilizan esas herramientas no las comprenden bien. Por ejemplo, es posible que los empleadores no sepan en qué datos se basa la herramienta, cómo genera resultados o cómo aplica dichos resultados en la «toma de decisiones». Esa laguna genera un riesgo de incumplimiento de la legislación vigente, ya que el empleador podría no ser capaz de explicar o justificar cómo se tomó una decisión concreta en materia de empleo.

Desde el 1 de octubre de 2025, los empleadores de California operan al amparo de la normativa sobre sistemas de decisión automatizada del Consejo de Derechos Civiles del estado, que aclara cómo se aplica la legislación antidiscriminatoria vigente cuando los empleadores utilizan inteligencia artificial, algoritmos y otras herramientas automatizadas en las decisiones laborales. Dicha normativa reitera que los empleadores siguen siendo responsables del uso y los resultados de estas herramientas.

En este contexto, las dos recientes propuestas de la Asamblea Legislativa de California relacionadas con la inteligencia artificial deben entenderse como una respuesta a una cuestión conexa: no solo si un sistema automatizado produce un resultado discriminatorio, sino también si el empleador puede demostrar cómo se utiliza dicho sistema, en qué se basa y qué controles rigen su uso.

En primer lugar, el proyecto de ley del Senado n.º 7, que finalmente no prosperó y que en ocasiones se conoce como la «Ley contra los jefes robot», habría regulado directamente el uso por parte de los empleadores de sistemas de decisión automatizados en el ámbito laboral, exigiendo que se informara a los solicitantes y a los empleados, imponiendo obligaciones de mantenimiento de registros y restringiendo la dependencia de los resultados automatizados a la hora de tomar determinadas decisiones laborales.

En segundo lugar, el proyecto de ley 1018 de la Asamblea, actualmente inactivo, habría adoptado un enfoque más amplio al imponer requisitos tanto a los desarrolladores como a los usuarios de los sistemas de decisión automatizados utilizados en decisiones de gran trascendencia, incluidas las decisiones en materia de empleo, tales como evaluaciones de impacto, divulgación de información, controles de gobernanza y oportunidades para la revisión humana.

Aunque el proyecto de ley del Senado n.º 7 no se convirtió en ley y el proyecto de ley de la Asamblea n.º 1018 aún no se ha promulgado, ambos reflejan un enfoque constante en la divulgación, la documentación y la supervisión.

Para los empleadores, la importancia de estas propuestas no radica en que planteen una nueva teoría de la responsabilidad, sino en que ponen de manifiesto un posible consenso emergente sobre las expectativas en materia de cumplimiento. Las cuestiones clave son de carácter práctico: ¿puede el empleador explicar qué herramientas se están utilizando, qué hacen esas herramientas, en qué datos se basan y cómo se incorporan sus resultados a las decisiones de contratación? Cuando la respuesta no está clara, el empleador puede verse expuesto a riesgos, ya que no puede justificar cómo el «empleador» (a través de una herramienta de IA) tomó una decisión relacionada con el empleo.

Estas cuestiones abstractas pueden manifestarse de forma concreta. Si una herramienta de selección automatizada excluye a un grupo de candidatos, el empleador debe poder explicar qué criterios han determinado ese resultado y por qué dichos criterios están relacionados con el puesto de trabajo. Si una herramienta de productividad o de supervisión evalúa la conducta de los empleados, el empleador debe poder demostrar que los resultados de la herramienta se analizan en su contexto y no se aplican de forma mecánica. Si una decisión de contratación o disciplinaria se basa en una puntuación, una clasificación o una recomendación generada por un sistema, el empleador debe poder explicar cómo se generó ese resultado y si fue evaluado de forma independiente antes de tomar medidas. Estas cuestiones de documentación y supervisión afectan directamente a la capacidad del empleador para explicar (y, por lo tanto, defender) sus decisiones en virtud de la legislación antidiscriminatoria vigente.

Desde ese punto de vista, estas recientes propuestas legislativas apuntan hacia un marco centrado en tres requisitos fundamentales:

1. �پ����ܱ���������ó��. Las empresas deben prepararse para una presión cada vez mayor a la hora de revelar cuándo se utilizan herramientas automatizadas de forma que afecten de manera significativa a la contratación, las medidas disciplinarias, los ascensos, la remuneración u otras decisiones laborales.
2. �ٴdz��ܳ���Գٲ�����ó��. Las empresas deben poder identificar qué sistemas se utilizan, para qué están diseñados, en qué datos se basan y cómo se determinan sus resultados. Esto incluye conservar registros suficientes para explicar cómo se tuvo en cuenta una herramienta concreta a la hora de tomar una decisión laboral específica.
3. ���ܱ�����������ó��. Los empleadores deben garantizar que los resultados generados automáticamente sean sometidos a una revisión humana significativa, lo que incluye la capacidad de evaluar y, cuando proceda, anular los resultados generados por el sistema, en lugar de considerarlos definitivos.

En la práctica, muchas organizaciones no están estructuradas en función de estos requisitos. Las herramientas automatizadas suelen implantarse en diferentes áreas, como la selección de personal, la gestión del rendimiento, la planificación de horarios y las operaciones, sin que exista una visión global centralizada. Es posible que los proveedores controlen aspectos clave del funcionamiento del sistema, mientras que la documentación facilitada por la empresa sobre el funcionamiento y el uso de la herramienta sigue siendo limitada. Los responsables pueden basarse en los resultados sin comprender cómo se generan ni conocer las limitaciones del sistema. Esa falta de coordinación puede agravar el riesgo de incumplimiento normativo.

Para hacer frente a ese riesgo no es necesario esperar a que se apruebe nueva legislación. Las empresas deben realizar un inventario interno de las herramientas automatizadas que utilizan en la toma de decisiones laborales, identificar en qué casos esas herramientas influyen en decisiones concretas y asegurarse de que su uso quede documentado de forma que pueda explicarse y justificarse. Las empresas también deben evaluar si existe una revisión humana significativa antes de adoptar medidas adversas y si las relaciones con los proveedores proporcionan información suficiente sobre el funcionamiento de los sistemas, incluidas las limitaciones o supuestos incorporados en ellos. Por último, los empleadores deben evaluar si podrían explicar claramente, en caso necesario, cómo se utilizó una herramienta concreta en una decisión laboral específica.

El hecho de que el proyecto de ley del Senado n.º 7 no se haya convertido en ley y que el proyecto de ley de la Asamblea n.º 1018 se encuentre actualmente inactivo no resta importancia a su relevancia. Ambos ofrecen una clara indicación de dónde centra California su atención: no solo en los resultados, sino también en si los empleadores pueden demostrar que controlan las herramientas que utilizan. Los empleadores que adapten sus prácticas en materia de divulgación, documentación y supervisión estarán en mejores condiciones de cumplir esas expectativas, tanto en el marco de la legislación vigente como en el de cualquier marco normativo que se apruebe en el futuro.