El gobierno de Victoria anunció acciones para evitar el uso indebido de inteligencia artificial (IA) en la contratación laboral, con el objetivo de asegurar que las decisiones de contratación sean libres de sesgo o discriminación. Se prevé la creación de nuevas leyes y la lucha contra la vigilancia invasiva en el trabajo, garantizando a los trabajadores el derecho a saber si son monitoreados y la intervención humana en decisiones automatizadas significativas.
Las reacciones a la medida han sido variadas. Mientras que grupos empresariales y abogados laboralistas consideran la propuesta como una 'excesión innecesaria', los sindicatos la ven como una 'jugada inteligente'. La investigación demuestra que las herramientas de IA pueden perjudicar sistemáticamente a mujeres y personas de diversos orígenes, como se evidenció en un análisis en Estados Unidos que encontró discriminación racial contra solicitantes negros y asiáticos.
Mi propia investigación ha demostrado cómo los sistemas de contratación con IA pueden excluir a personas con discapacidad, trabajadores mayores, mujeres o quienes tienen inglés como segundo idioma, categorías protegidas por la legislación. La discriminación puede ser un resultado de los datos, el modelo algorítmico o el uso que una organización hace del sistema.
La Ley de Igualdad de Oportunidades de Victoria, redactada antes del avance de las tecnologías de IA, tiene lagunas, como la falta de obligación a los empleadores de realizar ajustes razonables para personas con discapacidad en procesos de contratación. La inclusión de sistemas de contratación de IA de terceros complica la situación.
La responsabilidad en caso de decisiones sesgadas por software de IA es un tema pendiente de aclaración: ¿corresponde al desarrollador o al empleador? Estas regulaciones buscan proteger a los candidatos de daños por sesgo en la contratación, aunque eliminar todo sesgo y discriminación en los sistemas de IA puede no ser completamente alcanzable.
Etiquetas: Tecnología, Inteligencia Artificial, Contratación, Discriminación, Legislación, Tecnología · IA general
About the Author
