A medida que las empresas continúan adoptando herramientas automatizadas para facilitar y hacer más eficientes las operaciones, los empleadores y los empleados deben permanecer vigilantes ante los prejuicios que están incorporados en estas herramientas. Los prejuicios de la IA pueden ser particularmente preocupantes para los empleados que trabajan en empresas que utilizan lo que se conoce como "bossware".
IA en el software de gestión
Hoy en día, más trabajadores realizan sus tareas de forma remota y sin supervisión física directa que nunca antes. Debido a esto, algunos empleadores recurren a lo que se conoce como ’bossware” para monitorear la productividad de sus empleados mediante el seguimiento de su ubicación, actividad en Internet e incluso de los pulsos de teclado.
Los empleados pueden ya sentir que el software de gestión de personal es intrusivo, pero estas herramientas pueden ser aún más problemáticas cuando son sesgados.
Pero ¿cómo puede que la IA sea sesgada? Aunque algunos programas pueden ser muy complejos, los sistemas generalmente utilizan algoritmos construidos por humanos. Cuando un programador se basa en información que no es completamente imparcial, esto puede crear sesgos. En otras palabras, la IA se basa en personas imperfectas que crean algoritmos que contienen datos basados en prejuicios existentes, lo cual puede facilitar la discriminación en el lugar de trabajo.
Llevar a cabo acciones para abordar las consecuencias del sesgo de la IA en el mundo real
Cuando las herramientas de IA resultan defectuosas, la responsabilidad recae en el empleador para solucionarlo. Puede que tenga que cambiar los algoritmos o dejar de usar una herramienta específica.
Agencias como el Departamento de Justicia y la Comisión de Igualdad de Oportunidades en el Empleo han emitido advertencias y pautas sobre el uso de la IA, pero los problemas continúan —y seguirán— surgiendo. En algunos casos, los empleadores que maltratan la IA o no adoptan las precauciones adecuadas contra la sesgo pueden enfrentar multas, sanciones e incluso acciones judiciales por discriminación.
El hecho es que algunos empleadores maltratan cosas como la inteligencia artificial porque ni entienden bien lo que implica ni piensan que habrá consecuencias. Sea como fuere, un empleador que utilice herramientas que discriminen a ciertos trabajadores puede ser considerado responsable de cualquier violación de derechos o daños que se produzcan.
