Uber enfrenta acciones legales por un sistema de verificación facial ‘racista’

Los conductores de Uber sindicalizados están emprendiendo acciones legales contra el proveedor de la aplicación de transporte privado por acusaciones de uso de tecnología de verificación facial “racialmente discriminatoria”, que, según afirman, ha dado lugar a docenas de despidos injustos.

El sistema de verificación de identificación en tiempo real de Uber utiliza Face API, un software de comparación de rostros desarrollado por Microsoft que se puede utilizar para la verificación o el reconocimiento facial, y esencialmente actúa como una herramienta de comparación, verificando las selfies tomadas por mensajeros y conductores cuando inician sesión. fotografías en la base de datos de Uber para confirmar sus identidades.

La acción legal está siendo iniciada por dos sindicatos separados, el App Drivers and Couriers Union (ADCU) y el International Workers ‘Union of Great Britain (IWGB), que afirman que el uso de la tecnología por parte de Uber ha llevado a la suspensión indebida de sus miembros. después de una identificación errónea por parte del sistema.

“Se solicita a los trabajadores que proporcionen una selfie en tiempo real y se enfrentan al despido si el sistema no logra hacer coincidir la selfie con una foto de referencia almacenada”, dijo la ADCU. “A su vez, los conductores de alquiler privados que han sido despedidos también se enfrentaron a la revocación automática de sus licencias de conductor y vehículo de alquiler privado por parte de Transport for London. [TfL]. “

En julio de 2021, Computer Weekly informó que el regulador de transporte se enfrentaba a numerosas apelaciones legales de los conductores de Uber como resultado de sus decisiones de revocar sus licencias privadas sobre la base de información errónea de los sistemas de Uber.

Más contenido para leer:  El gobierno del Reino Unido emite una guía de "seguridad por diseño" para las empresas de tecnología

En el caso ADCU, que cuenta con el respaldo de su confianza de datos asociada Worker Info Exchange y la Comisión de Igualdad y Derechos Humanos (EHRC), el sindicato ha presentado una demanda ante el Tribunal Laboral del Centro de Londres en nombre del ex mensajero de UberEats Pa Edrissa Manjang y el ex conductor de Uber Imran Javaid Raja.

“Está claro que la inteligencia artificial y la toma de decisiones automatizada pueden tener un impacto discriminatorio. Las consecuencias, en el contexto de decidir el acceso de las personas al trabajo, pueden ser devastadoras. Estos casos son de enorme importancia ”, dijo el abogado de la pareja, Paul Jennings, socio de Bates Wells. “La inteligencia artificial se está volviendo cada vez más frecuente en todos los aspectos del empleo y los tribunales establecerán principios importantes al resolver estas disputas”.

El IWGB también ha presentado un reclamo por separado por discriminación racial indirecta en nombre de un miembro anónimo, cuya cuenta, según afirma, fue cancelada luego de un error de reconocimiento facial. Además, afirmó que ha representado a más de 200 conductores y mensajeros que han sido despedidos injustamente por Uber solo en el último año por una variedad de motivos, incluidos fallos en el reconocimiento facial.

“La inteligencia artificial y la toma de decisiones automatizada pueden tener un impacto discriminatorio. Las consecuencias, en el contexto de decidir el acceso de las personas al trabajo, pueden ser devastadoras ”

Paul Jennings, Bates Wells

Ambos sindicatos enfatizaron que múltiples estudios han puesto en duda la efectividad y precisión de la tecnología de verificación facial, particularmente cuando se usa para identificar personas de color.

En 2018, por ejemplo, una investigación del MIT indicó que los sistemas de detección y reconocimiento facial de Microsoft, específicamente la API Face utilizada por Uber, tenían prejuicios raciales y de género, y encontraron que tenían tasas de error mucho más altas al identificar mujeres o personas con piel más oscura.

La naturaleza potencialmente discriminatoria del sistema de verificación facial de Uber se destacó por primera vez como un problema que afectaba a los trabajadores en marzo de 2021 cuando, como parte de una investigación para Cableado, 14 Los mensajeros de Uber Eats compartieron pruebas con el periodista independiente Andrew Kersley que mostraban cómo la tecnología no reconocía sus rostros, lo que generó amenazas de despido y cierre de la cuenta.

“Nuestra verificación de identificación en tiempo real está diseñada para proteger la seguridad de todos los que usan la aplicación Uber al ayudar a garantizar que el conductor correcto esté detrás del volante”, afirmó un portavoz de Uber en respuesta a las acciones legales separadas que están tomando los sindicatos. , así como acusaciones de que su sistema de verificación facial es racialmente discriminatorio.

“El sistema incluye una revisión humana sólida para asegurarse de que este algoritmo no tome decisiones sobre el sustento de alguien en el vacío, sin supervisión”.

Junto con la acción legal, el IWGB organizó un boicot de 24 horas a Uber el 6 de octubre de 2021 y una protesta de acompañamiento frente a la sede de la compañía en Londres el mismo día, que contó con el apoyo de Black Lives Matter UK (BLM UK).

Las demandas hechas por el IWGB incluyeron mayores ganancias para los conductores después de un aumento reciente en la comisión cobrada por Uber, así como un proceso justo y transparente para la cancelación de cuentas.

“El impacto del algoritmo de reconocimiento facial de Uber refleja una total falta de cuidado por las personas negras y sus medios de vida. La economía de los conciertos, que ya crea una inmensa precariedad para los trabajadores de llave negra, ahora se ve agravada aún más por este software que les impide trabajar en absoluto, basándose únicamente en el color de su piel. Prácticas racistas como estas deben llegar a su fin ”, dijo BLM UK.

Henry Chango López, secretario general de IWGB, agregó: “Cientos de conductores y mensajeros que sirvieron durante la pandemia han perdido sus trabajos sin ningún debido proceso o evidencia de irregularidades, y esto refleja la cultura más amplia en Uber que trata a su mayoría-BAME trabajadores como desechables. Uber debe desechar urgentemente este algoritmo racista y restablecer todos los controladores que ha eliminado injustamente “.

Una acción de huelga separada organizada por ADCU a fines de septiembre de 2021 hizo demandas similares a Uber, incluido que respetara una decisión de la Corte Suprema que dictaminó explícitamente que se debe pagar a los conductores desde el momento en que inician sesión, no solo cuando se asignan a viajes como Uber decidió. un mes después.

James Farrar, secretario general de la ADCU y director de Worker Info Exchange, dijo que Uber solo implementó el sistema de reconocimiento facial para asegurar la renovación de su licencia, que sabía que generaría tasas de falla inaceptables cuando se usa contra una fuerza laboral compuesta principalmente por personas de color. .

“Luego, Uber redobló el problema al no implementar las salvaguardas adecuadas para garantizar una revisión humana adecuada de la toma de decisiones algorítmicas”, agregó.

La ADCU y la IWGB no han sido reconocidas oficialmente por Uber, que en su lugar optó por firmar un convenio colectivo con GMB en mayo de 2021.

Si bien esta fue la primera vez que Uber reconoció a un sindicato de sus conductores en cualquier parte del mundo, el acuerdo no permite la negociación colectiva sobre las ganancias de los conductores, incluida la implementación del salario mínimo por parte de la empresa.

Nuestro objetivo fué el mismo desde 2004, unir personas y ayudarlas en sus acciones online, siempre gratis, eficiente y sobre todo fácil!

¿Donde estamos?

Mendoza, Argentina

Nuestras Redes Sociales