En 2021, la cobertura de la tecnología y la ética fue moldeada por los impulsos para regular la inteligencia artificial (IA), especialmente cuando la implementan los organismos encargados de hacer cumplir la ley y el uso de tecnologías de identificación biométrica como el reconocimiento facial.
En la Unión Europea (UE), por ejemplo, los legisladores publicaron una versión preliminar de la Ley de Inteligencia Artificial, pero los críticos advirtieron que, si bien era un paso en la dirección correcta, haría poco para detener los abusos de derechos humanos habilitados por la inteligencia artificial.
El uso de datos por parte de la policía, incluida la forma en que se comparte la información entre la policía y otras autoridades públicas, tanto ahora como históricamente, también ha sido un foco de la cobertura de Computer Weekly 2021, que probablemente continuará en 2022 con la próxima publicación Police, Crime, Sentencing. y el proyecto de ley de Tribunales y Tribunales (PCSC) y sesiones posteriores de la Investigación de vigilancia policial encubierta (UCPI).
El papel de los sindicatos a la hora de desafiar a las empresas de tecnología también ha sido un gran foco de atención a lo largo de 2021, comenzando con una sentencia de la Corte Suprema en febrero que dictaminó que la popular aplicación de transporte privado Uber debe clasificar a sus conductores como trabajadores en lugar de autónomos.
Aquí están las 10 principales historias de tecnología y ética de Computer Weekly de 2021:
1. Se desestima la demanda por muertes mineras contra importantes empresas tecnológicas
En noviembre de 2021, un juez de un tribunal de distrito de EE. UU. Desestimó el caso legal contra cinco importantes empresas de tecnología de EE. UU. Acusadas por las familias de niños mineros del cobalto muertos o mutilados de beneficiarse a sabiendas de los abusos de los derechos humanos en la República Democrática del Congo (RDC), que Computer Weekly informó por primera vez a finales de 2019.
La demanda contra Alphabet, Apple, Dell, Microsoft y Tesla marcó el primer desafío legal de este tipo contra las empresas de tecnología, muchas de las cuales dependen de sus cadenas de suministro de cobalto para alimentar productos como automóviles eléctricos, teléfonos inteligentes y computadoras portátiles.
Según la sentencia, que las víctimas planean apelar, no había una relación causal suficientemente fuerte entre la conducta de las empresas y las lesiones de los mineros, pero los abogados que representan a las familias han dicho que “las empresas le dijeron al tribunal que son simples compradoras de cobalto y no tienen nada que ver con las minas de la República Democrática del Congo, mientras que les dicen a los consumidores que tienen control sobre sus cadenas de suministro y han promulgado “políticas” que prohíben el trabajo infantil en las minas de cobalto de las que proceden.
“Si las empresas mintieron al tribunal oa sus consumidores es una cuestión de hecho que debe decidir un jurado, no el tribunal sobre una moción procesal. Creemos que el tribunal de apelaciones estará de acuerdo con nosotros en eso “.
2. Entrevista: el conductor de Uber, Yaseen Aslam, sobre su batalla ante la Corte Suprema y lo que sigue para los trabajadores de conciertos
En febrero, una decisión unánime de la Corte Suprema del Reino Unido determinó que Uber debe clasificar a sus conductores como trabajadores, dándoles derecho a mejores condiciones y protecciones en el lugar de trabajo por primera vez.
Antes del fallo, Uber clasificaba a sus conductores como autónomos, trabajadores independientes sobre la base de que su aplicación simplemente conecta a los conductores con clientes potenciales, una posición que la compañía ha mantenido durante cuatro años de procedimientos legales y apelaciones que llevaron el caso hasta el final. La Suprema Corte.
A raíz del fallo, Yaseen Aslam, presidente de App Drivers and Couriers Union (ADCU) y uno de los dos demandantes originales en el caso Uber, habló con Computer Weekly sobre cómo comenzó el caso y sus implicaciones.
Como resultado del fallo, las estimaciones publicadas por el sindicato GMB sugieren que “decenas de miles” de conductores de Uber podrían estar en línea para recibir £ 12,000 cada uno en compensación. El bufete de abogados Keller Lenkner, que representa a unos 10,000 conductores en una acción de litigio grupal contra Uber, ha calculado de manera similar que cada conductor podría reclamar entre £ 10,000 y £ 12,000.
3.Las víctimas de los ‘policías espías’ comparten las preocupaciones actuales sobre la protección de datos
Establecida en 2015 para investigar las prácticas de las unidades policiales encubiertas, incluido el Escuadrón de Demostración Especial, que se creó en 1968 para infiltrarse en los grupos de protesta británicos como parte de la Sección Especial de la Policía Met, la Investigación de Vigilancia Encubierta comenzó su segunda fase el 21 de abril de 2021 .
Escuchó que los agentes recopilaron y difundieron un “volumen sustancial de información personal” sobre activistas de izquierda, incluidas mujeres a las que engañaron para mantener relaciones sexuales íntimas, en una vigilancia que fue “claramente desproporcionada e inapropiada”.
Los testigos también expresaron preocupación por la retención de su información personal sin su conocimiento y la medida en que afectaba y sigue afectando sus vidas. También cuestionaron si aún se está recopilando información sobre ellos.
4. El deber de violencia grave en el proyecto de ley PCSC destruiría los derechos de datos del Reino Unido
Las organizaciones de derechos humanos están haciendo sonar la alarma sobre la inclusión de medidas de reducción de la violencia en el próximo proyecto de ley de policía, delitos, sentencias y tribunales (PCSC) del gobierno del Reino Unido.
Las medidas otorgarán a la policía nuevos poderes para recopilar y compartir datos sobre personas presuntamente involucradas en “violencia grave”, pero los defensores de los derechos humanos y los grupos de la sociedad civil afirman que esto tiene el potencial de socavar los derechos de datos existentes y afianzar aún más las prácticas policiales discriminatorias.
También existe preocupación, particularmente entre los miembros de la profesión médica, de que las obligaciones impuestas a una variedad de organismos públicos, incluidos los proveedores de atención médica, de compartir datos con la policía arruinarán la confianza de las personas en esas organizaciones y les impedirán acceder a los servicios públicos esenciales fuera por temor a que la información sea utilizada injustamente en su contra.
Presentado por primera vez al Parlamento el 9 de marzo de 2021, el proyecto de ley PCSC de 308 páginas había atraído previamente críticas significativas y provocado grandes protestas en ciudades de todo el Reino Unido debido a una serie de medidas controvertidas que, por ejemplo, criminalizarían a las comunidades gitana, romaní y nómada. estilo de vida y restringir radicalmente la capacidad de protesta de las personas.
5. La propuesta de reglamento europea sobre la IA se queda corta en la protección de los derechos.
En su propuesta de Ley de Inteligencia Artificial (AIA), publicada el 21 de abril de 2021, la Comisión Europea (CE) adoptó un enfoque decididamente basado en el riesgo para regular la tecnología, centrándose en establecer reglas sobre el uso de “alto riesgo” y “prohibido ”Prácticas de IA.
Sin embargo, en declaraciones a Computer Weekly, las organizaciones y los expertos en derechos civiles digitales afirman que la propuesta reguladora de la CE está a favor de las organizaciones, tanto públicas como privadas, que desarrollan e implementan tecnologías de inteligencia artificial, que esencialmente tienen la tarea de hacer ejercicios de tachar casillas, aunque son comunes. a las personas se les ofrece poca protección o reparación.
Esto es a pesar de que están sujetos a sistemas de inteligencia artificial en una serie de contextos de los que no necesariamente pueden optar por no participar, como cuando los utilizan los organismos encargados de hacer cumplir la ley o de inmigración.
6. TfL bajo fuego por confiar en los datos de verificación facial de Uber en las decisiones sobre licencias
La dependencia de Transport for London (TfL) de la información del sistema de identificación del conductor basado en verificación facial de Uber fue objeto de un mayor escrutinio en julio, luego de múltiples casos de identificación errónea que llevaron a conductores sindicalizados a perder sus licencias de alquiler privado.
Como resultado, el regulador de transporte se enfrenta a numerosas apelaciones legales de los conductores de Uber sobre la base de que no realizó sus propias investigaciones sobre los incidentes y, en cambio, se basó únicamente en la evidencia del software de verificación facial de Uber.
Los conductores también han argumentado que, a pesar de que estaban disponibles otras sanciones, TfL optó de inmediato por la revocación de la licencia, lo que puede afectar gravemente a los medios de vida de los conductores si no pueden operar legalmente su vehículo.
7. Las principales empresas de capital riesgo no protegen los derechos humanos
Las empresas de capital de riesgo (VC) y los aceleradores de tecnología de alto perfil no están llevando a cabo la debida diligencia en materia de derechos humanos en sus inversiones, lo que significa que no pueden estar seguros de que las empresas en las que invierten no están causando o contribuyendo a abusos de los derechos humanos.
En su primera revisión de las responsabilidades de los capitalistas de riesgo en materia de derechos humanos, Amnistía Internacional encuestó a todas las empresas incluidas en la lista del Venture Capital Journal de las 50 empresas de capital riesgo más importantes, así como a las importantes aceleradoras tecnológicas Y Combinator, 500 Startups y TechStars.
Encontró que solo una empresa de capital de riesgo contaba con procesos de debida diligencia que podrían cumplir potencialmente los estándares establecidos por las Naciones Unidas.
El informe de Amnistía señaló que los capitalistas de riesgo suelen dedicar recursos sustanciales a llevar a cabo la debida diligencia en otros aspectos de sus posibles inversiones, con un acuerdo promedio que tarda 83 días en cerrarse y la empresa promedio gasta 118 horas examinando y evaluando la propuesta.
8. Prohibir el uso del reconocimiento facial por parte de la policía del Reino Unido, dijo la Cámara de los Lores.
En la evidencia presentada al Comité de Justicia y Asuntos Internos del Lores sobre el uso de herramientas algorítmicas avanzadas por parte de las fuerzas del orden, los expertos cuestionaron la proporcionalidad y eficacia de cómo la policía del Reino Unido ha implementado la tecnología de reconocimiento facial, así como su base legal.
Karen Yeung, una profesora interdisciplinaria en derecho, ética e informática en la Facultad de Derecho de Birmingham, señaló, por ejemplo, que en 11 despliegues de prueba llevados a cabo por la policía del Met, solo se realizaron de 9 a 10 arrestos sobre la base de alrededor de 500,000 exploraciones faciales .
Todo esto significa el seguimiento de la ubicación en tiempo real de muchos, muchos cientos de miles de británicos que se ocupan de sus asuntos legales, sin molestar a nadie, dijo.
9. Vigilancia estatal ilegal en África ‘llevada a cabo con impunidad’
Los gobiernos de África están llevando a cabo una vigilancia digital ilegal de sus ciudadanos con impunidad, a pesar de que los derechos de privacidad están bien protegidos en el papel, según un análisis comparativo de las leyes y prácticas de vigilancia en seis países africanos publicado en octubre.
El análisis, realizado por el Instituto de Estudios de Desarrollo (IDS) y la Red Africana de Derechos Digitales, reunió seis informes de investigación separados que analizan cómo los gobiernos de Egipto, Kenia, Nigeria, Senegal, Sudáfrica y Sudán están utilizando e invirtiendo en nuevos tecnologías digitales para realizar vigilancia ilegal a los ciudadanos.
En declaraciones a Computer Weekly, el editor del informe e investigador digital en IDS, Tony Roberts, dijo que existen vínculos claros entre la vigilancia llevada a cabo bajo el colonialismo formal y la vigilancia que se lleva a cabo ahora. “Bajo el dominio colonial, la Brigada Especial del Reino Unido espiaba a sus oponentes políticos”, dijo. “Cuando esos oponentes del dominio colonial llegaron al poder después de la independencia, algunos de ellos retuvieron ramas especiales y desarrollaron sus propios sistemas de vigilancia.
“Con el tiempo se han ido incorporando nuevas tecnologías de vigilancia. Son suministrados por el Reino Unido, Francia y otros países del norte global. El Reino Unido siguió utilizando la interceptación de señales. [techniques] realizar la vigilancia de las antiguas colonias posteriores a la independencia. Las continuidades son claras “.
10. Límite de datos de la UE de Microsoft denominado “humo y espejos”
En mayo, Microsoft se comprometió a almacenar y procesar todos los datos de sus clientes de la Unión Europea (UE) dentro del bloque mediante la creación de un “límite de datos de la UE”, pero los expertos en protección de datos criticaron la medida como una admisión tácita de que los datos se procesan habitualmente en otros lugares.
Alexander Hanff, fundador de Think Privacy y asesor principal de privacidad en Amari.ai, por ejemplo, describió la medida de Microsoft como “humo y espejos”, afirmando que no había una forma viable de proteger los datos de los ciudadanos europeos para que no se transfirieran al extranjero a los EE. UU. , donde existe un estándar más bajo de protección de datos.
Hanff agregó que era de conocimiento público que Microsoft está sujeto a una “gran cantidad de solicitudes de agencias de vigilancia gubernamentales” en los EE. UU., Como lo demuestran sus informes semestrales de transparencia, en virtud de la Ley de Vigilancia de Inteligencia Extranjera y la Ley de la Nube, y que sería ingenuo en este contexto pensar que no estaban haciendo solicitudes para acceder a los datos de los europeos.
Específicamente, la Sección 702 de la FISA permite al fiscal general de los EE. UU. Y al director de servicios de inteligencia autorizar conjuntamente la vigilancia dirigida de personas fuera de los EE. UU., Siempre que no sean ciudadanos de EE. UU., Mientras que la Ley de la Nube le da al gobierno de EE. UU. Acceso a cualquier datos, almacenados en cualquier lugar, por corporaciones estadounidenses en la nube.
Una investigación de Computer Weekly reveló en diciembre de 2020 que las fuerzas policiales del Reino Unido estaban procesando ilegalmente datos personales de más de un millón de personas en el servicio de nube pública de hiperescala Microsoft 365, después de no cumplir con los requisitos contractuales y de procesamiento clave dentro de la Ley de Protección de Datos de 2018, como la estrictas restricciones impuestas a las transferencias internacionales.