La policía del Reino Unido no tiene los recursos para examinar adecuadamente sus implementaciones de nuevas tecnologías algorítmicas y recibe muy poca capacitación sobre cómo operar los sistemas introducidos, dijeron a Lords oficiales de policía y personal de alto rango.
En declaraciones al Comité de Justicia y Asuntos Internos de los Lores, que abrió una investigación sobre el uso de herramientas algorítmicas avanzadas por parte de las fuerzas del orden público en mayo de 2021, el asesor científico jefe de policía nacional del Consejo del Jefe de la Policía Nacional (NPCC), Paul Taylor, destacó el conflicto intereses entre las fuerzas policiales y sus proveedores de tecnología.
“Para poder escudriñar suficientemente estas nuevas tecnologías y todas las permutaciones, para poder decirle al 100% qué están y qué no están haciendo, se requiere un nivel de recursos que simplemente no tenemos: la cantidad de pruebas y pruebas y la prueba que uno necesitaría simplemente no está ahí ”, dijo.
“Si me dirijo a la industria y digo ‘Te haré responsable’, entonces querrán hacer un nivel de prueba que probablemente haga que la inversión en esa tecnología ya no sea viable; no es un producto interesante para que se involucren.
“Hay una tensión ahí [because] no queremos sofocar el mercado diciendo que tienes que hacer todo esto [testing], pero igualmente, por supuesto, necesitamos que lo hagan, y eso es un verdadero desafío para nosotros ”, dijo Taylor.
Agregó que parte del problema es que la policía a menudo está tomando una tecnología bastante madura y tratando de implementarla en un contexto policial para el que no fue diseñada explícitamente.
“En mi opinión, las adquisiciones realmente deben ser mucho más ascendentes para que estemos trabajando con los proveedores, ya sean académicos o industrias, para que cuando desarrollen sus productos, en una etapa mucho más temprana, piensen en cuestiones de justicia y cómo funcionará en la policía, y están diseñando cosas que encajan ”, dijo.
Comités de ética
Taylor agregó además que muchas de las 43 fuerzas en Inglaterra y Gales han establecido comités de ética para tratar específicamente con la introducción y operación de nuevas tecnologías, a las que su rol como científico jefe proporciona una capa adicional de escrutinio independiente.
Alun Michael, líder conjunto de datos y bioética en la Asociación de Comisionados de Policía y Crimen (APCC), dijo que la policía y los comisionados de delincuencia (PCC) también realizan el escrutinio, un cargo electo introducido por la Ley de Responsabilidad Social y Reforma Policial de 2011 hacer que las fuerzas policiales respondan mejor a sus comunidades locales.
Sobre si los oficiales de policía reciben la capacitación adecuada para poder operar de manera confiable y efectiva las nuevas tecnologías algorítmicas que se están introduciendo, David Tucker, el líder de la facultad en crimen y justicia penal en la Facultad de Policía, dijo que si bien hay capacitación implementada a nivel nacional para En los sistemas de todo el Reino Unido como la Computadora Nacional de la Policía (PNC) y la Base de Datos Nacional de la Policía (PNC), no existe capacitación para la mayoría de las otras tecnologías como el reconocimiento facial, ya que se adquieren localmente.
“Hay programas nacionales de capacitación para ellos porque son productos nacionales”, dijo. “Para la mayoría de las otras tecnologías, se adquieren localmente, por lo que no es algo que el College [of Policing], como proveedor nacional de formación, podría hacerlo “.
Añadió que “en realidad hay muy poca formación obligatoria en el ámbito policial”, y que ya sea que la formación se diseñe y se imparta a nivel nacional o local, la enseñanza de todos los agentes de policía del Reino Unido se basa en “responsabilidad, transparencia, ética [and] legalidad”.
Tanto Tucker como Taylor agregaron además que la capacitación, sin embargo, la brindan los propios proveedores de tecnología.
Citando una falta de claridad, Lords solicitó un desglose completo del “árbol genealógico de las organizaciones”, incluidos los PCC, el NPCC, el APCC, los diversos comités de coordinación nacional y más, que son responsables del funcionamiento de las nuevas tecnologías en la policía.
Incorporar un mejor escrutinio a través de prácticas de adquisiciones
En el Reino Unido, las autoridades públicas están obligadas en virtud del Public Sector Equality Duty (PSED) a considerar, por ejemplo, cómo sus políticas y prácticas podrían ser discriminatorias. Sin embargo, debido a que las empresas privadas de las que estas autoridades adquieren tecnologías a menudo quieren proteger su propiedad intelectual y secretos comerciales, puede haber intereses en competencia.
En agosto de 2020, por ejemplo, el Tribunal de Apelación consideró ilegal el uso de la tecnología de reconocimiento facial en vivo por parte de la Policía de Gales del Sur, en parte debido al hecho de que la fuerza no cumplió con su PSED.
Se señaló en la sentencia que el fabricante en ese caso, la firma japonesa de biometría NEC, no divulgó los detalles de su sistema a SWP, lo que significa que la fuerza no pudo evaluar completamente la tecnología y sus impactos.
En octubre de 2021, el comité escuchó a Sandra Wachter, profesora asociada e investigadora principal de la Universidad de Oxford, que si bien se debe lograr un equilibrio entre los intereses comerciales y la transparencia, las personas tienen derecho a saber cómo las decisiones que cambian la vida sobre ellos están hechos.
“Cuando la gente no quiere decirte cómo [an algorithm] está funcionando, es porque no quieren o porque no saben ”, dijo. “No creo que ninguno de los dos sea aceptable, especialmente en el sector de la justicia penal.
“Cuando la gente dice que se trata solo de secretos comerciales, no creo que sea una respuesta aceptable. Alguien tiene que entender lo que realmente está pasando. La idea de que la libertad y la libertad pueden ser superadas por intereses comerciales, creo, sería irresponsable, especialmente si hay una manera de encontrar un buen término medio en el que se pueda comprender completamente lo que hace un algoritmo … sin revelar todos los secretos comerciales. “
Sobre la incorporación de mejores prácticas de adquisiciones en la vigilancia, Tucker dijo que las fuerzas deben ser “clientes inteligentes” al comprender el problema que están tratando de resolver y cómo la tecnología contribuirá a ese proceso de resolución de problemas.
“Donde no es posible hacer esas pruebas con anticipación, hay [needs to be] líneas de base claras para que se pueda realizar la evaluación y para que la gente pueda evaluar si esa tecnología está entregando lo que se supone que debe ofrecer ”, dijo.
En octubre de 2021, Karen Yeung, profesora interdisciplinaria de Derecho, Ética e Informática de la Facultad de Derecho de Birmingham, dijo al mismo comité en octubre de 2021 que un problema clave con el despliegue policial de nuevas tecnologías es que las autoridades han comenzado a usarlas “solo porque podemos … sin evidencia clara ”sobre su eficacia o impactos.
Dichas tecnologías incluyen herramientas de “predicción” algorítmica de delitos y reconocimiento facial, como la Matriz de pandillas de MPS o la Herramienta de evaluación de riesgos de daños de la Policía de Durham.
Yeung señaló además que el uso de tales tecnologías por parte de la policía, especialmente sin pruebas científicas rigurosas, tiene el potencial de atrincherar masivamente las discrepancias de poder existentes en la sociedad, ya que “la realidad es que hemos tendido a usar los datos históricos que tenemos, y tener datos en las masas, principalmente sobre personas de entornos socioeconómicos más bajos ”.