Met Police compra un nuevo sistema de reconocimiento facial retrospectivo

El Servicio de Policía Metropolitana (MPS) está implementando una nueva tecnología de reconocimiento facial retrospectivo (RFR) en los próximos tres meses, lo que permitirá a la fuerza procesar información biométrica contenida en imágenes históricas de CCTV, redes sociales y otras fuentes.

A diferencia de la tecnología de reconocimiento facial en vivo (LFR), que el MPS comenzó a implementar operativamente en enero de 2020, RFR se aplica retroactivamente a imágenes ya capturadas.

Ambas versiones de reconocimiento facial funcionan escaneando rostros y comparándolos con un conjunto de imágenes seleccionadas, también conocidas como “listas de observación”, pero la diferencia con LFR es que lo hace en tiempo real al escanear a las personas cuando pasan por la cámara. .

Una propuesta de adquisición aprobada por la Oficina del Alcalde para la Policía y el Crimen (MOPAC) a fines de agosto de 2021 muestra que se otorgó un contrato de cuatro años y tres millones de libras a Northgate Public Services para la provisión de software RFR actualizado, que dijo el MPS. ayudará a apoyar “todo tipo de investigaciones”.

El objetivo principal de RFR es ayudar a identificar a los sospechosos a partir de imágenes fijas o específicas extraídas del video, que deberán estar legalmente retenidas por la fuerza, dijo el MPS en su presentación de MOPAC.

“Estas pueden ser imágenes que han sido capturadas por cámaras en robos, asaltos, tiroteos y otras escenas del crimen. También podrían ser imágenes compartidas o enviadas por miembros del público ”, dijo.

“Además de ayudar a prevenir y detectar delitos, la búsqueda RFR también podría utilizarse para ayudar a identificar a las personas desaparecidas o fallecidas. RFR reduce el tiempo necesario para identificar a los infractores y apoya la entrega de mejores resultados de justicia penal “.

Un portavoz del alcalde de Londres dijo que la tecnología juega un papel vital para mantener seguros a los londinenses y que RFR “reducirá el tiempo que los agentes tardan en identificar a los implicados y ayudará a la policía a sacar a los delincuentes de nuestras calles y ayudar a garantizar la justicia para víctimas de delitos ”.

Preocupaciones por los derechos humanos

El uso de reconocimiento facial y otras tecnologías biométricas, especialmente por parte de los organismos encargados de hacer cumplir la ley, ha sido un tema controvertido durante mucho tiempo.

En junio de 2021, dos organismos paneuropeos de protección de datos, la Junta Europea de Protección de Datos (EDPB) y el Supervisor Europeo de Protección de Datos (SEPD), pidieron conjuntamente una prohibición general del uso de tecnologías de identificación biométrica automatizada en espacios públicos, argumentando que presentan una injerencia inaceptable en los derechos y libertades fundamentales.

“La implementación de la identificación biométrica remota en espacios de acceso público significa el fin del anonimato en esos lugares”, dijeron Andrea Jelinek, presidenta de EDPB, y Wojciech Wiewiórowski, el SEPD, en una declaración conjunta.

“Las aplicaciones como el reconocimiento facial en vivo interfieren con los derechos y libertades fundamentales hasta tal punto que pueden poner en tela de juicio la esencia de estos derechos y libertades”.

Varios grupos de campañas de derechos digitales, incluidos Big Brother Watch, Liberty, Access Now y European Digital Rights, también han pedido anteriormente la prohibición del uso de tecnologías biométricas, incluidas LFR y RFR, por motivos similares.

En declaraciones a Computer Weekly, Daniel Leufer, analista de políticas de Europa en Access Now, dijo que un problema importante con la tecnología de reconocimiento facial en general es contra quién se usa: “No van a ser personas ricas, blancas, de clase media o alta de áreas elegantes de Londres que tendrán una alta representación en esas bases de datos [the watch lists are drawn from].

“Sabemos que las personas negras son detenidas con más frecuencia en las detenciones y registros, [and] tienen una probabilidad mucho mayor de terminar en el radar de la policía debido a delitos extremadamente menores … mientras que los blancos se libran mucho más fácilmente. Todas estas cosas conducirán a la sobrerrepresentación de grupos marginados en las listas de vigilancia, lo que generará más partidos y afianzará aún más ese patrón “.

En julio de 2021, el excomisionado de biometría del Reino Unido, Paul Wiles, dijo al Comité de Ciencia y Tecnología de la Cámara de los Comunes que se necesitaba un marco legislativo explícito para regular el uso de tecnologías biométricas, y destacó que la retención de imágenes de custodia en la base de datos nacional de la policía (PND) ) como un problema importante.

Según Wiles, el PND tiene actualmente 23 millones de imágenes tomadas mientras las personas estaban bajo custodia, independientemente de si posteriormente fueron condenados. Estas imágenes de custodia se utilizan luego como base para las listas de vigilancia de reconocimiento facial de la policía, a pesar de que un fallo del Tribunal Superior de 2012 determina que el período de retención de seis años del PND es desproporcionado y, por lo tanto, ilegal.

Computer Weekly preguntó al MPS si las imágenes de custodia del PND se utilizarán como base para las listas de vigilancia de RFR, así como cómo está lidiando con la retención y eliminación de imágenes de custodia, pero no recibió respuesta al momento de la publicación.

La introducción de la RFR a escala también es preocupante desde una perspectiva de derechos humanos, agregó Leufer, porque suaviza los diversos puntos de fricción asociados con la realización de la vigilancia masiva.

“Una de las cosas que nos impidió estar en una pesadilla de vigilancia es la fricción y la dificultad de vigilar a las personas. Miras el ejemplo clásico de Alemania Oriental en el pasado, donde necesitabas que este agente individual te siguiera, interceptara tus cartas; era caro y requería una gran cantidad de mano de obra ”, dijo.

“Con CCTV, involucró a personas revisando imágenes, haciendo coincidencias manuales con bases de datos… esa fricción, el tiempo que realmente tomó hacer eso, significó que CCTV no era tan peligroso como lo es ahora. El hecho de que ahora pueda usarse para este propósito requiere una reevaluación de si podemos tener esas cámaras en nuestros espacios públicos ”.

Leufer agregó que la proliferación de dispositivos de captura de video, desde teléfonos y redes sociales hasta cámaras de timbre inteligente y CCTV, está creando una “abundancia de imágenes” que se pueden alimentar a través del sistema. Y que, a diferencia de LFR, donde las cámaras especialmente equipadas se implementan con al menos alguna advertencia por parte de la policía, la RFR se puede aplicar a metraje o imágenes capturadas con cámaras normales sin ningún conocimiento público.

“El CCTV, cuando se implementó inicialmente, era barato, fácil y rápido, y el reconocimiento facial retroactivo no era una cosa, por lo que no se tomó como una preocupación en esas evaluaciones iniciales de la necesidad de proporcionalidad, legalidad y ética. permanente de los sistemas de CCTV ”, dijo. “Pero cuando se combinan con el reconocimiento facial retroactivo, se convierten en una bestia completamente diferente”.

MPS defiende RFR

En su presentación a MOPAC, el MPS dijo que la fuerza necesitaría realizar una evaluación de impacto de protección de datos (DPIA) del sistema, que es legalmente requerida para cualquier procesamiento de datos que pueda resultar en un alto riesgo para los derechos de los datos. asignaturas. También debe completarse antes de que comience cualquier actividad de procesamiento.

Si bien la DPIA aún no se ha completado, el MPS agregó que ya ha comenzado a redactar una evaluación de impacto de igualdad (EIA) en virtud de su Deber de Igualdad del Sector Público (PSED) para considerar cómo sus políticas y prácticas podrían ser discriminatorias.

Además, señaló que “el MPS está familiarizado con el algoritmo subyacente, habiendo realizado una diligencia considerable hasta la fecha”, y que la EIA “se actualizará completamente una vez que se haya seleccionado un proveedor y se haya integrado el producto”.

En agosto de 2020, el uso de la tecnología LFR por parte de la Policía de Gales del Sur (SWP) fue considerado ilegal por el Tribunal de Apelación, en parte debido al hecho de que la fuerza no cumplió con su PSED.

Se señaló en la sentencia que el fabricante en ese caso, la firma japonesa de biometría NEC, que adquirió Northgate Public Services en enero de 2018, no divulgó los detalles de su sistema a SWP, lo que significa que la fuerza no pudo evaluar completamente la tecnología y sus impactos.

“Por razones de confidencialidad comercial, el fabricante no está dispuesto a divulgar los detalles para que pueda ser probado. Eso puede ser comprensible, pero en nuestra opinión, no permite que una autoridad pública cumpla con su propio deber indelegable en virtud del artículo 149 ”, dijo el fallo.

En respuesta a las preguntas de Computer Weekly sobre qué diligencia debida ya ha realizado, así como si se le había otorgado acceso completo a los sistemas RFR de Northgate, el MPS dijo que se les pidió a los proveedores potenciales que proporcionaran información que demostrara cómo sus respectivos productos RFR permitirían Cumplimiento de los requisitos legales, incluida la protección de datos y los deberes de igualdad.

“El proveedor seleccionado pudo señalar un desempeño muy sólido en las pruebas de proveedores de reconocimiento facial a gran escala realizadas por el Instituto Nacional de Estándares y Tecnología [NIST],” decía.

“De acuerdo con la naturaleza continua de los deberes legales, el Met continuará actuando con diligencia en el algoritmo a medida que el nuevo sistema se integre en el Met para garantizar que se logren altos niveles de desempeño en el mundo real”.

Añadió que “en línea [with the SWP court ruling] Bridges, el Met tiene la obligación de estar satisfecho “directamente, o mediante una verificación independiente, de que el programa de software no tiene un sesgo inaceptable por motivos de raza o sexo”. Antes de utilizar la tecnología NEC RFR de forma operativa, como parte de su compromiso de utilizar la tecnología de forma transparente, el Met se ha comprometido a publicar la DPIA y cómo está satisfecho de que el algoritmo cumpla con los requisitos de Bridges “.

Diseño ético

Para mitigar cualquier impacto potencialmente discriminatorio del sistema, el MPS también se comprometió a incorporar la toma de decisiones “humana en el circuito” en el proceso de RFR, mediante el cual los operadores humanos intervienen para interrogar la decisión del algoritmo antes de que se tomen medidas.

Sin embargo, un informe de julio de 2019 del Proyecto de Derechos Humanos, Big Data y Tecnología con sede en el Centro de Derechos Humanos de la Universidad de Essex, que marcó la primera revisión independiente de ensayos de tecnología LFR por parte del MPS, destacó una “presunción de intervenir” discernible entre Los agentes de policía que usaban la tecnología, lo que significa que tendían a confiar en los resultados del sistema e involucrar a las personas que, según decía, coincidían con la lista de vigilancia en uso, incluso cuando no lo hacían.

En cuanto a cómo se trata de la “presunción de intervenir” en el contexto de la RFR, el MPS dijo que el caso de uso era “bastante diferente” porque “no resulta en un compromiso inmediato” y, en cambio, es “parte de una investigación cuidadosa proceso, siendo cualquier partido un líder de inteligencia para que la investigación avance ”.

Agregó: “En cualquier caso, el sistema NEC ofrece una serie de procesos ‘diseñados en’ (relacionados con la forma en que se ve, evalúa y confirma una coincidencia), que ayudan a proteger el valor del proceso humano en el circuito. Ahora que se ha seleccionado NEC, se puede considerar que el sistema RFR se incorpora al Met y será una parte clave de la DPIA “.

Si bien la presentación de MPS decía que la fuerza consultará con el Panel de Ética de la Policía de Londres sobre el uso de la tecnología, la decisión de comprar el software se tomó sin que este proceso se llevara a cabo.

Cuando se le preguntó por qué se aprobó la propuesta de adquisición antes de que se consultara al Panel de Ética de la Policía de Londres, un portavoz del alcalde de Londres dijo: “Si bien esta es claramente una herramienta policial importante, es igualmente importante que la Policía Met sea proporcionada y transparente en el camino se utiliza para conservar la confianza de todos los londinenses.

“El London Policing Ethics Panel revisará y asesorará sobre las políticas que respaldan el uso de la tecnología RFR, y el Ayuntamiento continuará monitoreando su uso para garantizar que se implemente de una manera legal, ética y efectiva”.

El MPS dijo que, como se señaló en su presentación, el panel seguirá participando: “Como esta no es una tecnología nueva para el Met, será importante que LPEP considere las salvaguardas en el contexto del producto NEC. Esto se debe a que los diferentes proveedores adoptan enfoques de “privacidad por diseño” bastante diferentes y, por lo tanto, requieren diferentes controles y salvaguardias para su uso. Estos solo pueden ser implementados y considerados por LPEP luego de la selección de un proveedor “.

Según un informe de Wired, las versiones anteriores de la página web de reconocimiento facial de MPS en Wayback Machine muestran referencias a RFR en algún momento entre el 27 de noviembre de 2020 y el 22 de febrero de 2021.

Sin embargo, aunque el MPS dijo en esta página que estaba “considerando actualizar la tecnología utilizada” para RFR, hay muy poco disponible públicamente sobre sus capacidades existentes. Computer Weekly preguntó cuánto tiempo ha estado utilizando el MPS la tecnología RFR y si se ha implementado operativamente, pero no recibió respuesta al momento de la publicación.

¿Se utilizará RFR contra manifestantes?

Un informe de marzo de 2021 de …

Nuestro objetivo fué el mismo desde 2004, unir personas y ayudarlas en sus acciones online, siempre gratis, eficiente y sobre todo fácil!

¿Donde estamos?

Mendoza, Argentina

Nuestras Redes Sociales