El Parlamento Europeo ha votado a favor de una propuesta que permite a la agencia internacional contra el crimen Europol intercambiar información más fácilmente con empresas privadas y desarrollar herramientas policiales impulsadas por inteligencia artificial (IA).
La propuesta fue presentada por la Comisión de Libertades Civiles, Justicia y Asuntos de Interior (LIBE) del Parlamento y hace notables ampliaciones del mandato de Europol en tres áreas principales, incluida su cooperación con particulares y el tratamiento de datos personales en apoyo de investigaciones penales. y su papel en la investigación y la innovación.
Sin embargo, grupos de derechos civiles dicen que el mandato propuesto representa un “cheque en blanco” para que la policía cree sistemas de inteligencia artificial que corran el riesgo de socavar los derechos humanos fundamentales.
Según el mandato propuesto, que se aprobó con 538 votos contra 151, Europol tendrá la capacidad de procesar los datos proporcionados por cualquier empresa privada, incluidas las grandes empresas de tecnología, así como cualquier tercer país que entregue voluntariamente los datos.
Europol también podrá identificar temas para los programas de investigación de la UE, formalizando su capacidad para entrenar algoritmos y desarrollar nuevas herramientas para que las utilicen las fuerzas del orden en todo el bloque, además de actuar como procesador de grandes cantidades de datos.
El Parlamento también aprobó una propuesta separada por la que se modifica el Reglamento del Sistema de Información de Schengen (SIS) para permitir que Europol ponga los datos de terceros países a disposición de los funcionarios de primera línea, con 545 votos contra 147.
Al otorgar a Europol la capacidad de enviar sus propias alertas del SIS, las autoridades nacionales europeas ya no necesitarán autorización judicial para acceder a los datos de la agencia, ya que estará facultada para realizar sus propias entradas en la base de datos de la UE.
Tras la votación, la Comisión Europea (CE), el Parlamento y el Consejo deben ahora negociar una versión final del mandato de Europol entre ellos.
El Consejo Europeo acordó su mandato de negociación en junio de 2021, que está en línea con los cambios propuestos que acaba de votar el Parlamento.
Los eurodiputados contradicen la votación anterior que se opone a ciertos usos de la inteligencia artificial por parte de la policía
Los eurodiputados de la comisión LIBE votaron anteriormente a favor de la propuesta de prorrogar el mandato de Europol el 12 de octubre de 2021, con 47 a favor y 16 en contra. De los que respaldaron la propuesta, todos pertenecían al Partido Popular Europeo (PPE), a las delegaciones centrista Renovar o de centroizquierda Socialistas y Demócratas, mientras que los que votaron en contra eran de las delegaciones Verdes o de Izquierda.
Sin embargo, una semana antes, el 5 de octubre, el Parlamento aprobó un informe de la comisión LIBE sobre el uso de IA por parte de la policía en Europa, que se opuso al uso de la tecnología para “predecir” comportamientos delictivos y pidió la prohibición de la vigilancia biométrica masiva.
Mientras que algunos miembros de centro derecha de LIBE del grupo del PPE presionaron por tres enmiendas al informe del comité que habrían facilitado que la policía europea pudiera llevar a cabo análisis predictivos y vigilancia biométrica, lo que los críticos de la sociedad civil afirmaron en ese momento habrían debilitado la si se acepta el compromiso del bloque con los derechos humanos fundamentales, también fueron rechazados por el Parlamento en general el 5 de octubre.
El texto completo del informe LIBE identifica claramente que muchas técnicas de identificación impulsadas por la inteligencia artificial que se utilizan hoy en día “identifican y clasifican erróneamente de manera desproporcionada y, por lo tanto, causan daño a las personas racializadas, las personas que pertenecen a ciertas comunidades étnicas, las personas LGBTI, los niños y los ancianos, así como como mujeres ”.
Además, “destaca la asimetría de poder entre quienes emplean tecnologías de inteligencia artificial y quienes están sujetos a ellas”, y pide la prohibición absoluta del uso de tecnologías relacionadas con la inteligencia artificial para proponer decisiones judiciales; para cualquier procesamiento biométrico que conduzca a la vigilancia masiva en espacios públicos; y para la puntuación masiva de individuos.
Al dirigirse al Parlamento Europeo el 21 de octubre de 2021 antes de la votación del mandato, la eurodiputada verde Saskia Bricmont dijo: “Autorizar a Europol a desarrollar proyectos de investigación e innovación de inteligencia artificial para usos policiales y experimentales, y promover la tecnología para el reconocimiento facial, es algo que el Parlamento se opuso hace apenas dos semanas “.
Añadió que la “comisión está proponiendo una reforma que legalizaría las prácticas ilegales” de Europol, refiriéndose a la decisión del Supervisor Europeo de Protección de Datos (SEPD) de septiembre de 2020 de amonestar a la agencia por sus prácticas de procesamiento de datos.
En concreto, el SEPD constató que Europol fue más allá de su mandato actual al recopilar datos personales de personas que no habían participado en ninguna actividad delictiva.
Un cheque en blanco para desarrollar sistemas de IA de alto riesgo
Aunque ahora el consejo de administración de Europol deberá nombrar a un responsable de derechos fundamentales tras la votación del Parlamento, y el SEPD supervisará las operaciones de procesamiento de datos personales de la agencia, Fair Trials, una organización no gubernamental (ONG) que hace campaña por una justicia más justa sistema global – ha dicho que el nuevo mandato dará efectivamente a Europol un “cheque en blanco” para usar y desarrollar aún más sistemas de IA de alto riesgo para la policía.
“Estamos profundamente decepcionados y preocupados por la votación de hoy para ampliar el mandato de Europol. Los eurodiputados ya han reconocido la grave amenaza que supone la inteligencia artificial en el ámbito policial para los derechos fundamentales. No podemos entender por qué ahora han dado rienda suelta a Europol para desarrollar y utilizar estas mismas herramientas que refuerzan la discriminación y socavan los derechos humanos ”, dijo Laure Baudrihaye-Gérard, directora legal y política de Fair Trials.
“Todas las agencias de aplicación de la ley deben operar con responsabilidad y supervisión significativa. No hay ninguna razón por la que Europol deba estar exenta de estas obligaciones “.
Agregó que, si bien la Ley de Inteligencia Artificial (AIA) propuesta por la CE aún debe debatirse en el Parlamento Europeo, ya contiene exenciones específicas para Europol, lo que significa que la agencia y cualquier sistema de inteligencia artificial que implemente no estarán sujetos a las salvaguardias.
Estas excepciones se pueden encontrar en el artículo dos del AIA y en el considerando 11 del preámbulo, que menciona específicamente a Europol.
Expertos y organizaciones en derechos civiles digitales, incluidos Access Now y European Digital Rights (EDRi), han dicho anteriormente a Computer Weekly que la AIA no protegería los derechos fundamentales, alegando que esencialmente actuaría como luz verde para una serie de usos de alto riesgo. casos por su énfasis en las normas técnicas y la mitigación de riesgos sobre los derechos humanos.
Según Baudrihaye-Gérard, la extensión del mandato de Europol en combinación con las exenciones de la AIA permitiría efectivamente a la agencia del crimen operar con poca responsabilidad y supervisión cuando se trata de desarrollar y usar la IA para la vigilancia.
“Se trata de una excepción masiva que permitiría a Europol operar sin más reglamentación que la prevista en su mandato, que ahora se ampliará aún más”, dijo.
“Teniendo en cuenta la votación de hoy, vamos por un camino en el que se permite que Europol opere con poca responsabilidad o supervisión. Nadie está haciendo preguntas. Nadie está exigiendo cuentas a la agencia. Es profundamente preocupante para los derechos fundamentales, incluido el derecho a un juicio justo y la presunción de inocencia ”.
Si bien los críticos afirman que el mandato refundido de Europol contradice la votación anterior de los eurodiputados sobre el uso de la inteligencia artificial por parte de la policía europea, su ponente, el miembro del PPE Javier Zarzalejos, argumentó que este no era el caso.
“La reforma del mandato de Europol es una petición de larga data de este Parlamento, y está motivada principalmente por la necesidad de dotar a la agencia de nuevas herramientas y capacidades para afrontar la transformación digital”, dijo a los eurodiputados antes de la votación.
“Los delincuentes han adaptado su modus operandi a la nueva realidad digital y, en consecuencia, es necesario permitir que Europol apoye mejor a los Estados miembros en la lucha contra estas amenazas de seguridad en evolución”.
Añadió que el nuevo mandato introduciría salvaguardias adicionales para garantizar que se respeten los derechos fundamentales.