Desde el control del tráfico y la gestión de residuos hasta los sistemas de vigilancia biométrica y los modelos policiales predictivos, los usos potenciales de la inteligencia artificial (IA) en las ciudades son increíblemente diversos y podrían afectar todos los aspectos de la vida urbana.
En respuesta al creciente despliegue de IA en las ciudades, y la falta general de autoridad que tienen los gobiernos municipales para desafiar las decisiones del gobierno central o legislar ellos mismos, Londres, Barcelona y Ámsterdam lanzaron el Observatorio Global sobre IA Urbana en junio de 2021.
La iniciativa tiene como objetivo monitorear las tendencias de implementación de IA y promover su uso ético, y es parte de la Coalición de Ciudades por los Derechos Digitales (CC4DR), que fue creada en noviembre de 2018 por Ámsterdam, Barcelona y Nueva York para promover y defender los derechos digitales. Ahora tiene más de 50 ciudades participantes en todo el mundo.
Además de los participantes de la ciudad, el Observatorio también se gestiona en colaboración con ONU-Hábitat, una iniciativa de las Naciones Unidas para mejorar la calidad de vida en las zonas urbanas, y el grupo de investigación CIDOB-Centro de Asuntos Internacionales de Barcelona.
Según Michael Donaldson, director de tecnología (CTO) de Barcelona, el Observatorio está diseñado para ser un “espacio de colaboración e intercambio de conocimiento” donde las ciudades puedan compartir sus experiencias, tanto positivas como negativas, en el desarrollo y despliegue de sistemas de IA.
Dijo que al compartir las mejores prácticas en particular, las ciudades podrán evitar la repetición de errores anteriores al implementar sistemas de inteligencia artificial.
“Sabemos los beneficios que la IA puede brindarnos en términos de tener una administración más proactiva y mejores servicios digitales públicos, pero al mismo tiempo necesitamos introducir esa dimensión ética en torno al uso de estas tecnologías”, dijo Donaldson, y agregó que Barcelona es Actualmente se están llevando a cabo consultas públicas para definir exactamente qué es y qué no es ético en lo que respecta a la IA, trabajo que se compartirá con el Observatorio cuando se complete.
El director digital de Londres (CDO), Theo Blackwell, dijo que su equipo está adoptando un enfoque similar al desarrollar la “carta de tecnología emergente para Londres”, que también se retroalimentará en el Observatorio “para que no lo hagamos de forma aislada. y estamos aprendiendo unos de otros ”.
Blackwell dijo que, como CDO de Londres, la oportunidad de aprender de sus pares en otras ciudades y de estar en un diálogo activo con ellos es “la información más valiosa que obtengo” porque se basa en la experiencia práctica en el terreno de desplegar IA en un contexto urbano, en lugar del enfoque más legislativo de los think-tanks y los comités gubernamentales.
“No tenemos poderes para legislar aquí, pero tenemos poderes para influir”, dijo. “Las ciudades a menudo están en la cara del carbón, con nuestro personal hablando directamente con estas empresas de tecnología, y eso está un poco lejos de las personas que hacen las leyes. Podemos venir a la fiesta con esa experiencia vivida y tratar de moldearlos de una manera que garantice la protección de las personas, por un lado, pero también promueva la innovación en nuestra economía ”.
Guillem Ramírez, asesor de políticas sobre diplomacia de la ciudad y derechos digitales en el Ayuntamiento de Barcelona, dijo a Computer Weekly que este enfoque ayudará a las ciudades a colaborar internacionalmente para ver lo que significa “ético” en diferentes contextos culturales y para construir un entendimiento común de lo que significa Desarrollar la IA de forma ética.
“Lo primero que estamos haciendo es identificar los principios de lo que debe considerarse ético cuando se trata de IA”, dijo Ramírez, y agregó que el Observatorio espera tener un informe finalizado sobre esto en septiembre.
“Hemos estado discutiendo con las ciudades que forman parte de la Coalición y hemos identificado algunos de estos principios, que incluyen la no discriminación y la equidad, pero también hay seguridad cibernética, transparencia, rendición de cuentas, etc.
“Entonces lo que estamos haciendo es ponerlos en funcionamiento, no en términos de indicadores súper concretos, sino en términos de preguntas orientadoras, porque en este punto las ciudades ni siquiera están desarrollando sistemas complejos de IA, por lo que la idea es sentar las bases para escalar de una manera ética “.
Donaldson y Blackwell enfatizaron que muchas de las ciudades que participan en el Observatorio se encuentran en etapas muy diferentes de su “viaje de la IA”, y que cualquier cosa producida por el Observatorio está destinada a ayudar a guiarlos por un camino más ético.
Por el momento, muchas de las tecnologías y herramientas basadas en inteligencia artificial que se utilizan en los centros urbanos no son producto de los esfuerzos de desarrollo de las ciudades, sino que se desarrollan en el sector privado antes de ser vendidas o transferidas al sector público.
Por ejemplo, el sistema de reconocimiento facial utilizado en el Reino Unido tanto por el Servicio de Policía Metropolitana (MPS) como por la Policía de Gales del Sur (SWP), llamado NeoFace Live, fue desarrollado por la Corporación NEC de Japón.
Sin embargo, en agosto de 2020, el Tribunal de Apelación determinó que el uso de la tecnología por parte de SWP era ilegal, una decisión que se basó en parte en el hecho de que la fuerza no cumplió con su deber de igualdad en el sector público de considerar cómo sus políticas y prácticas podrían ser discriminatorias.
El fallo judicial dijo: “Por razones de confidencialidad comercial, el fabricante no está dispuesto a divulgar los detalles para que pueda ser probado. Eso puede ser comprensible pero, en nuestra opinión, no permite que una autoridad pública cumpla con su propio deber, indelegable, en virtud del artículo 149 “.
Cuando se le preguntó cómo las ciudades pueden navegar por la creciente cercanía de estas colaboraciones público-privadas, Ramírez del Ayuntamiento de Barcelona dijo que si bien las ciudades deberán encontrar un equilibrio entre la información sensible de la empresa y el interés público, “la ciudad deberá comprender cómo funciona el código, y tener transparencia procesal para entender cómo se toman las decisiones ”por los algoritmos.
Añadió: “El funcionamiento de estos sistemas debe poder explicarse, para que los ciudadanos puedan entenderlo”.
Donaldson dijo que las ciudades necesitarán desarrollar un conjunto de controles y equilibrios para descubrir cómo navegar de manera segura las asociaciones de IA público-privadas de manera que también beneficien a los ciudadanos.
“Es posible que no sepamos realmente lo que está sucediendo porque su tecnología está mucho más allá de nuestro conocimiento, pero lo que sabemos es cómo brindar servicios públicos, cómo garantizar los derechos de nuestros ciudadanos, y si su tecnología va en contra de eso, estamos Te voy a decir que te detengas ”, dijo.
Respondiendo a la misma pregunta, Blackwell dijo que la aplicación de la IA en las ciudades ocurrirá en muchos entornos diferentes, pero que, a partir de los ejemplos que ha visto, las aplicaciones más útiles se basan en casos de uso muy limitados.
“Creo que el desafío con las autoridades de la ciudad es en realidad que estas tecnologías pueden ser increíblemente útiles en casos de uso limitados”, dijo. “A veces, las grandes empresas se acercan a nosotros y dicen ‘hay una amplia gama de cosas que esta tecnología puede hacer’, y creo que el arte aquí es básicamente decir ‘no, solo necesitamos estas cosas’, y no es algo que se construye hacia un sistema universal que canta y baila, que creo que es el tipo de posición predeterminada para muchas grandes empresas de tecnología “.
Blackwell dijo que London planea permitir que las organizaciones publiquen evaluaciones de impacto de protección de datos en London Data Store para que “puedan convertirse en una herramienta menos de gestión de riesgos para los profesionales de la gobernanza de la información, y más en una herramienta de responsabilidad que dice, ‘así es como estoy lidiar con las preguntas que se hicieron sobre esta tecnología ‘, esa es una disposición clave en la carta tecnológica emergente “.