Londres publica pautas para el uso ético de la tecnología de ciudades inteligentes

Londres ha publicado la última versión de su Carta de tecnología emergente, un conjunto de pautas prácticas y éticas que describen las expectativas de la ciudad sobre cómo se deben desarrollar e implementar nuevas tecnologías habilitadas para datos para su uso en el ámbito público.

La cuarta versión de la carta, que se anunció por primera vez en julio de 2020, se basa en cuatro principios: apertura, respeto por la diversidad, ser confiable con los datos de las personas y sostenibilidad, que están diseñados para trazar un camino claro para un rango de futuro. Las tecnologías de ciudades inteligentes se pueden utilizar de forma ética.

Esto incluye automóviles sin conductor, software de reconocimiento facial, drones, redes de sensores, robótica, servicios de movilidad, realidad aumentada o virtual y sistemas de toma de decisiones automatizados o algorítmicos.

A través de estos principios, la carta tiene como objetivo establecer expectativas comunes sobre cómo los compradores y los fabricantes pueden innovar con éxito; dar a los londinenses y sus representantes electos un marco claro para hacer preguntas sobre las tecnologías que se están implementando en Londres; y mejorar la transparencia en torno a los productos y servicios que la ley de protección de datos considera de alto riesgo para la privacidad.

“Al establecer los principios de la carta de esta manera, nuestro objetivo es fomentar un entorno confiable para que florezca la innovación, y hacerlo de manera responsable en beneficio de los londinenses”, dijo.

Aunque las directrices son voluntarias, se anima a que las adopten tanto el gobierno local como las empresas de tecnología.

La carta se compartirá con el Observatorio Global de Inteligencia Artificial Urbana (AI), una iniciativa lanzada por Londres, Barcelona y Ámsterdam en junio de 2021 que tiene como objetivo monitorear las tendencias de implementación de la inteligencia artificial (AI) y promover su uso ético, como parte del Coalición de ciudades más amplia por los derechos digitales (CC4DR).

La consulta pública es vital

Redactada por el director digital de Londres, Theo Blackwell, y asesorada por un grupo de trabajo del Smart London Board, la carta se desarrolló a través de un proceso abierto de consulta pública con expertos en la materia, innovadores y los propios londinenses.

En declaraciones a Computer Weekly, Blackwell dijo que el proceso de consulta es vital para el desarrollo continuo de la carta y ya ha dado lugar a una serie de cambios importantes con respecto a versiones anteriores, incluido el enfoque en la sostenibilidad.

“Quedó muy claro que la gente quería un principio separado en torno a la sostenibilidad … cuando comenzamos pensamos ‘Simplemente abordemos el área principal de debate en torno a la ética de las nuevas tecnologías’, pero en realidad al final del proceso, y estamos Realmente me alegro de haberlo desarrollado al aire libre, esto fue parte de la discusión “, dijo, y agregó que estas interacciones llevaron a la comprensión de que, si bien muchas tecnologías de ciudades inteligentes se” perciben como virtuales “, todavía son” una gran parte de nuestro entorno físico construido ”.

Blackwell agregó que muchas cartas o pautas de ética tecnológica son elaboradas por el gobierno o la academia, que se basan en encuestas e interpretaciones de expertos de esas encuestas como su forma de compromiso con el público. “Estamos en una posición en la que tenemos la oportunidad de hablar con la gente, y obtuvimos comentarios realmente valiosos de los londinenses sobre esto”, dijo.

Otra nueva adición a la carta (que cae bajo el principio de ‘ser confiable con los datos’) es el uso de tecnologías biométricas como el seguimiento del globo ocular o la tecnología de reconocimiento facial en vivo (LFR) por parte de organismos no policiales, que se agregó en a la luz de una opinión emitida por la comisionada de información Elizabeth Denham en junio de 2021.

Al señalar en una publicación de blog en ese momento que estaba “profundamente preocupada” por el uso inapropiado e imprudente del reconocimiento facial en vivo en espacios públicos, Denham dijo que ninguna de las organizaciones investigadas por su oficina pudo justificar completamente su uso de la tecnología, lo que la llevó a publicar una “opinión del comisionado” oficial que sirva de guía para las empresas y organismos del sector público.

“Las organizaciones deberán demostrar altos estándares de gobernanza y responsabilidad desde el principio, incluida la posibilidad de justificar que el uso de LFR es justo, necesario y proporcionado en cada contexto específico en el que se implementa. Necesitan demostrar que las técnicas menos intrusivas no funcionarán ”, escribió.

Blackwell dijo que la opinión del comisionado “establece un listón muy, muy alto para el uso de estas tecnologías”, ya que las organizaciones deberían “considerar qué tecnologías alternativas podrían lograr el mismo resultado”, algo que se ha escrito directamente en la carta.

Evaluaciones de impacto de protección de datos

De acuerdo con la opinión de Denham de que cualquier organización que esté considerando implementar LFR en un lugar público debe llevar a cabo una evaluación de impacto de protección de datos (DPIA) para decidir si continuar o no con la implementación, la carta también alienta a las empresas a publicar sus DPIA completadas.

“Una DPIA es una obligación legal para identificar y minimizar los riesgos de un proyecto cuando es probable que resulte en un alto riesgo para las personas”, dijo. “Después de completar su DPIA, le recomendamos que lo publique en el GLA [Greater London Authority’s] registro central de DPIA en el almacén de datos de Londres para promover la transparencia pública y las buenas prácticas “.

Blackwell dijo que al proporcionar “un elemento de transparencia donde alguna vez hubo oscuridad … creo que ayuda a generar confianza”, y agregó que una de las mayores críticas que las personas hacen a los proyectos de ciudades inteligentes es su naturaleza, a menudo inexplicable, de caja negra.

“Uno de los desafíos de las ciudades inteligentes es que se nos impongan soluciones tecnológicas, bajo el auspicio de que ayudan a la ‘eficiencia operativa’, [meaning] es como un asunto administrativo, en lugar de algo que tiene que ver contigo en tu vida diaria “, dijo, y agregó que” con las nuevas tecnologías, la gente no suele saber las preguntas correctas para hacer a las personas responsables de comprarlas “. .

A través de este énfasis en la consulta y la transparencia dentro de la carta, y al proporcionar tanto a los ciudadanos como a los políticos un marco claro sobre cómo se deben abordar las nuevas tecnologías, Blackwell dijo que la carta permitirá una mayor calidad de escrutinio.

“El árbitro de esto es en realidad la reputación, ese es el mecanismo de ejecución aquí. Si presentamos a nuestros representantes electos un marco mediante el cual hacemos las preguntas correctas de tecnología, la calidad de la respuesta se vuelve aún más importante ”, dijo.

“Cuando decimos que la carta es voluntaria, puede parecer un poco débil, pero también es un buen marco para reunir los tipos de cosas que podrían afectar la reputación de su organización si no las considera y no explica que estas haciendo.”

En términos de cómo las empresas de tecnología han reaccionado a la carta y su desarrollo, Blackwell dijo que si bien muchos acogieron con satisfacción los principios en particular, algunos querían saber qué haría el propio Londres para “cumplir con ellos a mitad de camino” y ayudar a impulsar la innovación.

“El quid pro quo aquí es que estamos estableciendo un marco claro que le permite innovar con éxito, no necesitamos incentivos adicionales en juego”, dijo.

Nuestro objetivo fué el mismo desde 2004, unir personas y ayudarlas en sus acciones online, siempre gratis, eficiente y sobre todo fácil!

¿Donde estamos?

Mendoza, Argentina

Nuestras Redes Sociales