Los 193 estados miembros de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) han adoptado por unanimidad una serie de recomendaciones sobre inteligencia artificial ética (IA), cuyo objetivo es aprovechar las ventajas de la tecnología y reducir los riesgos de derechos humanos asociados con su uso.
Las recomendaciones, adoptadas por todos los estados miembros, incluidos el Reino Unido y China, el 25 de noviembre de 2021, abordan cuestiones relacionadas con la transparencia, la rendición de cuentas, la vigilancia, la protección de datos, el medio ambiente, la puntuación social y más; y señaló la necesidad de que los gobiernos y las empresas de tecnología creen tecnologías de inteligencia artificial que protejan y promuevan los derechos humanos y las libertades fundamentales.
El primer borrador de la recomendación se publicó en mayo de 2020 y fue elaborado por una unidad multidisciplinaria de 24 especialistas en IA conocida como el Grupo de Expertos Ad Hoc (AHEG), que se formó dos meses antes con la tarea específica de desarrollar un marco que toma en cuenta los impactos de amplio alcance de la IA.
A continuación, el proyecto se abrió a consulta pública durante tres meses, y la recomendación final se presentó a los Estados miembros durante la 41ª reunión de la conferencia general de la Unesco, donde se adoptó formalmente.
Para guiar el desarrollo de la IA ética, la recomendación describe 10 principios, que incluyen seguridad y protección, equidad y no discriminación, proporcionalidad y no dañar, sostenibilidad, transparencia y explicabilidad, y conciencia y alfabetización, respaldados por acciones políticas más concretas sobre cómo se pueden lograr.
Por ejemplo, la recomendación promueve enérgicamente el uso de evaluaciones de impacto ético como una forma de asegurarse de que los desarrolladores e implementadores de la tecnología tengan en cuenta el impacto socioeconómico más amplio de sus sistemas, incluso en términos de protección de datos y derechos humanos, y pide a los Estados miembros que implementen “fuertes mecanismos de aplicación y acciones correctivas” para que cualquier daño causado por un sistema de IA pueda ser tratado de manera efectiva.
La recomendación también describe cómo los sistemas de IA deben y no deben implementarse: “Los Estados miembros deben introducir incentivos, cuando sea necesario y apropiado, para garantizar el desarrollo y la adopción de soluciones basadas en derechos y basadas en IA éticas para la resiliencia al riesgo de desastres; el seguimiento, protección y regeneración del medio ambiente y los ecosistemas; y la preservación del planeta.
“Estos sistemas de IA deben involucrar la participación de las comunidades locales e indígenas a lo largo del ciclo de vida de los sistemas de IA y deben apoyar enfoques de tipo de economía circular y patrones de consumo y producción sostenibles”.
Sin embargo, también agregó que si bien ningún sistema debe usarse de manera que infrinja o abuse de los derechos de las personas, “en particular, los sistemas de inteligencia artificial no deben usarse con fines de puntuación social o vigilancia masiva”.
La recomendación enfatizó además que, al desarrollar marcos regulatorios para inhibir el potencial de puntuación social o vigilancia masiva, los estados miembros deben garantizar que la responsabilidad final siempre recaiga en un ser humano, y que ninguna tecnología de IA debe tener personalidad jurídica.
“El mundo necesita reglas para que la inteligencia artificial beneficie a la humanidad. La recomendación sobre la ética de la IA es una respuesta importante ”, dijo la directora de la Unesco, Audrey Azoulay. “Establece el primer marco normativo mundial al tiempo que otorga a los Estados miembros la responsabilidad de aplicarlo a su nivel. La Unesco apoyará a sus 193 estados miembros en su implementación y les pedirá que informen periódicamente sobre sus avances y prácticas ”.
En septiembre de 2021, la Oficina de Derechos Humanos de la ONU publicó un informe (designado A / HRC / 48/31), que encontró que tanto los estados como las empresas a menudo se han apresurado a implementar sistemas de IA y en gran medida no están llevando a cabo la debida diligencia sobre cómo estos sistemas impacto en los derechos humanos.
“El objetivo de los procesos de debida diligencia en derechos humanos es identificar, evaluar, prevenir y mitigar los impactos adversos sobre los derechos humanos que una entidad pueda causar o a los que pueda contribuir o estar directamente vinculada”, dijo el informe, agregando que la debida diligencia debe ser realizado durante todo el ciclo de vida de un sistema de IA.
“Cuando los procesos de diligencia debida revelan que el uso de IA es incompatible con los derechos humanos, debido a la falta de vías significativas para mitigar los daños, esta forma de uso no debe continuar”.
La publicación del informe coincidió con los comentarios de la alta comisionada de derechos humanos de la ONU, Michelle Bachelet, quien pidió una moratoria sobre la venta y el uso de sistemas de inteligencia artificial que representan un grave riesgo para los derechos humanos con carácter de urgencia.
Los antecedentes de los miembros de la Unesco en materia de vigilancia masiva
Cabe señalar que, si bien la recomendación de la Unesco es la primera vez que China acuerda poner fin a la vigilancia masiva generalizada impulsada por la IA en un foro internacional, EE. UU. No es miembro de la Unesco y, por lo tanto, no es signatario de la recomendación, que en sí misma lo es. solo voluntario.
En octubre de 2021, el Instituto de Estudios de Desarrollo (IDS) y la Red Africana de Derechos Digitales (ADRN) publicaron un análisis comparativo de las leyes y prácticas de vigilancia de seis países africanos, incluidos Egipto, Kenia, Nigeria, Senegal, Sudáfrica y Sudán, todos de los cuales son miembros de la Unesco.
Descubrió que los gobiernos de cada país estaban utilizando e invirtiendo en nuevas tecnologías digitales para llevar a cabo una vigilancia ilegal de los ciudadanos, incluida la vigilancia móvil e Internet basada en inteligencia artificial que se puede implementar para escanear las comunicaciones electrónicas en masa.
Otros miembros de la Unesco también han llevado a cabo vigilancia masiva, incluido el Reino Unido, cuya agencia de inteligencia de señales GCHQ estaba analizando ilegalmente registros telefónicos, de Internet y de correo electrónico de ciudadanos del Reino Unido en virtud de un acuerdo secreto con su contraparte estadounidense, la Agencia de Seguridad Nacional ( NSA).
Si bien GCHQ no ha confirmado formalmente exactamente cómo usa la IA, dijo en un documento de política publicado en febrero de 2021 que la IA podría usarse de manera responsable para proteger la seguridad nacional del Reino Unido, aunque no mencionó la vigilancia.
Aunque la Unión Europea (UE) está intentando regular el uso de la IA de una manera legalmente vinculante, más de 100 organizaciones de derechos civiles, humanos y digitales han dicho que la Ley de Inteligencia Artificial (AIA) propuesta por el bloque no protegerá realmente los derechos fundamentales hasta que aborda los desequilibrios estructurales de poder.
En noviembre de 2021, un informe publicado por Human Rights Watch afirmó además que la AIA amenaza con socavar la red de seguridad social del bloque y está mal equipada para proteger a las personas de la vigilancia y la discriminación.
El investigador principal sobre inteligencia artificial y derechos humanos de Human Rights Watch, Amos Toh, dijo que la propuesta finalmente no logrará poner fin a la “vigilancia y elaboración de perfiles abusivos” de quienes viven en la pobreza. “La propuesta de la UE no hace lo suficiente para proteger a las personas de los algoritmos que les privan injustamente de los beneficios que necesitan para mantenerse o encontrar un trabajo”, dijo.