Los ministros de Relaciones Exteriores de estados de todo el mundo están pidiendo una acción multilateral para salvaguardar a la humanidad contra la creciente amenaza de los sistemas de armas autónomos (AWS), que son capaces de seleccionar, detectar y atacar objetivos con poca o ninguna intervención humana.
En noviembre de 2023, los países que participan en el Primer Comité de las Naciones Unidas (ONU), que se ocupa de cuestiones relacionadas con el desarme y la seguridad internacional, votaron abrumadoramente a favor de una resolución que subraya la “necesidad urgente” de una acción internacional para controlar el uso de AWS a nivel mundial.
A continuación, más de 900 representantes de 140 países se reunieron en la Conferencia de Viena sobre Sistemas de Armas Autónomas el 29 de abril de 2024 para debatir más a fondo las preocupaciones morales, éticas, jurídicas y humanitarias que presentan las armas impulsadas por inteligencia artificial (IA).
Durante el primer día de un evento de tres días, los ministros de Relaciones Exteriores de todo el mundo discutieron la importancia de crear nuevos instrumentos legalmente vinculantes para controlar y limitar el uso de AWS a nivel internacional.
Al señalar que la gran mayoría de los estados no quieren que existan armas totalmente autónomas y ya están pidiendo controles legales sobre el desarrollo y despliegue de tecnologías de armas autónomas, los ministros enfatizaron la necesidad de enfoques multilaterales para gobernar las AWS.
Sin embargo, también advirtieron que la falta de voluntad política de los actores clave es una barrera importante y constante para el progreso, ya que su poder e influencia dificultan la adopción de medidas multilaterales concretas sin ellos.
Detalles de la discusión
Al describir a AWS como “el momento Oppenheimer de nuestra generación”, el ministro federal de Asuntos Europeos e Internacionales de Austria, Alexander Schallenberg, dijo que su desarrollo plantea cuestiones “profundamente éticas” y “fundamentalmente políticas”. Reiteró la posición de su gobierno de que debería haber una prohibición total de versiones totalmente autónomas de armas que puedan funcionar sin intervención humana.
“Todos sabemos que cualquier pérdida de vidas humanas en un conflicto es demasiada, pero al menos asegurémonos de que la decisión más profunda y de mayor alcance –quién vive y quién muere– permanezca en manos de los seres humanos, y no de máquinas”, dijo.
Al destacar el Comunicado de Berlín firmado por 33 países de América Latina y el Caribe en febrero de 2023, el ministro de Relaciones Exteriores de Costa Rica, Arnoldo André Tinoco, agregó que la regulación efectiva de AWS era de “sumo importancia” para su país y región.
Al señalar el éxito de los esfuerzos internacionales anteriores para abordar las amenazas planteadas por las armas nucleares, las municiones de racimo y las armas biológicas, Tinoco dijo que “una mayoría real” de estados ahora quiere diálogo y cooperación para lograr un instrumento legalmente vinculante sobre AWS, y que la “creciente mayoría” está comenzando a consolidarse en una masa crítica de estados comprometidos con este objetivo común”.
Al comentar sobre la necesidad de que los estados equilibren el desarme de AWS con sus necesidades de seguridad, el secretario de Estado de Asuntos Exteriores de Noruega, Eivind Vad Petersson, dijo que el incumplimiento del derecho internacional humanitario (DIH) al utilizar armas autónomas socavará en última instancia la eficacia de las operaciones militares. , “como lamento decir que hemos visto cómo se desarrolla en Gaza”.
Añadió que si bien el DIH no es un “espacio vacío” y ya se puede aplicar al uso de AWS en conflictos, se necesita un nuevo instrumento internacional vinculante para aclarar exactamente cómo se aplica al uso de armas impulsadas por IA, así como a un instrumento vinculante adicional que prohíbe completamente el uso de armas que operen con total autonomía fuera de cualquier control humano.
Mirjana Spoljaric Egger, presidenta del Comité Internacional de la Cruz Roja (CICR), que actúa como organismo de vigilancia de conflictos globales, coincidió en que si bien todos los Estados ya tienen obligaciones en virtud de la Convención de Ginebra para garantizar que su uso de AWS sea legal, el DIH no es estático. y siempre se ha adaptado a las nuevas tecnologías y posibilidades en la guerra.
“En lo que respecta al CICR, necesitamos un marco que contenga prohibiciones explícitas”, afirmó. “Prohibiciones de sistemas de armas autónomos dirigidos a humanos y prohibiciones de sistemas de armas autónomos que sean impredecibles… [and] que de forma automática e independiente del control humano eligen objetivos, definiendo el momento y el objeto de un ataque”.
Destacando una serie de tratados aprobados en las últimas décadas sobre el uso de minas y armas químicas, por ejemplo, Spoljaric Egger añadió que estos tratados están salvando vidas a pesar de no haber sido ratificados nunca por algunos Estados, por lo que es importante no serlo “. “desanimado” por la negativa de algunos países a respaldar nuevos instrumentos internacionales.
¿Multilateralismo amenazado?
Una de las principales preocupaciones discutidas por los ministros de Asuntos Exteriores y otros funcionarios el primer día de la Conferencia de Viena es la reticencia de algunos actores clave a cooperar en la cuestión de AWS.
Al comentar sobre el trabajo de la Convención de las Naciones Unidas sobre Ciertas Armas Convencionales (CCW), que busca prohibir o restringir el uso de armas consideradas excesivamente nocivas o que tienen efectos indiscriminados, y es el principal foro internacional a través del cual se discute la regulación AWS, Jaan Tallin, cofundador del Centro para el Estudio del Riesgo Existencial de la Universidad de Cambridge, dijo que ahora está claro que el organismo está “completamente paralizado” debido a su modelo basado en el consenso que requiere que todas las delegaciones estén totalmente de acuerdo.
Si bien varios oradores destacaron el papel de “Rusia y otros” en socavar el proceso de consenso de la CCW a través de los poderes de veto de facto de cada país presente, sólo una pequeña minoría de estados se ha opuesto alguna vez a los protocolos vinculantes sobre AWS, que también incluye al Reino Unido. Estados Unidos e Israel.
Anthony Aguirre, director ejecutivo del Future of Life Institute, añadió: “Creo que tenemos que admitir que el proceso de la CCW es un callejón sin salida”. Señaló que el modelo de “consenso puro” significa que ciertos países “van a bloquear cualquier medida significativa sobre armas autónomas”.
Tanto Aguirre como Tallin dijeron que si bien es muy poco probable que se avance hacia medidas vinculantes en la CCW, no hay nada que impida a los estados desarrollar sus propias contramedidas contra AWS en este momento.
“Un tratado que limite las armas autónomas no impediría de ninguna manera que los países desarrollen defensas contra ellas”, dijo Aguirre, quien agregó que cualquier medida voluntaria introducida, aunque a menudo positiva y bien intencionada, probablemente tampoco hará nada para reducir la proliferación. de AWS. “En resumen, creo que necesitamos un nuevo tratado, y ese tratado debe negociarse en la Asamblea General de la ONU”.
Al señalar que algunos países se muestran reacios a adoptar definiciones funcionales de AWS (incluido el Reino Unido, donde el gobierno ha argumentado que una definición sería “un regalo para nuestros adversarios”), Aguirre dijo que esto era una excusa para la inacción, y señaló que otros tratados como el sobre armas biológicas no contienen definiciones precisas.
Añadió que está claro que la mayor parte del mundo está a favor de normas jurídicamente vinculantes que impidan el uso de sistemas de armas que puedan seleccionar y apuntar a humanos, por lo que cualquier afirmación de no saber qué regulación sería limitante es sólo otra excusa.
Izumi Nakamitsu, alto representante de la ONU para asuntos de desarme, estuvo de acuerdo en que “las medidas voluntarias no serían suficientes” para garantizar el control humano sobre AWS y la decisión de usar la fuerza, y señaló que cualquier instrumento legal debe prohibir la plena autonomía en materia de armas y regular todos los demás aspectos. de AWS, desde los protocolos de selección de objetivos hasta la duración de una implementación determinada.
Nakamitsu añadió que las principales barreras para el progreso en AWS son la falta de voluntad política de las principales potencias militares para colaborar con otros en el tema; un entorno geopolítico en el que esas grandes potencias no tienen confianza mutua en las discusiones multilaterales que tienen lugar; y una falta de consenso sobre las definiciones y terminología relacionadas con diversos aspectos de AWS.
Timothy Musa Kabba, ministro de Asuntos Exteriores y Cooperación Internacional de Sierra Leona, dijo que para que el multilateralismo funcione en el mundo moderno, existe una necesidad apremiante de reformar el Consejo de Seguridad de la ONU, que está dominado por los intereses de sus cinco miembros permanentes. (China, Francia, Rusia, Reino Unido y Estados Unidos).
“Creo que con el surgimiento de nuevas realidades, desde el cambio climático hasta los sistemas de armas autónomos, debemos mirar el multilateralismo una vez más”, dijo, señalando que cualquier institución nueva o reformada deberá ser inclusiva, democrática y adaptable.
Añadió que, dado el legado del colonialismo y la tecnología europeos en África –desde la llegada de los barcos de vapor que permitieron el comercio transatlántico de esclavos o los avances en energía atómica que han convertido “las costas africanas en un vertedero de desechos nucleares”– existe una verdadera preocupación por los impactos negativos de la IA y AWS en el continente.
“Estamos muy preocupados… porque la IA debería usarse para el desarrollo científico y el desarrollo sociopolítico, pero podría usarse para destruir”, dijo.
Musa Kabba concluyó que la presencia de casi todas las naciones del mundo en las discusiones en Viena fue un hito importante y agregó: “No se puede dejar de enfatizar la necesidad imperativa de que elaboremos instrumentos regulatorios jurídicamente vinculantes”.