Las grandes empresas tecnológicas están dispuestas a desechar las salvaguardias de inteligencia artificial (IA) para mantenerse al día con los competidores, arriesgándose a una “carrera armamentista” hasta el fondo, se advirtió a los parlamentarios.
El Comité de Ciencia y Tecnología de la Cámara de los Comunes inició una investigación sobre el “marco pro-innovación para regular la IA” propuesto por el gobierno del Reino Unido en octubre de 2022, para examinar su enfoque y garantizar que la tecnología se utilice de manera ética y responsable.
Dirigiéndose al comité en la primera sesión de su investigación a fines de enero de 2023, Michael Osborne, profesor de aprendizaje automático en la Universidad de Oxford y cofundador de la plataforma de IA responsable Mind Foundry, dijo que el surgimiento de una carrera armamentista de IA es un “preocupante”. desarrollo”, porque señala el inicio de una carrera a la baja en términos de salvaguardias y estándares.
Si bien las carreras armamentistas generalmente se refieren a la competencia militar entre estados-nación, lo que está sucediendo con la IA, Osborne dijo que las aplicaciones civiles de la tecnología podrían otorgar enormes ventajas a quien sea capaz de desarrollar primero “una IA realmente sofisticada”.
Al señalar que los fundadores de Google, Larry Page y Sergei Brin, fueron llamados recientemente a la empresa (después de dejar sus roles diarios en 2019) para consultar sobre su futuro de IA, Osborne agregó que el lanzamiento de ChatGPT por parte de OpenAI en noviembre de 2022 ha ejercido una “presión competitiva”. ” sobre las grandes empresas tecnológicas que desarrollan tecnología similar que podría ser peligrosa.
“Google ha dicho públicamente que está dispuesto a ‘recalibrar’ el nivel de riesgo y asume cualquier lanzamiento de herramientas de IA debido a la presión competitiva de OpenAI”, dijo.
“Las grandes firmas tecnológicas ven a la IA como algo muy, muy valioso, y están dispuestas a deshacerse de algunas de las salvaguardas… y adoptar una perspectiva mucho más de ‘moverse rápido y romper cosas’, lo que trae consigo enormes riesgos. ”
Agregó, sin embargo, que la carrera armamentista de la IA no se limita a las empresas tecnológicas que compiten por el dominio en el sector privado, y que ya existe una carrera armamentista de IA motivada geopolíticamente entre EE. UU. y China, como “el actor que domina una IA particular”. la tecnología primero puede tener enormes ventajas estratégicas” tanto en términos militares como económicos.
“Parece haber esta voluntad de tirar la seguridad y la precaución por la ventana y simplemente correr lo más rápido posible hacia la IA más avanzada”, dijo. “Creo que esas dinámicas son las que debemos descartar absolutamente lo antes posible. [via regulation]. Realmente necesitamos adoptar el principio de precaución e intentar jugar tanto tiempo como podamos”.
Osborne agregó que si bien será difícil lograr un consenso internacional sobre la regulación de la IA, es posible: “Hay algún motivo para la esperanza en que hemos sido bastante buenos en la regulación del uso de armas nucleares, al menos durante varias décadas, donde hay un un tipo similar de ventaja estratégica si alguien fuera capaz de usarlos con éxito”.
En junio de 2018, el inversionista ángel Ian Hogarth predijo el surgimiento de lo que llamó “nacionalismo de IA”, argumentando que el potencial transformador de la IA provocará “una carrera armamentista acelerada… entre países clave…[where] veremos una mayor acción estatal proteccionista para apoyar a los campeones nacionales, bloquear las adquisiciones por parte de empresas extranjeras y atraer talento”.
Agregó: “Si bien la idea de la IA como un bien público me brinda personalmente un verdadero norte, creo que es ingenuo esperar que podamos dar un gran salto allí hoy, dados los intereses creados y los incentivos desalineados de los estados nacionales, for- las empresas tecnológicas lucrativas y la debilidad de las instituciones internacionales”.
Cambios sociales impulsados por la IA
Osborne dijo a los parlamentarios que, además de la necesidad de evitar una carrera armamentista sobre la tecnología, los legisladores también deben comenzar a prepararse para los cambios sociales que la IA podría provocar, que comparó con los cambios de paradigma provocados por el automóvil o Internet.
“Se podría decir que la IA ya está en una escala similar, de poder impactar en una variedad muy amplia de esfuerzos humanos diferentes”, dijo. “Cuando el mundo cambia mucho, por supuesto, se plantean riesgos, y hay ganadores y perdedores, por lo que tenemos que prepararnos para esos cambios rápidos”.
Agregó que en un futuro cercano, sería razonable esperar un alto nivel de disrupción económica de la IA, “incluida mucha rotación en los mercados laborales a medida que las tareas y ocupaciones se vuelven más automatizadas”.
Michael Cohen, un erudito de DPhil en la Universidad de Oxford que estudia la seguridad de la IA, agregó que la IA permitiría que “la producción económica de los humanos se produzca de manera mucho más económica” si avanza lo suficiente, lo que podría tener un impacto en la producción económica similar al del motor de combustión. .
Sin embargo, dijo que si bien el motor de combustión reemplazó a los caballos porque podía replicar completamente su papel en la economía como transporte, la IA todavía es demasiado rudimentaria para replicar completamente una amplia gama de actividades humanas complejas.
Osborne agregó que si bien hay ejemplos genuinos en los que la IA podría reemplazar el trabajo humano, por ejemplo, operar en entornos extremos como el espacio, la IA debe pensarse y conceptualizarse como un aumento del trabajo humano.
“[Although] Es posible que la IA no reemplace las ocupaciones mayoristas… sin duda, la tecnología que tenemos ya tiene un enorme potencial de transformación en toda la economía y en la sociedad en general”, dijo.
Dada la diversidad de la IA como tecnología, Osborne concluyó que cualquier regulación debe ser lo más flexible y sin perspectivas posible en su definición de lo que constituye un sistema de IA, de modo que ciertos casos de uso (y sus implicaciones más amplias) no se descarten o pasen por alto. .