Cómo los estándares y la garantía están haciendo posible una IA responsable

La conversación sobre la ética digital ha llegado a un punto crítico. Si bien experimentamos una avalancha de marcos y pautas que nos dicen cómo debería ser la inteligencia artificial (IA) responsable, las organizaciones enfrentan una pregunta apremiante: ¿cómo llegamos realmente a eso?

La respuesta tal vez no esté en principios más éticos, sino en las herramientas y estándares prácticos que ya están ayudando a las organizaciones a transformar las aspiraciones éticas en realidad operativa.

El enfoque del Reino Unido respecto de la regulación de la IA, centrado en cinco principios básicos (seguridad, transparencia, equidad, responsabilidad y contestabilidad) proporciona una base sólida. Pero los principios por sí solos no son suficientes.

Lo que ha surgido es una serie práctica de estándares y mecanismos de garantía que las organizaciones pueden utilizar para implementar estos principios de manera efectiva.

Estándares y garantía

Considere cómo funciona esto en la práctica.

Cuando un proveedor de atención médica implementa IA para el diagnóstico de pacientes, no solo necesita saber que el sistema debe ser justo: necesita formas concretas de medir y garantizar que justicia.

Aquí es donde entran en juego estándares técnicos como ISO/IEC TR 24027:2021, que proporciona pautas específicas para detectar y abordar sesgos en los sistemas de IA. De manera similar, las organizaciones pueden emplear y comunicar mecanismos de garantía, como métricas de equidad y auditorías periódicas de sesgo, para monitorear el desempeño de sus sistemas en diferentes grupos demográficos.

El papel de las herramientas de aseguramiento es igualmente crucial. Las tarjetas modelo, por ejemplo, ayudan a las organizaciones a demostrar el principio ético de transparencia al proporcionar formas estandarizadas de documentar las capacidades, limitaciones y usos previstos de los sistemas de IA. Las tarjetas de sistema van más allá y capturan el contexto más amplio en el que opera la IA. Estos no son sólo ejercicios burocráticos, son herramientas prácticas que ayudan a las organizaciones a comprender y comunicar cómo funcionan sus sistemas de IA.

Más contenido para leer:  Las autoridades del Reino Unido toman medidas drásticas contra los cajeros automáticos criptográficos ilegales

Responsabilidad y gobernanza

Estamos viendo enfoques particularmente innovadores en materia de rendición de cuentas y gobernanza. Las organizaciones están yendo más allá de los modelos de supervisión tradicionales para implementar juntas de ética especializadas en IA y marcos integrales de evaluación de impacto. Estas estructuras garantizan un enfoque proactivo, asegurándose de que las consideraciones éticas no sean una ocurrencia tardía, sino que estén integradas en todo el ciclo de vida del desarrollo de la IA.

La implementación de mecanismos de contestabilidad representa otro avance significativo. Las organizaciones progresistas están estableciendo caminos claros para que las personas desafíen las decisiones impulsadas por la IA. No se trata sólo de tener un proceso de apelación, sino de crear sistemas que sean genuinamente responsables ante las personas a las que afectan.

Pero quizás lo más alentador sea cómo funcionan juntas estas herramientas. Un marco sólido de gobernanza de la IA podría combinar estándares técnicos de seguridad y protección con mecanismos de garantía de transparencia, respaldados por procesos claros de seguimiento y reparación. Este enfoque integral ayuda a las organizaciones a abordar múltiples principios éticos simultáneamente.

Las implicaciones para la industria son significativas. En lugar de ver la IA ética como un objetivo abstracto, las organizaciones la abordan como un desafío de ingeniería práctico, con herramientas concretas y resultados mensurables. Este cambio de los marcos teóricos a la implementación práctica es crucial para hacer que la innovación responsable sea alcanzable para organizaciones de todos los tamaños.

Tres prioridades

Sin embargo, persisten desafíos. La naturaleza en rápida evolución de la tecnología de IA significa que los estándares y los mecanismos de garantía deben adaptarse continuamente. Las organizaciones más pequeñas pueden enfrentar limitaciones de recursos y la complejidad de las cadenas de suministro de IA puede dificultar el mantenimiento de la coherencia en las prácticas éticas.

Más contenido para leer:  A continuación, The Very Group y otros ven poder en la plataforma

En nuestro reciente informe TechUK, exploramos tres prioridades que surgen cuando miramos hacia el futuro.

En primer lugar, debemos seguir desarrollando y perfeccionando herramientas prácticas que hagan que la implementación ética de la IA sea más accesible, especialmente para las organizaciones más pequeñas.

En segundo lugar, debemos garantizar una mejor coordinación entre diferentes estándares y mecanismos de garantía para crear vías de implementación más coherentes.

En tercer lugar, debemos fomentar un mayor intercambio de mejores prácticas entre industrias para acelerar el aprendizaje y la adopción.

A medida que la tecnología continúa avanzando, nuestra capacidad para implementar principios éticos debe seguir el ritmo. Las herramientas y estándares que hemos analizado proporcionan un marco práctico para hacer precisamente eso.

El desafío ahora es hacer que estas herramientas estén más ampliamente disponibles y sean más fáciles de implementar, asegurando que la IA responsable se convierta en una realidad práctica para organizaciones de todos los tamaños.

Tess Buckley es directora de programas de ética digital y seguridad de la IA en TechUK.

Nuestro objetivo fué el mismo desde 2004, unir personas y ayudarlas en sus acciones online, siempre gratis, eficiente y sobre todo fácil!

¿Donde estamos?

Mendoza, Argentina

Nuestras Redes Sociales