Las empresas de redes sociales deben implementar controles de edad efectivos y “algoritmos tóxicos domesticados” que recomienden contenido dañino a los niños, según los nuevos códigos de práctica de seguridad de Ofcom.
Publicados por Ofcom el 8 de abril de 2024, los códigos de seguridad para niños contienen más de 40 medidas diseñadas para ayudar a las empresas de redes sociales a cumplir con las nuevas obligaciones legales que les impone la Ley de Seguridad en Línea (OSA) para proteger a los menores de 18 años que utilizan sus servicios.
Aprobadas en octubre de 2023, las obligaciones impuestas por la OSA a las plataformas digitales significan que deben evitar que los niños accedan a contenidos dañinos o inapropiados para su edad (como pornografía o publicaciones que promuevan la autolesión); hacer cumplir los límites de edad e implementar medidas de control de la edad; y realizar evaluaciones de los peligros que sus servicios representan para los niños.
También incluye la obligación de eliminar rápidamente el contenido ilegal o evitar que aparezca.
Según los códigos, Ofcom espera que todos los servicios de Internet a los que puedan acceder los niños (incluidas las redes sociales y los motores de búsqueda) lleven a cabo controles rigurosos de la edad; configurar sus algoritmos para filtrar el contenido más dañino de los feeds de estos niños; e implementar procesos de moderación de contenido que garanticen que se tomen medidas rápidas contra este contenido.
“De acuerdo con las nuevas leyes de seguridad en línea, nuestros códigos propuestos asignan firmemente a las empresas tecnológicas la responsabilidad de mantener a los niños más seguros. Tendrán que dominar algoritmos agresivos que envían contenido dañino a los niños en sus feeds personalizados e introducir controles de edad para que los niños obtengan una experiencia adecuada para su edad”, dijo la directora ejecutiva de Ofcom, Melanie Dawes.
“Nuestras medidas, que van mucho más allá de los estándares actuales de la industria, supondrán un cambio radical en la seguridad en línea para los niños en el Reino Unido. Una vez que entren en vigor, no dudaremos en utilizar toda nuestra gama de poderes de aplicación para exigir que las plataformas rindan cuentas. Esa es una promesa que les hacemos a los niños y a los padres hoy”.
Los proyectos de códigos también incluyen medidas para garantizar el cumplimiento de las empresas de tecnología, incluido el nombramiento de una persona de alto rango responsable del cumplimiento de las obligaciones de seguridad de los niños; una revisión anual por parte del organismo superior de todas las actividades de gestión de riesgos relacionadas con la seguridad de los niños; y un código de conducta para empleados que establece estándares para los empleados en torno a la protección de los niños.
Ofcom dijo que lanzará una consulta adicional a finales de este año sobre cómo se pueden utilizar herramientas automatizadas, incluida la inteligencia artificial (IA), para detectar de forma proactiva contenido ilegal y contenido más dañino para los niños, incluido material y contenido de abuso sexual infantil (CSAM) no detectados previamente. Fomentar el suicidio y la autolesión.
Ahora hay una consulta abierta sobre los proyectos de códigos, con planes para finalizarlos dentro de un año y que entren en vigor tres meses después.
“El gobierno asignó a Ofcom la tarea de cumplir la ley y hoy el regulador ha sido claro: las plataformas deben introducir los tipos de controles de edad que los jóvenes experimentan en el mundo real y abordar algoritmos que fácilmente significan que encuentran material dañino en línea”, dijo Digital. secretaria Michelle Donelan. “Una vez implementadas, estas medidas traerán un cambio fundamental en la forma en que los niños del Reino Unido experimentan el mundo en línea”.
Tamsin Allen, socio de medios del bufete de abogados Bindmans, dijo que las propuestas de Ofcom son “un primer paso alentador, pero la prueba de su compromiso estará en su voluntad de imponer sanciones a las grandes tecnologías por incumplimiento. La ley les otorga nuevos poderes para multar a las empresas con hasta el 10% de la facturación global, sumas enormes que finalmente podrían traspasar el blindaje de las grandes tecnologías”.
Preocupaciones actuales
Sin embargo, la OSA ha causado preocupación tanto entre las empresas de tecnología como entre las organizaciones de la sociedad civil por ciertas disposiciones que podrían socavar las comunicaciones cifradas, la privacidad y la libertad de expresión.
Los defensores de la privacidad de Open Rights Group (ORG), por ejemplo, han dicho que la implementación de sistemas de garantía de edad (incluidos el cotejo de documentos de identidad con fotografía, la estimación de la edad facial y los servicios de identidad digital reutilizables) para restringir el acceso de los niños podría restringir inadvertidamente la libertad de expresión de las personas. y al mismo tiempo los exponen a mayores riesgos de seguridad cibernética.
“Los adultos se enfrentarán a una elección: limitar su libertad de expresión al no acceder al contenido o exponerse a mayores riesgos de seguridad que surgirán de las violaciones de datos y los sitios de phishing”, dijo el director ejecutivo Jim Killock.
“Algunos proveedores extranjeros pueden bloquear el acceso a sus plataformas desde el Reino Unido en lugar de cumplir con estas estrictas medidas. También nos preocupa que los sistemas de moderación puedan negar a los jóvenes material educativo y de ayuda, especialmente en lo que se refiere a sexualidad, identidad de género, drogas y otros temas delicados.
“Los riesgos para los niños continuarán con estas medidas. Los reguladores deben cambiar su enfoque hacia uno que capacite a los niños para que comprendan los riesgos que pueden enfrentar, especialmente cuando los jóvenes pueden buscar contenido, ya sea que esté destinado a estar disponible para ellos o no”.
Robin Tombs, director ejecutivo de la empresa de biometría Yoti, argumentó que si bien “no existe una solución milagrosa en lo que respecta a la seguridad infantil”, una tecnología eficaz de verificación de la edad será una parte esencial para proteger a los niños del acceso a contenido dañino en línea.
“Es importante que a las personas se les ofrezca la posibilidad de elegir cómo demostrar su edad, para garantizar que la garantía de edad sea inclusiva y accesible para todos. Afortunadamente, Ofcom ha reconocido que la estimación de la edad facial, los servicios de identidad digital reutilizables y la comparación de identificaciones con fotografía son soluciones muy efectivas”, dijo.
En cuanto a los riesgos para el cifrado, los servicios de mensajería y correo electrónico cifrados como WhatsApp, Signal y Element han amenazado anteriormente con retirarse del Reino Unido si Ofcom les exige que instalen “tecnología acreditada” para monitorear las comunicaciones cifradas en busca de contenido ilegal.
Esto se basa en que la sección 122 de la ley otorga a Ofcom poderes para exigir a las empresas de tecnología que instalen sistemas que, según ellos, socavarían la seguridad y privacidad de los servicios cifrados al escanear el contenido de cada mensaje y correo electrónico para verificar si contienen CSAM.
Si bien nada en los borradores de códigos menciona servicios cifrados, Ofcom dijo que publicará propuestas específicas más adelante en 2024 sobre su uso de “avisos tecnológicos” para exigir que los servicios, en determinadas circunstancias, utilicen tecnologías acreditadas para tratar tipos específicos de contenido ilegal.
“Esperamos que esto cubra orientación sobre cómo usaríamos estos poderes, nuestro asesoramiento al gobierno sobre los estándares mínimos de precisión y nuestro enfoque para acreditar tecnologías”, dijo.