El lanzamiento de Deepseek provocó la ola familiar de debates éticos que ahora acompañan el lanzamiento de cualquier modelo de lenguaje grande (LLM). Las preguntas sobre el uso de datos, la transparencia y el sesgo están bien cubiertas, pero cuando la tecnología se origina en China, se acompañan de preocupaciones geopolíticas y éticas. Como hemos visto con Tiktok, las preocupaciones en torno al manejo de datos se convierten rápidamente en temores de influencia estatal, riesgos de seguridad nacional y espionaje industrial.
Estos miedos no están exentos de fundamentos. La acelerada carrera armamentista de IA entre los Estados Unidos y China ha convertido a la IA en un pilar central de la estrategia nacional. Ambas naciones ahora ven liderar la raza de IA como una prioridad económica y tecnológica. El resultado es un mundo en el que cada modelo innovador, ya sea estadounidense, chino o de otro tipo, se analiza inmediatamente no solo por sus capacidades, sino también por el poder geopolítico que cambia que pone en movimiento.
Seguridad de datos frente a la IA
Las grandes empresas tecnológicas en los Estados Unidos, como la IA abierta y el antrópico, se han visto objeto de un escrutinio justificable sobre cómo recopilan y procesan datos, pero el lanzamiento de Deepseek introdujo un nivel adicional de riesgo. China tiene una historia bien documentada de presunto robo de espionaje corporativo y propiedad intelectual patrocinado por el estado, incluido el hack de diciembre del Departamento del Tesoro de los Estados Unidos, que Estados Unidos atribuyó a los piratas informáticos respaldados por chinos.
Para CISOS y líderes de seguridad, la llegada de otro poderoso modelo de IA con posibles vínculos con el estado chino debería desencadenar un enfoque renovado en la seguridad de sus propios datos, particularmente cuando se trata de proteger la propiedad intelectual y la información confidencial que sustenta la ventaja competitiva.
Sin embargo, la verdadera preocupación no es solo lo que Deepseek puede hacer hoy, sino cómo podría ser entrenado mañana. Los LLM están capacitados en vastas conjuntos de datos raspados de cada fuente de acceso público imaginable. Pero los datos disponibles públicamente por sí solos no satisfarán la demanda de modelos más poderosos. Existe un riesgo creciente de que la próxima generación de LLM pueda ser capacitada, al menos en parte, en los datos obtenidos a través de medios menos éticos, ya sea a través de hacks patrocinados por el estado, amenazas internas o operaciones de raspado a gran escala que operan en áreas grises legales.
Esta no es una posibilidad distante. La práctica del acaparamiento de datos: almacenar datos cifrados hoy con la intención de descifrarlo en el futuro ya está bien documentado en la industria. Para CISO, eso significa que el panorama de amenazas no solo no se limita a las vulnerabilidades de hoy. Incluso los datos cifrados que se almacenan de forma segura hoy en día podrían ser accesibles dentro de la vida útil de las estrategias comerciales o gubernamentales a largo plazo.
Cómo los CISO pueden mitigar el riesgo
La aparición de Deepseek sirve como un recordatorio oportuno para que CISO revise cómo sus organizaciones piensan sobre la protección de datos en el contexto de las amenazas a nivel estatal. Comienza con obtener una visibilidad completa de los datos que tienen, dónde reside y quién puede acceder a él.
Sin embargo, la visibilidad y el control son solo una parte de la solución. Las tecnologías utilizadas para salvaguardar los datos también deben evolucionar. Las tecnologías de mejora de la privacidad (PET), algunas de las cuales son cuánticas son resistentes, deben estar en el radar de cualquier equipo de seguridad con visión de futuro. Al mismo tiempo, las organizaciones deberían impulsar a sus proveedores de tecnología a adoptar medidas de cifrado más fuertes que se mantengan resistentes, especialmente con la velocidad en la que los avances de IA están llegando al mercado y, a largo plazo, una posible era posterior al quanto.
También se requiere un cambio cultural más amplio. Las empresas deben reconocer que las amenazas a la seguridad de los datos ya no son solo el trabajo de piratas informáticos aislados o ciberdelincuentes motivados financieramente. Los datos se han convertido en un activo de riesgo en nuestro paisaje geopolítico fracturado. A medida que la carrera armamentista de IA continúa intensificando, cada recurso de datos patentados, desde archivos de diseño hasta patrones de comportamiento del cliente, adquiere un nuevo valor estratégico, no solo para los competidores, sino para los estados nacionales con los recursos para explotarlo sistemáticamente.
La llegada de Deepseek es simplemente el último recordatorio de que los límites entre la innovación tecnológica, la competencia económica y la geopolítica casi han desaparecido. Para CISO, eso significa que la conversación sobre la protección de los datos necesita evolucionar, uno que reconoce los datos no solo como un activo comercial, sino un objetivo en un concurso más amplio para el poder económico y geopolítico.
Dr. Nick New es CEO de Optalysys, Con un doctorado en el reconocimiento de patrones ópticos de Cambridge, Nick tiene una base sólida en tecnología óptica. En Optalysys, está pionero en avances en Silicon Photonics y FHE.