China intensifica el uso de información errónea sobre IA

El gobierno chino está aumentando el uso de contenido generado por inteligencia artificial (IA) en su intento de promover sus objetivos geopolíticos a través de información errónea, incluida la información dirigida a las próximas elecciones presidenciales de EE. UU., según información de inteligencia publicada por el Centro de análisis de amenazas de Microsoft (MTAC).

MTAC dijo que Beijing también estaba usando cuentas falsas en las redes sociales para plantear preguntas polémicas sobre algunos de los grandes temas internos, como la inmigración de América Latina y la derogación de 2022 de Roe vs. Wade, que destruyó el derecho al aborto en los EE. UU., que probablemente decidan las elecciones de este año. Es probable que busque comprender algunas de las cuestiones que dividen a los estadounidenses y obtener inteligencia para manipular mejor los diversos bloques de votantes.

“El MTAC informó anteriormente en septiembre de 2023 cómo el PCC [Chinese Communist Party]-Las cuentas de redes sociales afiliadas habían comenzado a hacerse pasar por votantes estadounidenses. Esta actividad ha continuado y estas cuentas publican casi exclusivamente sobre temas internos que dividen a Estados Unidos, como el calentamiento global, las políticas fronterizas de Estados Unidos, el uso de drogas, la inmigración y las tensiones raciales”, escribió el gerente general de MTAC, Clint Watts.

“Utilizan videos, memes e infografías originales, así como contenido reciclado de otras cuentas políticas de alto perfil. En los últimos meses, ha habido un aumento, efectivamente, de las preguntas de las encuestas. Esto indica un esfuerzo deliberado por comprender mejor qué grupo demográfico de votantes estadounidenses apoya qué tema o posición y qué temas son los más divisivos, antes de la fase principal de las elecciones presidenciales estadounidenses”.

Más contenido para leer:  Eticas describe el enfoque de la auditoría algorítmica 'adversaria'

Como parte de esto, MTAC también ha observado que China aumenta el uso de contenido engañoso generado por IA, algo que los expertos en seguridad habían predicho que sería un gran caso de uso malicioso de la IA en una etapa inicial.

Este contenido explotó una variedad de temas, incluido el descarrilamiento de un tren en Kentucky en noviembre de 2023 que provocó un incendio químico, los incendios forestales del verano de 2023 en la isla de Maui, Hawai’i, y otras tendencias e historias importantes.

A menudo, la narrativa impulsada por los operadores chinos respaldaba teorías de conspiración de bandera falsa amadas por la extrema derecha, incluida la de que el incendio de Maui, que mató a 101 personas y destruyó la ciudad de Lāhainā, fue el resultado de que el gobierno de Estados Unidos probara un prototipo de arma láser espacial. Sin embargo, el MTAC ha encontrado poca evidencia de que estos esfuerzos hayan hecho mucho para cambiar la opinión pública.

Spamouflage

Gran parte de esta actividad se ha atribuido a un actor de amenazas rastreado por Microsoft como Storm-1376, que otros también conocen como Spamouflage y Dragonbridge.

Sin embargo, este grupo no tiene como objetivo únicamente a los EE. UU.: el MTAC también ha observado que opera más cerca de casa en la región de Asia y el Pacífico, en particular en Taiwán, donde las elecciones presidenciales del 13 de enero de 2024 fueron lo que puede ser el primer caso documentado del uso. del contenido de IA para influir directamente en el proceso político de un país.

Más contenido para leer:  T Levels expand the work-ready tech talent base and now include a specialism in cyber security

El 13 de enero, Spamouflage publicó clips de audio en YouTube del candidato independiente Terry Gou –quien también fundó el gigante de la electrónica Foxconn– en los que Gou respaldaba a otro candidato en la carrera. Es casi seguro que este clip fue generado por IA y YouTube lo eliminó rápidamente. Ya había circulado una carta falsa que supuestamente era de Gou, respaldando al mismo candidato; Gou, por supuesto, no había hecho tal respaldo.

Spamouflage también aprovechó la plataforma de vídeo CapCut, impulsada por inteligencia artificial, propiedad de ByteDance, patrocinadores de TikTok, para generar presentadores de noticias falsas que se utilizaron en una variedad de campañas dirigidas a los distintos candidatos presidenciales en Taiwán.

También explotaron la imagen de un conocido disidente chino radicado en Canadá para acosar e influir en los parlamentarios canadienses, y utilizaron inteligencia artificial para generar memes que retrataban al candidato del Partido Progresista Democrático de Taiwán, William Lai, de manera negativa.

Pero no son sólo los actores de amenazas chinos los que incorporan la IA en sus manuales: aunque están aislados y empobrecidos, quienes trabajan para el gobierno de Corea del Norte también están aprendiendo a utilizar modelos de lenguaje grande (LLM) para mejorar la eficiencia y eficacia de sus operaciones.

MTAC dijo que había observado a un grupo rastreado como Emerald Sleet usando ChatGPT para diseñar campañas de phishing dirigidas a expertos en asuntos coreanos, para investigar vulnerabilidades que podrían ser útiles y para realizar reconocimientos en organizaciones centradas en Corea del Norte.

También se ha observado que Emerald Sleet utiliza LLM para solucionar problemas técnicos, escribir guiones básicos y redactar otros contenidos. OpenAI cerró sus actividades a principios de 2024.

Más contenido para leer:  Los laboristas revelan planes para convertir el Reino Unido en un centro global de empresas emergentes

El informe completo presenta más detalles sobre los actores de amenazas chinos más tradicionales, como el famoso Volt Typhoon, que ataca infraestructuras críticas y agencias gubernamentales en Occidente para realizar intrusiones cibernéticas, y los piratas informáticos de Corea del Norte centrados en criptomonedas, cuyos objetivos se centran en apuntalar a Kim Jong. -El gobierno de la ONU a través del crimen financiero. El informe MTAC se puede descargar aquí.

De cara al futuro, Watts dijo que con miles de millones de personas que viven en países de interés para China, incluidos India, Corea del Sur, Estados Unidos y potencialmente el Reino Unido, que se dirigen a las urnas en 2024, es probable que tanto China como Corea del Norte intenten activamente para apuntar a estas elecciones.

“China, como mínimo, creará y amplificará contenido generado por IA que beneficie sus posiciones en estas elecciones de alto perfil. Si bien el impacto de dicho contenido en las audiencias sigue siendo bajo, la creciente experimentación de China para aumentar los memes, videos y audio continuará y resultará efectiva en el futuro”, escribió.

“Si bien los ciberactores chinos llevan mucho tiempo realizando un reconocimiento de las instituciones políticas estadounidenses, estamos preparados para ver a los actores influyentes interactuar con los estadounidenses para comprometerse y potencialmente investigar perspectivas sobre la política estadounidense”.

Nuestro objetivo fué el mismo desde 2004, unir personas y ayudarlas en sus acciones online, siempre gratis, eficiente y sobre todo fácil!

¿Donde estamos?

Mendoza, Argentina

Nuestras Redes Sociales