Una herramienta de IA generativa llamada WormGPT que opera sin los límites éticos o las limitaciones codificadas de servicios legítimos como ChatGPT de OpenAI o Google Bard se está vendiendo en este momento a operadores ciberdelincuentes en la web oscura, según ha surgido.
La existencia de la herramienta fue descubierta por investigadores del especialista en seguridad de correo electrónico SlashNext y el ex hacker de sombrero negro Daniel Kelley, quienes obtuvieron acceso a la herramienta y la usaron para realizar pruebas centradas en ataques de compromiso de correo electrónico empresarial (BEC). Dijo que WormGPT produjo resultados “inquietantes”.
“WormGPT produjo un correo electrónico que no solo fue notablemente persuasivo sino también estratégicamente astuto, mostrando su potencial para ataques sofisticados de phishing y BEC”, escribió.
Kelley advirtió que el experimento que realizó destacó el grado de amenaza que representan las tecnologías de IA generativa, incluso en manos de relativamente novatos.
WormGPT parece haber sido desarrollado específicamente para casos de uso malicioso y se basa en el modelo de lenguaje grande (LLM) GPTJ lanzado hace dos años. También parece haber sido entrenado específicamente en conjuntos de datos relacionados con malware, aunque esto no está completamente confirmado.
Según Kelley y el equipo de SlashNext, incluye funciones como soporte ilimitado de caracteres, retención de memoria y capacidad de formateo de código.
En capturas de pantalla del foro compartidas por SlashNext, el supuesto creador de WormGPT, quien lo describió como “el mayor enemigo” de ChatGPT, dijo que su proyecto “te permite hacer todo tipo de cosas ilegales y venderlas fácilmente en línea en el futuro”.
Agregaron: “Todo lo relacionado con el sombrero negro que pueda pensar se puede hacer con WormGPT, lo que permite que cualquier persona acceda a actividades maliciosas sin tener que abandonar la comodidad de su hogar”.
Si bien algunas de las afirmaciones, a menudo alarmistas, sobre las capacidades potencialmente maliciosas de las herramientas de IA generativa se han materializado, los expertos en seguridad cibernética generalmente han acordado que uno de los casos de uso más inmediatos de ciberdelincuentes para herramientas como ChatGPT se centra en generar señuelos convincentes.
En este sentido, el desarrollo de la herramienta WormGPT parece ser el siguiente paso lógico. El asesor de seguridad cibernética de ESET, Jake Moore, dijo: “Era inevitable que una plataforma de la competencia [to ChatGPT] pronto aprovecharía el uso de la tecnología para obtener ganancias ilícitas”.
“WormGPT tiene el poder de un LLM detrás, lo que permite que los correos electrónicos se envíen sin errores. Esto lleva el phishing a un nuevo nivel”
Kevin Curran, IEEE y la Universidad de Ulster
El miembro sénior de IEEE y profesor de seguridad cibernética de la Universidad de Ulster, Kevin Curran, dijo que no había duda de que WormGPT facilitaría que los actores nefastos lanzaran ataques cibernéticos.
“Una herramienta llamada Metasploit ha existido durante muchos años y permite enviar correos electrónicos de phishing en masa, pero un problema común siempre ha sido la mala gramática y los errores ortográficos, y los errores tipográficos son un indicador clave del correo no deseado”, dijo Curran. “WormGPT tiene el poder de un LLM detrás, lo que permite que los correos electrónicos se envíen sin errores. Esto lleva el phishing a un nuevo nivel. Los correos electrónicos producidos serán súper realistas y adoptarán temas cada vez más atractivos, lo que ayuda a los ciberdelincuentes a atraer a los usuarios para que hagan clic en enlaces dentro de los correos electrónicos o descarguen malware.
“Recientemente, los LLM también se han utilizado para generar automáticamente páginas de destino falsas, lo que puede llevar a que las personas entreguen sus contraseñas u otra información personal. WormGPT todavía carece de una interfaz moderna y muchas funciones necesarias para comprometer el correo electrónico comercial, pero las herramientas de piratería generalmente mejoran, por lo que puede ser solo cuestión de tiempo. Cualquier herramienta que facilite la piratería es una preocupación para todos nosotros”.
Primeros pasos para los defensores
Con WormGPT ya en libertad, posiblemente durante algunos meses en este punto, los defensores pueden enfrentarse al peligro que representa con unos pocos pasos simples, el más útil de inmediato es duplicar la educación y la capacitación contra el phishing. en toda la fuerza de trabajo.
“Las herramientas de chat de IA crean una herramienta poderosa, pero estamos pasando a la siguiente fase, que arroja una nube oscura sobre la tecnología en su conjunto”, dijo Moore de ESET.
“La conciencia se está volviendo más desesperada que nunca, además, se requieren aún más capas de seguridad incluso para las tareas más simples para mitigar el riesgo. La tecnología de contador aún no es lo suficientemente poderosa para abordarlo digitalmente, por lo que la responsabilidad recae en los usuarios finales para protegerse donde puedan por ahora y en el futuro inmediato”.
