Microsoft y OpenAI denuncian que los hackers usan ChatGPT para mejorar los ciberataques

Microsoft y OpenAI revelaron que los hackers usan grandes modelos de lenguaje como ChatGPT para “refinar” y “mejorar” sus ciberataques, informó el medio especializado The Verge.

Según una investigación, Microsoft y OpenAI detectaron intentos de grupos respaldados por Rusia, Corea del Norte, Irán y China que utilizan herramientas como ChatGPT para investigar objetivos, mejorar scripts y ayudar a desarrollar técnicas de ingeniería social.

“Los grupos de delitos cibernéticos, los actores de amenazas de los Estados-Nación y otros adversarios están explorando y probando diferentes tecnologías de inteligencia artificial a medida que surgen, en un intento de comprender el valor potencial para sus operaciones y los controles de seguridad que pueden necesitar eludir”, expresó Microsoft hoy, según consignó The Verge.

En tanto, el medio especializado señaló que se descubrió que el grupo Strontium, vinculado a la inteligencia militar rusa, utiliza modelos de lenguaje de gran tamaño (LLM, si sigla en en inglés) “para comprender los protocolos de comunicación por satélite, las tecnologías de imágenes de radar y parámetros técnicos específicos”.

El grupo de hackers, conocido también como APT28 o Fancy Bear, estuvo activo durante la guerra entre Rusia y Ucrania y anteriormente estuvo involucrado en atacar la campaña presidencial de Hillary Clinton en 2016.

El grupo también ha utilizado LLM para ayudar con “tareas básicas de secuencias de comandos, incluida la manipulación de archivos, la selección de datos, las expresiones regulares y el multiprocesamiento, para potencialmente automatizar u optimizar las operaciones técnicas”, según Microsoft.

Además, un grupo de hackers norcoreano, conocido como Thallium, usó LLM para investigar vulnerabilidades informadas públicamente y apuntar a organizaciones, ayudar en tareas básicas de programación y redactar contenidos para campañas de phishing.

Microsoft también indicó que el grupo iraní conocido como Curium utilizó LLM para generar correos electrónicos de phishing e incluso códigos para evitar la detección por parte de aplicaciones antivirus. Los piratas informáticos afiliados al estado chino también están utilizando los LLM para investigaciones, secuencias de comandos, traducciones y para perfeccionar sus herramientas existentes.