La inteligencia artificial (IA) se ha consolidado como un objetivo prioritario para los ciberdelincuentes, quienes buscan clonar modelos propietarios y, al mismo tiempo, emplean la IA para perfeccionar y ejecutar ataques más sofisticados. Esta doble vertiente ha impulsado el crecimiento de un mercado clandestino de servicios basados en IA, según revela el informe ‘AI Threat Tracker’ elaborado por Google Threat Intelligence Group (GTIG). Durante el último año, se ha registrado un incremento en los denominados ataques de destilación, que consisten en la extracción de modelos de IA generativa para analizar su funcionamiento y replicarlos. El interés principal de los atacantes radica en comprender el razonamiento interno de los modelos y los procesos de toma de decisiones, siendo Gemini uno de los objetivos más codiciados. El informe de GTIG subraya que los actores maliciosos emplean la IA en todas las fases de sus operaciones, desde la programación y creación de scripts, hasta la recopilación de información sobre posibles víctimas, el análisis de vulnerabilidades y la ejecución de acciones tras comprometer un sistema. Entre los casos destacados, se menciona a APT42, un grupo vinculado a Irán, que utilizó modelos de IA generativa para identificar correos electrónicos oficiales y analizar posibles socios comerciales, facilitando así la creación de pretextos creíbles para sus campañas. Por su parte, UNC2970, relacionado con Corea del Norte, recurrió a Gemini para sintetizar inteligencia de fuentes abiertas (OSINT) y perfilar objetivos estratégicos. La IA también ha sido empleada experimentalmente para dotar de nuevas capacidades al malware. Un ejemplo es HONESTCUE, que utilizó la API de Gemini para externalizar la generación de funcionalidades, buscando evadir los sistemas tradicionales de detección y análisis. Asimismo, el kit de phishing COINBAIT, diseñado para suplantar servicios de intercambio de criptomonedas y robar credenciales, fue desarrollado con herramientas de generación de código asistidas por IA. El informe también identifica la existencia de un mercado negro de servicios de IA orientados a actividades ilícitas, con foros en inglés y ruso donde se comercializan herramientas y servicios potenciados por IA. Sin embargo, los ciberdelincuentes aún enfrentan dificultades para crear modelos personalizados, por lo que suelen recurrir a soluciones ya existentes y maduras. Un caso ilustrativo es el kit Xanthorox, promocionado como una IA personalizada para la creación autónoma de malware y campañas de phishing. No obstante, el análisis de GTIG revela que, lejos de ser un desarrollo exclusivo, se basa en la integración de productos comerciales y de terceros. Fuente: europapress.es