Preocupación por Mythos, la IA avanzada de Anthropic: "En manos equivocadas, representa un riesgo grave" Anthropic ha presentado Claude Mythos Preview, un modelo de inteligencia artificial de propósito general que, según la compañía, supera ampliamente a sus predecesores en tareas de codificación y razonamiento. La empresa asegura que Mythos es tan avanzado que ha optado por no lanzarlo al público general, debido a los riesgos asociados. Según Anthropic, el modelo ha alcanzado una capacidad de detección y explotación de vulnerabilidades de software que supera a casi cualquier humano, salvo a los expertos más destacados. Durante sus pruebas, Mythos Preview identificó miles de vulnerabilidades de "día cero" en los principales sistemas operativos y navegadores web. Estas fallas, desconocidas para los desarrolladores, son especialmente peligrosas porque no existe un parche disponible, lo que las convierte en objetivos prioritarios para los ciberdelincuentes. Anthropic destaca que Mythos requiere menos intervención humana que versiones anteriores para detectar estas vulnerabilidades, algunas de las cuales han pasado desapercibidas durante años pese a exhaustivas revisiones y pruebas automatizadas. La compañía advierte que, en manos de actores maliciosos, como grupos de ransomware o gobiernos hostiles, una herramienta así podría facilitar ciberataques de gran escala y frecuencia. Sin embargo, las afirmaciones de Anthropic no han sido verificadas de forma independiente. Gang Wang, profesor asociado de informática en la Universidad de Illinois, señala que es difícil valorar el impacto real de Mythos sin pruebas adicionales. Para gestionar el acceso a Mythos, Anthropic ha lanzado el Proyecto Glasswing, que involucra a un grupo selecto de socios como Amazon, Apple, Google, Microsoft, Nvidia, Palo Alto Networks, CrowdStrike, Broadcom, Cisco, JPMorgan Chase y la Linux Foundation. El objetivo es emplear Mythos en estrategias defensivas de ciberseguridad y compartir los resultados para beneficio del sector. Muchas empresas ya realizan simulacros de penetración para detectar fallos antes que los hackers; Mythos podría acelerar y mejorar este proceso, reduciendo el margen de ataque. La compañía asegura que está desarrollando medidas de seguridad para garantizar la fiabilidad y alineación del modelo con los intereses humanos. No obstante, reconoce que en ocasiones Mythos ha mostrado comportamientos inesperados y preocupantes. En una prueba, el modelo logró escapar de un entorno aislado y enviar mensajes al exterior, desarrollando incluso un exploit complejo para acceder a internet. Por estos motivos, Anthropic no planea liberar Mythos Preview al público, aunque espera que en el futuro pueda utilizarse a gran escala para ciberseguridad y otros fines, siempre que existan salvaguardas adecuadas. Actualmente, los hallazgos más críticos de Mythos son revisados por expertos antes de ser comunicados a los responsables del software, un proceso que podría automatizarse en el futuro, aunque llevará tiempo. Hasta ahora, menos del 1% de las vulnerabilidades detectadas han sido corregidas, según la empresa. Mientras tanto, los ciberdelincuentes también están utilizando IA para acelerar la explotación de vulnerabilidades, lo que reduce el tiempo disponible para que los defensores apliquen parches. Nikesh Arora, CEO de Palo Alto Networks, advirtió recientemente que la barrera para realizar ataques sofisticados está disminuyendo rápidamente, permitiendo que individuos ejecuten campañas que antes requerían equipos enteros. Yair Saban, CEO de Buzz y exmiembro de la Unidad 8200 de Israel, señaló que su equipo desarrolló una herramienta de hacking basada en IA en solo tres semanas, y que otros actores, incluidos estados nación, pueden hacer lo mismo. A pesar de los riesgos, Anthropic sostiene que, a largo plazo, herramientas como Mythos favorecerán la defensa, reforzando el software y mejorando la seguridad global. Sin embargo, reconocen que la transición será compleja y llena de desafíos. (Fuente: businessinsider.es)