Anthropic ha desarrollado un modelo de inteligencia artificial tan avanzado que ha decidido no lanzarlo públicamente. El modelo, denominado Claude Mythos Preview, ha identificado “miles de vulnerabilidades” en software, algunas de ellas ocultas durante décadas, según la propia compañía. Para abordar los posibles riesgos, Anthropic ha puesto en marcha el proyecto Glasswing, una colaboración con 12 empresas líderes que permite a estas organizaciones utilizar Mythos Preview para corregir fallos antes de que puedan ser explotados por actores maliciosos o por modelos similares. Nicholas Carlini, científico de Anthropic, afirmó en una presentación que Mythos Preview ha detectado más vulnerabilidades en dos semanas que él en toda su carrera. Las vulnerabilidades son fallos inadvertidos en el software que pueden ser aprovechados para acceder o manipular sistemas. Tradicionalmente, descubrir estos errores requería amplios conocimientos y mucho tiempo, pero Mythos Preview ha demostrado ser mucho más eficiente. Entre las empresas que participan en Glasswing se encuentran gigantes tecnológicos como Apple, Amazon Web Services, Google, Microsoft, Nvidia y Crowdstrike. Anthropic ha ofrecido acceso a Mythos Preview a estas compañías y a otras 40 que gestionan infraestructuras críticas, además de mantener conversaciones con el Gobierno de Estados Unidos. Originalmente, Mythos Preview iba a ser un modelo enfocado en la generación de código, tras el éxito de Claude Sonnet 4.5 en septiembre. Sin embargo, según Dario Amodei, CEO de Anthropic, pronto se evidenció su extraordinaria capacidad en ciberseguridad. Entre los hallazgos ya solucionados por Mythos Preview destacan una vulnerabilidad de 27 años en OpenBSD, otra de 16 años en la biblioteca FFmpeg utilizada en aplicaciones de vídeo, y varias fallas en el núcleo de Linux que permitían escalar privilegios hasta el control total del sistema. El nombre Mythos proviene del griego antiguo y, según Anthropic, hace referencia al “sistema de historias con el que las civilizaciones interpretaban el mundo”. Aunque algunos consideran que la advertencia sobre los riesgos podría ser una estrategia de marketing, existen antecedentes: en 2019, OpenAI retrasó la publicación de GPT-2 por considerarlo “demasiado peligroso”, y Dario Amodei, actual CEO de Anthropic, lideraba entonces la investigación en OpenAI. Mientras que antes se temía que los modelos de IA fueran usados para crear desinformación o spam, ahora el riesgo es más tangible: la explotación de vulnerabilidades de software. Mythos Preview no solo identifica fallos, sino que también puede generar los exploits necesarios para aprovecharlos. Además, expertos externos han verificado su eficacia. Más allá de sus capacidades en ciberseguridad, Mythos es un modelo versátil que mejora a sus predecesores. Anthropic ha publicado un manual de 244 páginas detallando las diferencias y avances respecto a modelos anteriores como Sonnet y Opus. Recientemente, Anthropic también fue noticia por su disputa con el Departamento de Defensa de EE UU, que la consideró un “riesgo para la cadena de suministro”, impidiéndole contratar con el gobierno. Sin embargo, la compañía ganó el litigio, manteniendo sus condiciones de no permitir el uso de su IA para vigilancia masiva ni para armas autónomas sin supervisión. Fuente: elpais.com