Anthropic ha sviluppato un modello di intelligenza artificiale così avanzato che ha deciso di non lanciarlo pubblicamente. Il modello, denominato Claude Mythos Preview, ha identificato “migliaia di vulnerabilità” nel software, alcune delle quali nascoste da decenni, secondo quanto dichiarato dalla stessa azienda. Per affrontare i potenziali rischi, Anthropic ha avviato il progetto Glasswing, una collaborazione con 12 aziende leader che consente a queste organizzazioni di utilizzare Mythos Preview per correggere i difetti prima che possano essere sfruttati da attori malintenzionati o da modelli simili. Nicholas Carlini, scienziato di Anthropic, ha affermato in una presentazione che Mythos Preview ha rilevato più vulnerabilità in due settimane di quanto lui ne abbia trovate in tutta la sua carriera. Le vulnerabilità sono errori involontari nel software che possono essere sfruttati per accedere o manipolare i sistemi. Tradizionalmente, scoprire questi errori richiedeva ampie conoscenze e molto tempo, ma Mythos Preview si è dimostrato molto più efficiente. Tra le aziende che partecipano a Glasswing ci sono giganti tecnologici come Apple, Amazon Web Services, Google, Microsoft, Nvidia e Crowdstrike. Anthropic ha offerto accesso a Mythos Preview a queste compagnie e ad altre 40 che gestiscono infrastrutture critiche, oltre a mantenere conversazioni con il governo degli Stati Uniti. Inizialmente, Mythos Preview doveva essere un modello focalizzato sulla generazione di codice, dopo il successo di Claude Sonnet 4.5 a settembre. Tuttavia, secondo Dario Amodei, CEO di Anthropic, si è presto evidenziata la sua straordinaria capacità nella cybersicurezza. Tra i risultati già risolti da Mythos Preview spiccano una vulnerabilità di 27 anni in OpenBSD, un'altra di 16 anni nella libreria FFmpeg utilizzata nelle applicazioni video, e diverse falle nel kernel di Linux che permettevano di elevare i privilegi fino al controllo totale del sistema. Il nome Mythos deriva dal greco antico e, secondo Anthropic, fa riferimento al “sistema di storie con cui le civiltà interpretavano il mondo”. Anche se alcuni considerano l'avvertimento sui rischi una strategia di marketing, ci sono precedenti: nel 2019, OpenAI ha ritardato la pubblicazione di GPT-2 ritenendolo “troppo pericoloso”, e Dario Amodei, attuale CEO di Anthropic, guidava allora la ricerca in OpenAI. Mentre in passato si temeva che i modelli di IA potessero essere utilizzati per creare disinformazione o spam, ora il rischio è più tangibile: lo sfruttamento delle vulnerabilità del software. Mythos Preview non solo identifica i difetti, ma può anche generare gli exploit necessari per sfruttarli. Inoltre, esperti esterni hanno verificato la sua efficacia. Oltre alle sue capacità nella cybersicurezza, Mythos è un modello versatile che migliora i suoi predecessori. Anthropic ha pubblicato un manuale di 244 pagine che dettaglia le differenze e i progressi rispetto a modelli precedenti come Sonnet e Opus. Recentemente, Anthropic è stata anche al centro di una disputa con il Dipartimento della Difesa degli Stati Uniti, che l'ha considerata un “rischio per la catena di approvvigionamento”, impedendole di contrattare con il governo. Tuttavia, l'azienda ha vinto la causa, mantenendo le sue condizioni di non consentire l'uso della sua IA per sorveglianza di massa né per armi autonome senza supervisione.