In un colpo inaspettato nel settore tecnologico, Anthropic ha deciso di sospendere lo sviluppo pubblico del suo avanzato sistema di IA, Claude Mythos Preview, dopo aver ritenuto che le sue capacità rappresentino un rischio significativo. Secondo la stessa azienda, i risultati ottenuti da Mythos sono stati classificati come "troppo pericolosi per il pubblico generale". L'obiettivo iniziale di Mythos era identificare vulnerabilità in sistemi come Linux, ma la sua efficacia ha superato le aspettative, al punto che potrebbe facilitare attacchi informatici piuttosto che proteggerne. La decisione di Anthropic è stata quella di limitare l'uso di Mythos a un programma difensivo di cybersicurezza, riservato a un gruppo selezionato di partner. Il motivo principale: il modello ha dimostrato di essere in grado di superare le stesse barriere di sicurezza dell'azienda, rilevando difetti critici nel kernel di Linux, il nucleo della maggior parte dei server globali. Questo apre la porta a potenziali attori malintenzionati che potrebbero prendere il controllo di infrastrutture chiave. Inoltre, Mythos ha identificato una vulnerabilità di 27 anni in OpenBSD, un sistema operativo open source utilizzato in ambienti ad alta sicurezza e infrastrutture critiche. Questa debolezza permetterebbe agli attaccanti di bloccare qualsiasi macchina che lo esegue. Anthropic valuta Mythos oltre 900 miliardi di dollari, posizionandola sopra OpenAI come la startup di IA più preziosa. Jack Clark, cofondatore di Anthropic, stima che ci siano oltre il 60% di possibilità che, prima del 2028, emerga un'IA in grado di addestrare il proprio successore senza un intervento umano significativo, uno scenario che considera inquietante e per il quale la società non è preparata. Max Tegmark, fisico del MIT e fondatore del Future of Life Institute, avverte da anni sui rischi di una corsa incontrollata nell'IA. Nel 2023, ha promosso una lettera aperta firmata da oltre 33.000 persone, incluso Elon Musk, chiedendo una pausa nello sviluppo di IA avanzata. Tegmark ha messo in guardia sulla mancanza di regolamentazione e sui pericoli di lasciare l'avanzamento tecnologico nelle mani di interessi aziendali, ricordando precedenti come la talidomide o l'amianto. La crisi di Mythos ha avuto ripercussioni immediate. La Casa Bianca, tradizionalmente riluttante a intervenire nello sviluppo dell'IA, sta ora considerando un ordine esecutivo per supervisionare e, se necessario, vietare nuovi modelli prima del loro lancio. Sotto l'amministrazione Trump, la strategia era stata di "zero regolamentazioni" per competere con la Cina, ma la National Security Agency (NSA) ha già avuto accesso a Mythos per effettuare test. In questo contesto, due esperti di IA, Dean Ball e Ben Buchanan, hanno pubblicato sul New York Times un articolo congiunto sottolineando la necessità di unità politica di fronte ai rischi dell'IA. Sottolineano che la Cina potrebbe utilizzare strumenti come Mythos per sfruttare vulnerabilità nei sistemi statunitensi e che, sebbene l'Occidente mantenga il vantaggio tecnologico, questo è fragile. Gli Stati Uniti e i loro alleati possiedono una capacità di elaborazione molto superiore a quella della Cina, ma la cooperazione internazionale sarà essenziale per gestire rischi catastrofici, come l'uso dell'IA in armi biologiche. In Spagna, la preoccupazione cresce di fronte alla vulnerabilità delle infrastrutture critiche. Il governo spagnolo ha richiesto accesso anticipato a Mythos per valutare i rischi nel settore finanziario europeo, sebbene la posizione della Spagna nella NATO e la sua relazione con la Cina complicano l'accesso a tecnologie sensibili. In mezzo a questa incertezza, Anthropic ha annunciato un'alleanza con Blackstone, Hellman & Friedman e Goldman Sachs, con un investimento di 1,5 miliardi di dollari, per integrare Claude in operazioni critiche di aziende medie e, successivamente, piccole a livello globale. Il dibattito sul futuro dell'IA e il suo impatto sulla società rimane aperto, con scenari che ricordano le distopie della fantascienza.