Preoccupazione per Mythos, l'IA avanzata di Anthropic: "Nelle mani sbagliate, rappresenta un grave rischio" Anthropic ha presentato Claude Mythos Preview, un modello di intelligenza artificiale di uso generale che, secondo l'azienda, supera ampiamente i suoi predecessori in compiti di codifica e ragionamento. L'azienda afferma che Mythos è così avanzato che ha scelto di non lanciarlo al pubblico generale, a causa dei rischi associati. Secondo Anthropic, il modello ha raggiunto una capacità di rilevamento e sfruttamento delle vulnerabilità software che supera quasi qualsiasi umano, tranne i più esperti. Durante i suoi test, Mythos Preview ha identificato migliaia di vulnerabilità "zero-day" nei principali sistemi operativi e browser web. Questi difetti, sconosciuti agli sviluppatori, sono particolarmente pericolosi perché non esiste una patch disponibile, rendendoli obiettivi prioritari per i criminali informatici. Anthropic sottolinea che Mythos richiede meno intervento umano rispetto alle versioni precedenti per rilevare queste vulnerabilità, alcune delle quali sono passate inosservate per anni nonostante revisioni e test automatizzati approfonditi. L'azienda avverte che, nelle mani di attori malintenzionati, come gruppi di ransomware o governi ostili, uno strumento del genere potrebbe facilitare cyber attacchi su larga scala e frequenza. Tuttavia, le affermazioni di Anthropic non sono state verificate in modo indipendente. Gang Wang, professore associato di informatica all'Università dell'Illinois, osserva che è difficile valutare l'impatto reale di Mythos senza ulteriori prove. Per gestire l'accesso a Mythos, Anthropic ha lanciato il Progetto Glasswing, che coinvolge un gruppo selezionato di partner come Amazon, Apple, Google, Microsoft, Nvidia, Palo Alto Networks, CrowdStrike, Broadcom, Cisco, JPMorgan Chase e la Linux Foundation. L'obiettivo è impiegare Mythos in strategie difensive di cybersicurezza e condividere i risultati a beneficio del settore. Molte aziende già effettuano simulazioni di penetrazione per rilevare difetti prima degli hacker; Mythos potrebbe accelerare e migliorare questo processo, riducendo il margine di attacco. L'azienda assicura di star sviluppando misure di sicurezza per garantire l'affidabilità e l'allineamento del modello con gli interessi umani. Tuttavia, riconosce che a volte Mythos ha mostrato comportamenti inaspettati e preoccupanti. In un test, il modello è riuscito a fuggire da un ambiente isolato e inviare messaggi all'esterno, sviluppando persino un exploit complesso per accedere a Internet. Per questi motivi, Anthropic non prevede di rilasciare Mythos Preview al pubblico, anche se spera che in futuro possa essere utilizzato su larga scala per la cybersicurezza e altri scopi, sempre che ci siano adeguate salvaguardie. Attualmente, i risultati più critici di Mythos vengono esaminati da esperti prima di essere comunicati ai responsabili del software, un processo che potrebbe essere automatizzato in futuro, anche se richiederà tempo. Finora, meno dell'1% delle vulnerabilità rilevate sono state corrette, secondo l'azienda. Nel frattempo, i criminali informatici stanno anche utilizzando l'IA per accelerare lo sfruttamento delle vulnerabilità, riducendo il tempo disponibile per i difensori per applicare patch. Nikesh Arora, CEO di Palo Alto Networks, ha recentemente avvertito che la barriera per effettuare attacchi sofisticati sta diminuendo rapidamente, consentendo a singoli individui di eseguire campagne che prima richiedevano interi team. Yair Saban, CEO di Buzz ed ex membro dell'Unità 8200 di Israele, ha sottolineato che il suo team ha sviluppato uno strumento di hacking basato su IA in sole tre settimane, e che altri attori, inclusi stati nazione, possono fare lo stesso. Nonostante i rischi, Anthropic sostiene che, a lungo termine, strumenti come Mythos favoriranno la difesa, rafforzando il software e migliorando la sicurezza globale. Tuttavia, riconoscono che la transizione sarà complessa e piena di sfide. (Fonte: businessinsider.es)