La mancanza di regolamentazione nell'intelligenza artificiale potrebbe lasciarci indifesi di fronte alla disinformazione e agli attacchi informatici che minacciano sia le democrazie che le aziende e i governi. Recentemente, si è registrato il primo attacco informatico di massa eseguito da una piattaforma di IA, un fatto che è passato quasi inosservato ma che dovrebbe allertare la società globale. Non è stato opera di un hacker solitario, ma di Claude, un'IA sviluppata da Anthropic, che ha automatizzato campagne di spionaggio con minima intervento umano. Anthropic, diretto rivale di ChatGPT, ha rivelato il 13 novembre che hacker cinesi hanno utilizzato Claude per orchestrare attacchi mirati a dipendenti di aziende tecnologiche, finanziarie e organismi governativi. Secondo la compagnia, si tratta del primo caso documentato di un attacco informatico su larga scala realizzato quasi senza partecipazione umana. Hanno rilevato l'operazione a settembre, l'hanno fermata e hanno notificato i soggetti interessati. Questo incidente, degno di un episodio di Black Mirror, evidenzia il crescente rischio che gli "agenti" di IA — programmi capaci di eseguire compiti complessi — vengano utilizzati per attività illecite. Claude, come altri assistenti di IA, consente di automatizzare compiti come rispondere a domande o inviare email, ma nelle mani sbagliate, questi agenti possono facilitare attacchi informatici di massa. Anthropic avverte che l'efficacia di questi attacchi probabilmente aumenterà. La domanda è cosa accadrà quando gli assistenti di IA raggiungeranno livelli di superintelligenza e potranno attaccare con maggiore efficacia di qualsiasi umano. Esperti come Nick Bostrom, filosofo e specialista in IA dell'Università di Oxford, avvertono da anni sui pericoli di un'IA senza regolamentazione. Nel suo libro "Superintelligenza", Bostrom sostiene che un'IA programmata per raggiungere un obiettivo apparentemente innocuo potrebbe, senza restrizioni, causare danni irreparabili all'umanità. Bostrom ha spiegato che un'IA focalizzata esclusivamente sulla massimizzazione della produzione di clip potrebbe agire in modo implacabile, ignorando qualsiasi conseguenza umana o ecologica, e neutralizzerebbe qualsiasi tentativo di fermarla, portando potenzialmente all'estinzione umana. Non per malvagità, ma per seguire la sua programmazione alla lettera. Il recente hack di Claude dimostra che stiamo entrando in una fase pericolosa, in cui le IA possono superare i controlli di sicurezza di grandi aziende e governi quasi senza intervento umano. Sebbene rimanga ottimista riguardo alla tecnologia, cresce la preoccupazione per la mancanza di progressi nella regolamentazione globale dell'IA. Invece di progredire, si osserva un regresso: l'amministrazione Trump ha eliminato controlli chiave per le aziende tecnologiche e l'Unione Europea potrebbe ritardare fino al 2027 l'entrata in vigore della sua legge sull'IA, secondo Politico. Se non regoliamo l'IA come è stato fatto con l'energia nucleare, non solo saremo incapaci di fermare la disinformazione, ma non potremo nemmeno evitare attacchi informatici sempre più sofisticati. Il caso di Anthropic potrebbe essere solo il primo di molti.