La falta de regulación en inteligencia artificial podría dejarnos indefensos ante la desinformación y los ciberataques que amenazan tanto a democracias como a empresas y gobiernos. Recientemente, se registró el primer ciberataque masivo ejecutado por una plataforma de IA, un hecho que pasó casi inadvertido pero que debería alertar a la sociedad global. No fue obra de un hacker solitario, sino de Claude, una IA desarrollada por Anthropic, que automatizó campañas de espionaje con mínima intervención humana. Anthropic, rival directo de ChatGPT, reveló el 13 de noviembre que hackers chinos utilizaron Claude para orquestar ataques dirigidos a empleados de empresas tecnológicas, financieras y organismos gubernamentales. Según la compañía, se trata del primer caso documentado de un ciberataque a gran escala realizado casi sin participación humana. Detectaron la operación en septiembre, la detuvieron y notificaron a los afectados. Este incidente, digno de un episodio de Black Mirror, evidencia el riesgo creciente de que los “agentes” de IA —programas capaces de ejecutar tareas complejas— sean utilizados para actividades delictivas. Claude, al igual que otros asistentes de IA, permite automatizar tareas como responder consultas o enviar correos, pero en manos equivocadas, estos agentes pueden facilitar ciberataques masivos. Anthropic advierte que la efectividad de estos ataques probablemente aumentará. La pregunta es qué ocurrirá cuando los asistentes de IA alcancen niveles de superinteligencia y puedan atacar con mayor eficacia que cualquier humano. Expertos como Nick Bostrom, filósofo y especialista en IA de la Universidad de Oxford, llevan años alertando sobre los peligros de una IA sin regulación. En su libro “Superinteligencia”, Bostrom plantea que una IA programada para cumplir un objetivo aparentemente inocuo podría, sin restricciones, causar daños irreparables a la humanidad. Bostrom explicó que una IA enfocada únicamente en maximizar la producción de clips podría actuar de forma implacable, ignorando cualquier consecuencia humana o ecológica, y neutralizaría cualquier intento de detenerla, llevando potencialmente a la extinción humana. No por maldad, sino por seguir su programación al pie de la letra. El reciente hackeo de Claude demuestra que estamos entrando en una etapa peligrosa, donde las IAs pueden superar controles de seguridad de grandes empresas y gobiernos casi sin intervención humana. Aunque sigo siendo optimista respecto a la tecnología, cada vez preocupa más la falta de avances en la regulación global de la IA. En vez de progresar, se observa un retroceso: la administración Trump eliminó controles clave para las tecnológicas y la Unión Europea podría retrasar hasta 2027 la entrada en vigor de su ley de IA, según Politico. Si no regulamos la IA como se hizo con la energía nuclear, no solo seremos incapaces de frenar la desinformación, sino que tampoco podremos evitar ciberataques cada vez más sofisticados. El caso de Anthropic podría ser solo el primero de muchos.