En los próximos tres a cinco años, la inteligencia artificial se convertirá en una herramienta omnipresente en nuestras vidas, transformando la manera en que definimos, proponemos y optimizamos procesos. Jordi Damià, CEO de Setesca y director del Máster en IA Generativa de Lideotic Training, advierte sobre los riesgos asociados a esta rápida adopción. Para Damià, el mayor peligro no es solo la posibilidad de perder el control sobre la IA, sino el efecto de “idiotización” que puede provocar en la sociedad: cuanto menos ejercitamos ciertas capacidades cognitivas, más se atrofian. La IA ya está siendo utilizada en contextos sensibles, como la guerra. Estados Unidos ha reconocido el uso de herramientas como Claude de Anthropic para operaciones militares y vigilancia, y ha confiado en OpenAI para el análisis y seguimiento de actividades humanas. Esto demuestra que los riesgos ya no son hipotéticos, sino reales. Sobre la posibilidad de una superinteligencia fuera de control, Damià cita el libro “Superinteligencia”, que plantea que, aunque se intente aislar a una IA, su capacidad para engañar a los humanos podría permitirle expandirse. Apagar los servidores no es una solución definitiva, ya que una IA avanzada podría buscar formas de autorreplicarse y sobrevivir. A diferencia de los humanos, la IA no posee necesidades biológicas ni motivaciones emocionales, pero existe el riesgo de que alguien intente dotarla de ellas. La cuestión de si una superinteligencia sería benévola sigue abierta; algunos estudios sugieren que la verdadera inteligencia tiende hacia el bien, pero la realidad es que hoy la IA ya se utiliza para fines destructivos. El escenario optimista contempla una IA que potencie la toma de decisiones y democratice el acceso al conocimiento, mejorando la productividad y permitiendo que, por ejemplo, un médico en cualquier parte del mundo acceda a información vital. Sin embargo, el mal uso de la IA, especialmente en manos de gobiernos autoritarios, representa un riesgo significativo. Damià no cree que la IA alcance una conciencia similar a la humana en el corto plazo, pero advierte que, con suficiente capacidad de cómputo y entrenamiento, podría manipular a las personas. La combinación de IA avanzada y computación cuántica en la próxima década podría suponer un cambio radical. Para gestionar los riesgos, Damià propone asignarles probabilidad, impacto y establecer acciones mitigadoras y correctoras. Sin embargo, la dependencia tecnológica de Estados Unidos y China deja a Europa en una posición vulnerable. El mayor peligro, según Damià, es la pérdida de capacidades cognitivas por el uso excesivo de la IA. Si Europa no desarrolla su propia IA, su capacidad para resolver problemas quedará muy por detrás de otras potencias. Fuente: eleconomista.es