La inteligencia artificial (IA) está cada vez más presente en sectores clave como la medicina, el derecho, la ciencia, la comunicación y la ingeniería. Sin embargo, un reciente estudio de la Universidad de Stanford (California, EE. UU.) advierte sobre una limitación fundamental: los modelos de lenguaje que sustentan estas tecnologías aún no logran diferenciar de manera fiable entre creencias falsas y hechos, lo que puede derivar en diagnósticos incorrectos, errores judiciales y propagación de desinformación. La investigación, basada en unas 13.000 preguntas, reveló que “todos los modelos evaluados fallan al identificar creencias falsas en primera persona”. Por ejemplo, GPT reduce su precisión del 98,2% al 64,4% y DeepSeek R1 cae de más del 90% al 14,4%. Cuando las creencias erróneas se presentan en tercera persona, la precisión mejora: los modelos más avanzados alcanzan hasta un 95% y los más antiguos un 79%. Según Mirac Suzgun, investigador principal del Departamento de Ciencias de la Computación de Stanford, esto evidencia un “preocupante sesgo de atribución”. Los autores subrayan que la mayoría de los modelos carecen de una comprensión sólida sobre la naturaleza factual del conocimiento, lo que exige mejoras urgentes antes de su uso en ámbitos donde distinguir entre evidencia y creencia es esencial. A diferencia de los humanos, que pueden separar hechos de opiniones o creencias no verificadas, incluso los sistemas de IA más avanzados carecen de esta capacidad, según el artículo publicado en Nature. Esta deficiencia puede generar conflictos en temas sensibles como vacunas, cambio climático o políticas de salud pública, donde la diferencia entre convicción personal y evidencia empírica es crucial para la toma de decisiones y el debate social. El estudio analizó modelos como GPT-4, DeepSeek R1, o1, Gemini 2, Claude-3 y Llama-3, y concluyó que la comprensión de estos sistemas sigue siendo limitada en áreas como diagnóstico médico, salud mental, análisis jurídico, periodismo, educación, investigación científica, asesoría financiera y terapia de relaciones personales. Fuente: diariodeleon.es