Cuando la máquina predice pero no entiende: el espejismo cognitivo de la inteligencia artificial

En 2020, un modelo de inteligencia artificial desarrollado por DeepMind resolvió el problema del plegamiento de proteínas con una precisión que dejó atónita a la comunidad científica. AlphaFold2 predijo la estructura tridimensional de casi todas las proteínas conocidas, una tarea que los bioquímicos llevaban décadas intentando abordar mediante razonamiento mecanístico. El titular que recorrió el mundo fue unánime: «La IA ha entendido la biología».

Esa frase contiene un error que merece ser examinado con cuidado. AlphaFold2 no entendió nada. Aprendió a reconocer patrones estadísticos en una base de datos masiva de estructuras proteicas ya conocidas y generalizó esos patrones a casos nuevos con una eficacia extraordinaria. Es un logro técnico monumental. Pero no es comprensión. Y la diferencia importa mucho más de lo que los titulares sugieren.

El problema de la caja negra no es técnico, es filosófico

Cuando los ingenieros de sistemas hablan de «cajas negras» en el contexto del aprendizaje automático, suelen referirse a un problema de interpretabilidad: no sabemos exactamente qué pesos neuronales activaron qué predicción. Pero hay una caja negra más profunda y más inquietante, que tiene menos que ver con la arquitectura del modelo y más con la naturaleza del conocimiento que produce.

Los modelos de machine learning, en su forma más extendida, son máquinas de correlación. Ingieren cantidades ingentes de datos, identifican relaciones estadísticas entre variables y aprenden a predecir outputs a partir de inputs. Lo que no hacen, salvo en diseños muy específicos, es establecer relaciones causales. No responden a la pregunta «¿por qué ocurre esto?», sino a «¿qué suele ocurrir cuando se dan estas condiciones?».

Esta distinción, que el estadístico Judea Pearl ha convertido en el eje de su obra sobre causalidad, tiene consecuencias prácticas enormes. Un modelo que predice con alta precisión que ciertos pacientes de una comarca española tendrán hipertensión en los próximos cinco años no nos dice si la causa es genética, dietética, laboral o medioambiental. Sin esa información causal, cualquier intervención es, en el mejor caso, un disparo al aire bien orientado.

La seducción de los números altos

El problema se agrava porque los modelos predictivos generan una métrica que resulta extraordinariamente seductora: la precisión. Un clasificador que acierta el 94% de las veces parece, intuitivamente, que «sabe» mucho. Esta ilusión de competencia nos predispone a confiar en sus outputs sin interrogar sus fundamentos.

En el campo de la salud, este fenómeno ya está generando fricciones. Varios hospitales europeos han implementado algoritmos para priorizar pacientes en urgencias o predecir reingresos. Cuando los modelos fallan —y fallan, especialmente con poblaciones subrepresentadas en los datos de entrenamiento— la pregunta inevitable es: ¿por qué falló? Y la respuesta honesta suele ser: no lo sabemos con precisión, porque el modelo no razona, correlaciona.

En España, el debate sobre el uso de IA en la administración pública ha comenzado a emerger tímidamente. La Agencia Española de Supervisión de la Inteligencia Artificial, creada en 2023, tiene ante sí el reto de regular no solo los riesgos técnicos sino los epistemológicos: ¿qué tipo de conocimiento estamos validando cuando adoptamos decisiones basadas en predicciones algorítmicas?

El pensamiento causal como capacidad política

Aquí es donde la discusión abandona el terreno técnico para entrar en el filosófico y político. El razonamiento causal no es solo una herramienta científica: es una práctica social y política. Cuando nos preguntamos por qué aumenta la pobreza infantil, por qué ciertos barrios tienen peor acceso a servicios públicos, o por qué algunas comunidades presentan tasas más altas de enfermedad mental, estamos ejerciendo un tipo de pensamiento que orienta la acción colectiva y la responsabilidad institucional.

Delegar esas preguntas en modelos predictivos tiene el efecto, a menudo no intencionado, de neutralizarlas políticamente. Si un algoritmo nos dice que los niños de ciertos códigos postales tienen alta probabilidad de abandono escolar, podemos intervenir sobre esos niños individualmente. Lo que el algoritmo no nos dice —porque no está diseñado para ello— es que esa correlación refleja décadas de desinversión pública en infraestructura educativa, segregación residencial y precariedad laboral familiar. La predicción puede coexistir perfectamente con la injusticia estructural que la genera.

La filósofa de la ciencia Alicia Juarrero ha argumentado que los sistemas complejos —organismos, sociedades, ecosistemas— requieren explicaciones que los modelos correlacionales no pueden proporcionar por construcción. No porque los datos sean insuficientes, sino porque la causalidad en sistemas complejos es contextual, retroalimentada y emergente de maneras que una función de pérdida estadística no puede capturar.

Lo que perdemos cuando dejamos de preguntar por qué

Existe un riesgo cultural que trasciende cualquier aplicación concreta de la IA: el empobrecimiento del hábito de preguntar por qué. Si los sistemas que utilizamos para tomar decisiones importantes —médicas, judiciales, educativas, urbanísticas— producen respuestas sin explicación, y si esas respuestas son suficientemente precisas para que nadie las cuestione, el músculo del razonamiento causal se atrofia.

Este no es un temor especulativo. Los estudios sobre cognición distribuida sugieren que externalizamos capacidades cognitivas a las herramientas que usamos habitualmente. La escritura transformó la memoria. La calculadora transformó la aritmética mental. Los sistemas de navegación por GPS han demostrado, en estudios de neuroimagen, afectar al uso del hipocampo en la orientación espacial. Si delegamos el razonamiento causal en cajas negras computacionales, hay razones para preguntarse qué ocurre con esa capacidad en quienes toman decisiones.

Predecir con honestidad

Nada de lo anterior implica que la inteligencia artificial sea un instrumento inútil o pernicioso. Sus aplicaciones en diagnóstico médico, modelado climático o investigación de materiales representan avances genuinos. La cuestión es la honestidad epistemológica con la que los presentamos.

Un modelo predictivo es una herramienta poderosa para identificar dónde mirar. No es un sustituto de la pregunta sobre qué estamos viendo ni por qué. Confundir ambas cosas no es solo un error científico: es una renuncia intelectual que, en manos de quienes toman decisiones que afectan a millones de personas, puede tener consecuencias muy concretas.

La próxima vez que un titular anuncie que «la IA ha comprendido» algo, vale la pena detenerse un instante. Comprender implica poder explicar, intervenir con intención y asumir responsabilidad por las causas. Predecir, no necesariamente. Y esa diferencia, aunque incómoda, es demasiado importante para delegarla también en un algoritmo.