La estadística y las predicciones algorítmicas —herramientas centrales de la inteligencia artificial— están remodelando nuestras sociedades. Desde las finanzas y la atención médica hasta los medios de comunicación y las redes sociales, vivimos rodeados de pronósticos que influyen en cada una de nuestras decisiones. Pero, ¿hasta qué punto es saludable esta dependencia de los algoritmos? ¿Y quién es responsable de las consecuencias cuando las predicciones fallan o cuando aciertan por las razones equivocadas?
En su nuevo libro Profecía (Debate), la filósofa hispano-mexicano-británica Carissa Véliz -profesora en la Facultad de Filosofía, el Instituto de Ética de la IA y el Hertford College de la Universidad de Oxford, y asesora de empresas y gobiernos de todo el mundo- argumenta que más datos no siempre implican mejores resultados, que la IA puede aumentar los riesgos en lugar de reducirlos, y que una sociedad libre no necesita más predicciones: necesita una mejor preparación.
De todo ello habló en un diálogo en el Cercle d'Economia con Júlia Pareto, profesora lectora en ética de la tecnología del Instituto de Robótica e Informática Industrial CSIC-UPC, Universitat Politècnica de Catalunya - Barcelona Tech (UPC).
Véliz desgranó las contradicciones de un modelo tecnológico que a menudo presenta sus proyecciones estadísticas como verdades objetivas, y propuso una mirada crítica sobre el lugar que debería ocupar la predicción en una sociedad democrática.
Predicción no es verdad
Uno de los argumentos de fondo del debate fue epistemológico: "las predicciones nunca son hechos, sino conjeturas informadas", afirmó Véliz. "Cuando figuras como Elon Musk o Sam Altman afirman que determinadas tecnologías son inevitables, no describen el futuro sino que emiten órdenes de compra", añadió. La profesora de la Universidad de Oxford recordó que la predicción probabilística funciona razonablemente para fenómenos regulares, pero resulta ineficaz y potencialmente peligrosa cuando se aplica a situaciones que no siguen una distribución normal, como el cambio climático o la propia escala de expansión de la IA.
El éxito actual de las redes neuronales, subrayó, no deriva de ningún descubrimiento científico sobre la conciencia o la inteligencia, sino de la combinación de potencia computacional masiva y el uso de grandes volúmenes de datos, muchos de los cuales han sido obtenidos sin consentimiento. Los modelos de lenguaje calculan qué respuesta es estadísticamente preferible para un usuario, independientemente de su veracidad: una característica que los hace especialmente hábiles para generar discurso plausible pero falso, con efectos corrosivos sobre la esfera pública. "Una sociedad libre no necesita más predicciones: necesita una mejor preparación", aseguró Véliz.
El peligro de los sistemas kafkianos
Donde las implicaciones se vuelven más concretas es en el uso de la IA para decisiones de alto impacto sobre las personas: concesión de créditos, sentencias judiciales, acceso a vivienda u oportunidades laborales. Véliz advirtió que estos sistemas no están diseñados para descubrir verdades causales, sino para operar probabilísticamente. La distinción es crucial: si se le deniega un préstamo de 10.000 euros en función de una predicción, el afectado no dispone de ningún argumento factual con el que impugnar un cálculo de probabilidad futura. El ciudadano queda atrapado en un sistema donde la prueba estadística sustituye a la causalidad y donde la impugnación racional se vuelve imposible.
La responsabilidad que nadie ha asumido
Carissa Véliz puso el foco en un problema de gobernanza que a menudo pasa desapercibido: las decisiones éticas y políticas que deberían debatirse democráticamente se están transfiriendo de manera inadvertida a los ingenieros y tecnólogos de Silicon Valley. Véliz afirmó que un ingeniero brillante no tiene por qué estar formado en filosofía política o en los fundamentos de la democracia, del mismo modo que un médico no es necesariamente un experto en bioética. Esta delegación silenciosa crea un vacío de poder que visiones autoritarias o ultraliberales llenan sin resistencia.
Véliz subrayó que el problema no es la tecnología en sí, sino la ausencia de un marco normativo y filosófico que la regule. La literatura sobre la ética de la predicción es prácticamente inexistente, y en cambio las decisiones que se derivan de ella afectan a millones de personas. Recuperar este debate desde la filosofía, el derecho y la política es una de las tareas urgentes que Véliz identifica en su libro.
La privacidad como herramienta política
La parte final del diálogo abordó la vigilancia tecnológica y el valor del mundo analógico. Véliz reivindicó la privacidad no como una preferencia individual sino como un pilar político fundamental: «la declaración universal de los derechos humanos la recoge precisamente por las lecciones aprendidas de regímenes que usaron archivos y registros para perseguir personas». La vigilancia constante que ejercen las redes sociales sobre los jóvenes -donde cada paso queda registrado y puede ser juzgado- "les impide arriesgarse, equivocarse y aprender: tres ingredientes imprescindibles para el desarrollo personal y para la innovación colectiva", aseguró.
Véliz cerró el diálogo apostando por recuperar el pensamiento crítico y el mundo analógico como contrapoder frente al determinismo tecnológico. El futuro, concluyó, no se predice: se construye mediante la acción y los principios.
