L'estadística i les prediccions algorítmiques -eines centrals de la intel·ligència artificial- estan remodelant les nostres societats. Des de les finances i l'atenció mèdica fins als mitjans de comunicació i les xarxes socials, vivim envoltats de pronòstics que influeixen en cadascuna de les nostres decisions. Però, fins a quin punt és saludable aquesta dependència dels algoritmes? I qui és responsable de les conseqüències quan les prediccions fallen o quan encerten per les raons equivocades?
En el seu nou llibre Profecía (Debate), la filòsofa hispano-mexicana-britànica Carissa Véliz -professora a la Facultat de Filosofia, l'Institut d'Ètica de la IA i el Hertford College a la Universitat d'Oxford i assessora d'empreses i governs arreu del món- argumenta que més dades no sempre impliquen millors resultats, que la IA pot augmentar els riscos en lloc de reduir-los, i que una societat lliure no necessita més prediccions: necessita una millor preparació.
De tot plegat en va parlar en un diàleg al Cercle d’Economia amb Júlia Pareto, professora lectora en ètica de la tecnologia de l'Institut de Robòtica i Informàtica Industrial CSIC-UPC, Universitat Politècnica de Catalunya - Barceloan Tech (UPC).
Véliz va desgranar les contradiccions d'un model tecnològic que sovint presenta les seves projeccions estadístiques com a veritats objectives, i va proposar una mirada crítica sobre el lloc que hauria d'ocupar la predicció en una societat democràtica.
Predicció no és veritat
Un dels arguments de fons del debat va ser epistemològic: “les prediccions mai no són fets, sinó conjectures informades”, va afirmar Véliz. “Quan figures com Elon Musk o Sam Altman afirmen que determinades tecnologies són inevitables, no descriuen el futur sinó que emeten ordres de compra”, va afegir. La professora a la Universitat d’Oxford va recordar que la predicció probabilística funciona raonablement per a fenòmens regulars, però resulta ineficaç i potencialment perillosa quan s'aplica a situacions que no segueixen una distribució normal, com el canvi climàtic o la pròpia escala d'expansió de la IA.
L'èxit actual de les xarxes neuronals, va subratllar, no deriva de cap descobriment científic sobre la consciència o la intel·ligència, sinó de la combinació de potència computacional massiva i l'ús de grans volums de dades, moltes de les quals han estat obtingudes sense consentiment. Els models de llenguatge calculen quina resposta és estadísticament preferible per a un usuari, independentment de la seva veracitat: una característica que els fa especialment hàbils per generar discurs plausible però fals, amb efectes corrosius sobre l'esfera pública. “Una societat lliure no necessita més prediccions: necessita una millor preparació”, va assegurar Véliz.
El perill dels sistemes kafkians
On les implicacions es tornen més concretes és en l'ús de la IA per a decisions d'alt impacte sobre les persones: concessió de crèdits, sentències judicials, accés a habitatge o oportunitats laborals. Véliz va alertar que aquests sistemes no estan dissenyats per descobrir veritats causals, sinó per operar probabilísticament. La distinció és crucial: si se li denega un préstec de 10.000 euros en funció d'una predicció, l'afectat no té cap argument factual amb el qual impugnar un càlcul de probabilitat futura. El ciutadà queda atrapat en un sistema on la prova estadística substitueix la causalitat i on la impugnació racional es torna impossible.
La responsabilitat que ningú no ha assumit
Carissa Véliz va posar el focus en un problema de governança que sovint passa desapercebut: les decisions ètiques i polítiques que haurien de ser debatudes democràticament s'estan transferint de manera inadvertida als enginyers i tecnòlegs de Silicon Valley. Véliz va afirmar que un enginyer brillant no té perquè estar format en filosofia política o en els fonaments de la democràcia, de la mateixa manera que un metge no és necessàriament un expert en bioètica. Aquesta delegació silenciosa crea un buit de poder que visions autoritàries o ultraliberals omplen sense resistència.
Véliz va subratllar que el problema no és la tecnologia en si, sinó l'absència d'un marc normatiu i filosòfic que la reguli. La literatura sobre l'ètica de la predicció és gairebé inexistent, i en canvi les decisions que se'n deriven afecten milions de persones. Recuperar aquest debat -des de la filosofia, el dret i la política- és una de les tasques urgents que Véliz identifica al seu llibre.
La privacitat com a eina política
La part final del diàleg va abordar la vigilància tecnològica i el valor del món analògic. Véliz va reivindicar la privacitat no com una preferència individual sinó com un pilar polític fonamental: “la declaració universal dels drets humans la recull precisament per les lliçons apreses de règims que van usar arxius i registres per perseguir persones”. La vigilància constant que exerceixen les xarxes socials sobre els joves -on cada pas queda registrat i pot ser jutjat- “els impedeix arriscar-se, equivocar-se i aprendre: tres ingredients imprescindibles per al desenvolupament personal i per a la innovació col·lectiva”, va assegurar.
Véliz va tancar el diàleg apostant per recuperar el pensament crític i el món analògic com a contrapoder davant el determinisme tecnològic. El futur, va concloure, no es prediu: es construeix mitjançant l'acció i els principis.
