De lo que escribe la joven profesora de filosofía Carissa Veliz es, sobre todo, de los riesgos que representa un aspecto en particular del poder manipulador de los nuevos medios de comunicación de masas a través de las llamadas “redes sociales”: con el referente de los males que hemos heredado del profetismo ancestral (influencia política de la adivinación, de la astrología), se nos denuncian los falaces abusos de la Inteligencia Artificial y el monopolio de la información en manos de unos pocos.
La inteligencia artificial realiza predicciones sobre ti. Los algoritmos deciden si eres apto para un préstamo, un trabajo, un apartamento o un seguro. Determinan lo que ves en internet, quién lee tus publicaciones en las redes sociales y con quién contactas en las apps de citas. Pueden incluso decidir si acabarás arrestado o en la cárcel. Tu propia vida pende del hilo de predicciones. (Preludio)
Las profecías son el campo de batalla en el que se disputa el futuro. Son nuestras expectativas las que hacen que el mundo social se incline hacia nuestras predicciones. Cuando alguien pronostica que el mundo será de una determinada manera, está ordenando a los demás a obedecer sus deseos y a que ese mundo se haga realidad. (Preludio)
Ya es hora de que pensemos más detenidamente en la ética de la predicción. ¿Cuándo es apropiado hacer predicciones? ¿Quién tiene derecho a hacer determinadas predicciones? ¿Cuáles son los métodos éticos para hacer predicciones y cuáles son los usos éticos de la predicción? (Post scriptum)
Las previsiones de los departamentos oficiales, la publicidad de las compañías privadas, las tendencias que señalan los medios de comunicación… todas esas expectativas son creadas desde el poder y tienen una enorme influencia social que contrasta con su desorientadora inexactitud: pensemos en la devastadora crisis económica del año 2008, que nadie previó, pese a la supuesta brillantez de los técnicos en economía.
En medio de los sociólogos y los informáticos se abrieron paso los economistas como profetas del poder. (Capítulo 3)
La supuesta infalibilidad de la Inteligencia Artificial es el nuevo elemento añadido a esta confluencia de acciones dirigidas a una sociedad global como la de hoy.
La IA se ha convertido en el oráculo definitivo y los ejecutivos tecnológicos en los nuevos profetas. (Capítulo 3)
Los astrólogos y adivinos de la época de Roma resultaban inalcanzables en su conocimiento por el supuesto contacto que tenían con el mundo de lo sobrenatural, y hoy los augures de la tecnología también pretenden ser inalcanzables por su origen en la complejísima ciencia de vanguardia.
A una persona corriente, la inteligencia artificial puede parecerle algo asombroso y misterioso, y no hay duda de que se trata de un avance impresionante en muchos aspectos, pero lo mismo pensaban los antiguos griegos del Oráculo de Delfos, o los europeos medievales de la astrología. (Obertura)
Los astrólogos han sido sustituidos primero por matemáticos y especialistas en ciencias sociales y, más recientemente, por informáticos y ejecutivos tecnológicos (Capítulo 1)
El principal riesgo de las predicciones es el de las “profecías autocumplidas”. Al generar expectativas, alteran el comportamiento del público en el sentido buscado.
Un pronóstico que asegura que una persona o un país fracasarán puede ser la causa de ese fracaso. (Obertura)
Cualquier intento de predecir el comportamiento humano es también un intento de controlarlo, lo que, llevado al extremo, conduce al autoritarismo (Capítulo 6)
La crítica de Véliz llega incluso a la estadística, que siempre hemos considerado uno de los puntales del desarrollo científico.
Las estadísticas no son arbitrarias porque, bien hechas, siguen la pista de algo existente en el mundo, pero aun así son el producto de instrumentos y de personas. Los seres humanos crean los datos, traducen el mundo a números. El mundo no es estadístico por naturaleza; lo volvimos estadístico al cuantificarlo para poder controlarlo mejor (Capítulo 2)
Todo esto tiene sentido y nos ayuda a enfrentarnos a la manipulación, pero la autora no puede evitar volverse ella misma una profetisa.
Es mucho más probable que nos inflijamos un daño serio unos a otros usando la IA antes de que podamos afirmar, en sentido estricto, que la IA nos ha hecho daño a nosotros. (Capítulo 6)
Si la IA impulsa la estandarización y reduce la variedad, cabe esperar una menor volatilidad diaria, pero un mayor riesgo sistémico. Sucede lo mismo que con los monocultivos, que parecen estables hasta que colapsan de forma catastrófica. (Capítulo 6)
Y sorprende que entre los grandes profetas frustrados no mencione a Marx. Pocos fueron en el siglo XIX tan proféticos como él con sus vehementes afirmaciones acerca del triunfo futuro del proletariado en la guerra de clases y el hundimiento del capitalismo por sus propias contradicciones.
Los profetas pierden su influencia ante quienes no están interesados en el poder mundano. (Capítulo 9)
¿Estaban Marx y otros profetas de la lucha de clases interesados en el poder mundano?, ¿lo estaban quienes creyeron en ellos y comprometieron sus vidas en la causa de la clase obrera?
¿Hasta qué punto las previsiones y expectativas generadas por los estudiosos “desinteresados” pueden diferenciarse de la tendenciosidad manipuladora?
Los académicos son un contrapeso clave para los profetas y las profecías (Capítulo 7)
¿No usan los académicos de estadísticas, especulaciones, teorías, hipótesis?
En cambio, sí se menciona el fracaso profético de Malthus.
Para sorpresa de la mayoría de los analistas, las tasas de fertilidad globales disminuyeron rápidamente, aunque no debido a la guerra, el hambre o el caos, sino sobre todo como resultado de una mejora en la educación y de la incorporación de las mujeres al mercado laboral. Los avances tecnológicos en agricultura, la mejora de los sistemas de distribución y el desarrollo económico evitaron las hambrunas (Capítulo 4)
A la hora de extender su crítica a los engaños del procesamiento tecnológico de la información, la autora aprovecha también para criticar al movimiento humanitario “Altruismo eficaz” que asegura haber creado una alternativa a la caridad y empatía convencionales haciendo uso de una organización racional basada en la información objetiva y sus expectativas de futuro exactamente evaluadas. Veliz afirma, entre otras cosas, que fracasan en sus propósitos más explícitos, como seleccionar las tareas caritativas de mayor impacto real.
La objeción más importante al altruismo efectivo y al utilitarismo es que ambos dependen en gran medida de nuestra capacidad de predicción para tomar decisiones. (Capítulo 7)
Con todo, cabe preguntarse qué alternativa hay a intentar hacer la mejor elección posible… ¿Debemos ser indiferentes a los efectos que tenga nuestra voluntad de ayudar a nuestros semejantes?, ¿debemos abstenernos de racionalizar, con mayor o menor éxito, el fenómeno del altruismo, uno de los rasgos del comportamiento humano más esperanzadores?
Equiparar los cálculos estadísticos, las previsiones y las hipótesis científicas a la astrología y las adivinaciones de la Antigüedad nunca será exacto. Lo que se discute es la intencionalidad manipulativa coincidente en toda profecía.
Tener poder es tener la capacidad de motivar a alguien para que piense o haga algo que de otro modo no pensaría ni haría. (… ) Las predicciones son maniobras de poder mucho más que intentos para adquirir conocimiento. Cuando el director ejecutivo de una empresa tecnológica predice que en el futuro la IA hará todo y que la usará todo el mundo en todas partes, está haciendo marketing: está tratando de influir en nosotros para que compremos IA (Obertura)
No podemos evitar hacer predicciones. Pero sí podemos entender mejor qué estamos haciendo cuando pronosticamos. (Epílogo)
En el mejor de los casos, las predicciones son conjeturas fundadas. (Capítulo 4)
La señora Véliz nos propone, en conjunto, desatender las predicciones, las estadísticas, los big data, y en lugar de eso enfrentar las problemáticas actuales entregándonos a la incertidumbre necesaria y no olvidando la viabilidad de las acciones políticas.
Un grado saludable de incertidumbre sobre lo que está por venir nos motiva a querer hacerlo mejor y mantiene abiertas las posibilidades. La ambición de recopilar hasta el último dato para trazar un mapa de nuestro futuro es incompatible con la soberanía de las personas sobre su propia vida. (Capítulo 8)
La política es una pieza crucial del rompecabezas para evitar el sufrimiento innecesario, promover la justicia y ordenar la sociedad de manera que los ciudadanos tengan una buena vida (Post scriptum)
Pero ¿cómo emprender cualquier proyecto de reforma –o de cualquier cosa- sin hacer previamente especulaciones sobre las consecuencias de nuestros actos y en base a los datos fiables de los que disponemos?
Lectura de “Profecía” en Penguin Random House Grupo Editorial, S.A.U 2026 ; traducción de Andrés Barba Muñiz y Álvaro Marcos Lantero