En el año 2020, la filósofa hispanomexicana Carissa Véliz se convirtió en una voz prominente en el debate global sobre los efectos de la tecnología con su obra Privacidad es poder (Destino). En este libro, Véliz argumentó en contra del capitalismo de vigilancia, subrayando la inaceptabilidad de la constante invasión a la privacidad. Ahora, seis años después, esta profesora de filosofía en la Universidad de Oxford regresa al panorama literario con su nuevo ensayo Prophecy (Profecía), que saldrá a la venta en España en junio bajo la editorial Debate.
Análisis de la nueva obra
En Prophecy, Véliz ofrece una reflexión profunda sobre cómo la estadística y las predicciones, herramientas centrales para la inteligencia artificial (IA), funcionan como instrumentos de poder que moldean la realidad. «Las predicciones frecuentemente son órdenes disfrazadas de búsqueda de conocimiento. La economía de datos se ha expandido porque nuestra intención es predecir; si no, no dedicaríamos tiempo y energía a ello», señala la filósofa durante su visita a Madrid.
El atractivo de las profecías
Pregunta. ¿Qué hace atractivas las profecías?
Respuesta. He notado una creciente cultura de la adivinación, impulsada por la IA. El machine learning fomenta una mentalidad probabilística que, junto a los mercados de predicción, presenta las predicciones como realidades, con serias implicaciones éticas.
Las predicciones como órdenes
Pregunta. Mencionas que las predicciones pueden moldear la realidad.
Respuesta. A menudo, somos ingenuos respecto a las predicciones. Esta ilusión del lenguaje hace que suenen como hechos. Cuando analizamos las predicciones filosóficamente, descubrimos que no lo son. En especial, las predicciones sobre seres humanos moldean nuestras expectativas, que a su vez pueden influir en la realidad. Esto otorga a las predicciones un poder persuasivo.
Raíces históricas de las estadísticas
Pregunta. Aunque las matemáticas tienen un largo recorrido, ¿cómo se ha desarrollado el estudio de las probabilidades?
Respuesta. Si bien los antiguos griegos contaban con una rica sabiduría filosófica y matemática, no desarrollaron conceptos de probabilidad. Una posible razón es que esa idea contradecía la noción de destino divino. El surgimiento de la estadística, ligado a figuras como Francis Galton, tiene conexiones profundas con el colonialismo, ya que se buscaba una forma de controlar y normalizar a las poblaciones.
Control social a través de las estadísticas
Pregunta. ¿Por qué consideras que las estadísticas son herramientas de poder?
Respuesta. Cuando se presenta una predicción como un hecho, convencemos a la gente de que es el futuro esperado, lo que se traduce en una forma de imponer el futuro que deseamos. Las declaraciones que parecen descriptivas son, en realidad, órdenes subliminales.
Deshumanización y categorización
Pregunta. ¿Cuál es el impacto de categorizar a las personas?
Respuesta. Cada vez que consideramos a las personas únicamente como números, las deshumanizamos. El establecimiento de categorías crea una necesidad de ajustarse a ellas, limitando la flexibilidad del individuo y fomentando una visión rígida de la realidad. Las estadísticas no son neutrales; son herramientas que reconfiguran nuestro entorno social.
La burocracia y la dependencia de los números
Pregunta. ¿Qué llevó al desarrollo de esta burocracia basada en números?
Respuesta. La confianza en los números surge de una desconfianza hacia las personas. Con la desaparición de la realeza, los burócratas buscan validar su existencia a través de datos. Sin embargo, este proceso automatizado reduce la rendición de cuentas, convirtiéndose en un sistema que opera por sí solo, moviendo a las personas según su lógica interna.
La ilusión de la precisión numérica
Pregunta. ¿Por qué parece que un argumento respaldado por números tiene más peso?
Respuesta. En el ámbito académico, hacer una predicción y respaldarla con números puede catapultar a alguien a la fama. Sin embargo, esas cifras a menudo pueden confundir más que aclarar, ya que pueden ser cifras fabricadas que ocultan la realidad.
Los desafíos de la IA
Pregunta. ¿Consideras que la IA es un castillo de naipes?
Respuesta. Absolutamente. La ilusión de control y previsibilidad que genera incrementa nuestra ceguera ante los riesgos sistémicos que la IA también trae consigo, riesgos que no se pueden resumir en cifras.
Hacia un futuro más robusto
Pregunta. ¿Cuál es el camino a seguir?
Respuesta. Debemos ser más críticos en el uso de la predicción. Aunque encontrar detalles sobre el clima es útil, es crucial distinguir entre lo que se puede y lo que no se puede predecir. En lugar de centrarnos en futuras predicciones inciertas, deberíamos invertir en construir una sociedad resiliente ante eventualidades conocidas, como futuras pandemias.
Reflexionando sobre nuestro conocimiento
Pregunta. ¿Qué revelan las predicciones sobre nuestra comprensión del mundo?
Respuesta. Cuando hay una gran variación en las predicciones, como en el caso de la IA, indica que en realidad no sabemos nada concreto. Incluso las personas expertas pueden no serlo en predecir el futuro de su campo. No debemos caer en la trampa de pensar que existen verdaderos “expertos en el futuro”.
Critica al utilitarismo
Pregunta. ¿Cuál es tu opinión sobre el utilitarismo y los altruistas efectivos?
Respuesta. El utilitarismo ha afectado nuestra manera de percibir la moralidad, influyendo en políticas públicas. Los altruistas efectivos, que justifican el enriquecimiento personal en pro de donaciones, también han sido motivo de crítica, especialmente en tiempos recientes.
