Emily M. Bender y Alex Hanna: Cuestionando la Inteligencia Artificial

A la lingüista Emily M. Bender, de 52 años y originaria de Washington, y a la ingeniera, matemática y socióloga Alex Hanna, de 40 años y residente en California del Sur, las une un sentimiento claro: el deseo de desmantelar el mito que rodea a la inteligencia artificial (IA). Esta postura se presenta en su nuevo libro, La estafa de la IA, publicado por Paidós en España esta semana. El texto responde a la creciente exaltación de las capacidades de la IA, que las autoras prefieren definir como “máquinas generadoras de contenidos sintéticos”.

La IA como Estafa

En las primeras páginas del libro, Bender y Hanna son contundentes: “La IA es una trampa, un engaño diseñado para enriquecer a ciertas personas”. A lo largo de más de 300 páginas, argumentan que la IA carece de verdadera inteligencia, comete errores con frecuencia y depende del trabajo humano para su funcionamiento. Además, cuestionan las ideas apocalípticas asociadas a su desarrollo.

¿Quiénes Son las Autoridades del Texto?

Bender es profesora en la Universidad de Washington, donde dirige un máster en Lingüística Computacional y es conocida por acuñar el término “loro estocástico”, refiriéndose así a los grandes modelos de lenguaje (LLM). Este término resalta cómo estos modelos simplemente repiten datos de manera probabilística. En colaboración con Timnit Gebru, examinó el sesgo en los modelos de lenguaje de Google, revelando su impacto negativo en comunidades minoritarias y los costos ambientales de su entrenamiento.

Por su parte, Hanna trabajó con Gebru en Google y abandonó su empleo tras el despido de su jefa. Actualmente, dirige la investigación en el instituto DAIR, creado por Gebru. Ambas autoras se conectaron por videoconferencia desde Seattle y San Francisco para discutir su libro.

La Crítica al Hype de la IA

Pregunta: ¿Cómo llegaron a la conclusión de que la IA es una estafa?

Bender: Me intriga el esfuerzo dedicado a promocionar algo que no puede funcionar como se afirma. ¿Por qué hay tanto empeño en presentar a la IA como la solución a todos nuestros problemas? En sectores como salud, educación y servicios legales, se vincula constantemente a la IA con mejoras en la productividad, aunque sus beneficios no siempre son evidentes.

Manipulación del Lenguaje

P: Ustedes afirman que la IA no es inteligente, pero es fascinante para el público. ¿Por qué?

B: La IA es persuasiva precisamente por cómo interpretamos el lenguaje. Cuando leemos en un idioma conocido, tendemos a asumir que hay un autor con intenciones específicas, pero los modelos de lenguaje simplemente manipulan datos y números.

Inversiones y Publicidad

P: ¿Cómo han logrado las empresas crear una burbuja alrededor de la IA?

Hanna: Se están invirtiendo enormes sumas de capital riesgo en esta tecnología. Se espera que para 2025, aproximadamente 50.000 millones de dólares se destinen a la IA en Norteamérica. La constante promoción ha inflado su popularidad.

Paradojas en el Debate sobre la IA

P: Ustedes sugieren que los “doomers” (catastrofistas) y “boosters” (entusiastas) de la IA son más similares de lo que parece. ¿Por qué?

H: Ambas posturas consideran a la IA inevitable. Los entusiastas creen que solo hay que dirigirla correctamente, mientras que los catastrofistas advierten sobre un potencial apocalipsis, pero esencialmente ambas visiones son reactivas.

Cuestionando la Inteligencia General Artificial

P: En el libro argumentan que la búsqueda de la IA general (IAG) es racista. ¿Por qué?

H: Los orígenes de la IAG se encuentran en pruebas históricas de clasificación de inteligencia que han sido utilizadas para discriminar. Al investigar a fondo, descubrimos vínculos con teorías eugenésicas, lo que plantea serias preguntas sobre su legitimidad y ética.

Problemas Actuales y Futuro de la IA

P: ¿Por qué es importante abordar los problemas actuales de la IA y no solo los futuros?

H: Muchas preocupaciones sobre la IA se minimizan, en especial cuando afectan a comunidades marginalizadas. Es crucial centrarse en las repercusiones inmediatas que ya están afectando a personas reales.

Propuestas de Resistencia

P: ¿Qué proponen para contrarrestar el crecimiento desmedido de la IA?

B: La narrativa de que no podemos hacer nada es falsa. La resistencia puede provenir de los trabajadores de Silicon Valley, quienes podrían tener un rol activo en la toma de decisiones si se organizan correctamente.