Yaël Eisenstat: Lucha contra el extremismo en redes sociales
Yaël Eisenstat, una destacada experta estadounidense con más de dos décadas de experiencia en la lucha contra el extremismo y la polarización en las redes sociales, ha ocupado roles clave en el gobierno y el sector privado. Su trayectoria incluye ser diplomática, analista de la CIA y asesora del vicepresidente Joe Biden durante el segundo mandato de Barack Obama. En 2018, se unió a Facebook como directora de integridad global de elecciones, justo en medio del escándalo de Cambridge Analytica, donde se utilizaron datos de 87 millones de usuarios para influir en la campaña electoral de Donald Trump en 2016.
Durante sus seis meses en el cargo, Eisenstat se dio cuenta de que no podría cumplir sus objetivos de garantizar la limpieza de las elecciones. Luego de salir de Facebook, bajo el nuevo nombre de Meta, comenzó a abogar públicamente por una mayor responsabilidad en la gestión de la información electoral.
Cybersecurity for Democracy y el activismo actual
Actualmente, Eisenstat es directora de política e impacto en Cybersecurity for Democracy. Recientemente, participó en el I Encuentro Internacional por los Derechos Digitales en Barcelona, donde discutió el estado de la democracia en la era de las plataformas digitales.
Estado actual de la democracia y las plataformas
Pregunta: ¿La democracia está mejor protegida contra la influencia de las plataformas en comparación con 2018?
Respuesta: La situación es diferente. Hay áreas donde estamos peor. Las empresas que influyen en el discurso político online son más poderosas que en 2018 y han incorporado inteligencia artificial en sus procesos, lo que les permite difundir contenidos manipulados. Además, algunas han retrocedido en sus políticas de moderación.
La manipulación a través de algoritmos
P: ¿Quiénes utilizan estas herramientas para manipular la opinión pública?
R: Hay una variedad de actores, incluidos gobiernos como Irán, China y Rusia, que propagan propaganda. Sin embargo, también hay individuos que buscan monetizar audiencias, aprendiendo que los algoritmos premian el contenido emocional y extremo, lo cual escalona el uso de desinformación.
P: ¿Cuáles son los efectos de los deepfakes en la democracia?
R: No podemos esperar que los usuarios asuman toda la responsabilidad. Las empresas deben implementar medidas como el etiquetado de contenido generado por inteligencia artificial. El diseño actual de estas plataformas incentiva comportamientos extremos y adictivos.
Expectativas sobre responsabilidad empresarial
P: ¿Es posible que las grandes tecnológicas rindan cuentas dado su poder económico y político?
R: Eso espero. Cuanto más conscientes se vuelvan las personas de que están siendo manipuladas, más exigirán cambios. No propongo destruir estas empresas, sino crear regulaciones y una transparencia que se asemeje a la regulación de otras industrias.
Desafíos de la regulación y el diseño de las plataformas
P: ¿Necesitamos que ocurra otro escándalo similar a Cambridge Analytica para que se tomen medidas?
R: Ha habido un despertar en la conciencia pública sobre la seguridad infantil en las redes sociales. Sentencias recientes han demostrado que el diseño mismo de las plataformas puede ser adictivo y potencialmente dañino.
P: ¿Cómo se puede romper la lógica que premia el discurso del odio en los algoritmos?
R: Es un problema de diseño. El discurso del odio no es ilegal en EE.UU. La preocupación radica en el modelo de negocio que incentiva estos comportamientos. Cambiar ese modelo es crucial para abordar el problema.
P: ¿Qué cambios propondrías en el modelo de negocio de las plataformas?
R: El modelo se basa en personalizar la experiencia de los usuarios utilizando sus datos. Es necesario establecer mecanismos que limiten este enfoque y controlen el poder que una sola persona tiene sobre la comunicación y la información en la sociedad.
