Desinformación en línea: ¿están en riesgo las democracias?

Ha sido problemático varios años ser ciudadano de un país democrático. Las noticias en los Estados Unidos y en otros lugares están llenas de informes sobre disturbios populistas, el surgimiento de gobiernos autoritarios, rupturas de alianzas de larga data y ataques de desinformación en línea por parte de actores nacionales y extranjeros en las palancas de las democracias. La polarización política interna y el fracaso institucional en países pluralistas previamente vibrantes son un recordatorio de que las sociedades democráticas occidentales no están históricamente predestinadas, sino que en realidad pueden ser bastante frágiles frente al cambio tecnológico y social fundamental.

Las campañas de desinformación en línea respaldadas por cambios fundamentales en las estrategias militares y geopolíticas de los principales actores como Rusia y China fortalecen las facciones tribales y socavan la seguridad de los sistemas de infraestructura en objetivos como los Estados Unidos, a medida que los actores estatales y no estatales montan ataques cibernéticos cada vez más sofisticados instituciones democráticas La aceleración de la velocidad, el volumen y la variedad de información están creando un aumento dramático en la complejidad del ecosistema de información, lo que a su vez hace que las personas se retiren al fundamentalismo y aliente un mayor colapso institucional. Los militares, las empresas privadas y las organizaciones cívicas están tratando de responder a los desafíos inmediatos de un nuevo entorno imprevisible y peligroso, con un éxito limitado.

Desafortunadamente, prácticamente nadie se está enfocando en las amenazas fundamentales que las tecnologías emergentes están planteando a las instituciones democráticas que todos damos por sentado. Para tomar un ejemplo, considere el tema de la libertad de expresión en los Estados Unidos. Esto ha estado en las noticias recientemente, ya que demócratas y republicanos atacan por igual a las empresas de redes sociales por presunto sesgo e incompetencia. Sin embargo, a pesar del sturm und drang, les falta el punto realmente importante: el discurso en los Estados Unidos de hoy (y de hecho en Occidente) no es un asunto de tribunales y constituciones; se trata de los términos y condiciones del servicio y las debilidades del CEO de las principales empresas de redes sociales: Facebook, YouTube, Twitter, Tencent (WeChat), Alibaba. Puedes hablar todo lo que quieras para ti mismo, pero si quieres la atención de la gente, debes estar en las redes sociales. Y si te prohíben?

Y para hacer las cosas más interesantes, la economía de la red significa que muchas empresas de redes sociales son de escala regional o global, por lo que estas empresas deben tratar de resolver el discurso no solo entre republicanos y demócratas en los Estados Unidos, sino entre muchas otras culturas, con ideas muy diferentes de lo que constituye un discurso permisible en todo el mundo. En resumen, empresas como Facebook están tratando de descubrir el futuro; entidades políticas como los republicanos y demócratas, y la Unión Europea, están tratando de reconstruir marcos que ya son obsoletos.

Sin embargo, la libertad de expresión no es el único lugar donde el cambio tecnológico fundamental está abrumando las instituciones y la gobernanza. El tiempo del ciclo de los procesos políticos en las sociedades pluralistas, especialmente a medida que el tribalismo se inflama y se solidifica por las campañas de desinformación, se está volviendo más lento y más polarizado a medida que el cambio tecnológico se acelera, desacoplando cada vez más la regulación y la política de la realidad tecnológica.

Los llamados enfoques de conflicto de toda la sociedad favorecen a los gobiernos autoritarios blandos que pueden coordinar estrategias ofensivas y defensivas en toda su sociedad, incluidas empresas privadas, grupos cívicos e incluso organizaciones criminales, en contraste con países como Estados Unidos., donde las divisiones constitucionales y culturales entre las esferas militar y civil, y entre las instituciones privadas y gubernamentales, ponen cada vez más en desventaja al país. El poder blando de Occidente, una  fuente muy poco apreciada de estatus global, se está disipando por el tribalismo y las narrativas xenófobas de superioridad racial y nacional reforzadas por campañas de desinformación cada vez más sofisticadas.

Uno de los fenómenos más preocupantes es el lento debilitamiento del supuesto centro de una sociedad pluralista: el individuo como ciudadano responsable y razonablemente racional. Este ideal siempre ha sido demasiado simplista, pero las tendencias tecnológicamente habilitadas lo hacen insostenible, incluso disfuncional. Y, sin embargo, aunque no se reconoce, esta es quizás la forma más importante en que el nuevo entorno de información está socavando las democracias en beneficio de los regímenes autoritarios. Es posible estructurar un pluralismo explícitamente basado en tribus y narrativas tribales, incluidas las narrativas excluyentes de raza e identidad, pero requiere un grado de sofisticación y agilidad institucional, política y legal que actualmente no es evidente.

Como en el caso de la libertad de expresión, las tendencias detrás de este cambio son fuertes y difíciles de revertir. Los avances básicos en disciplinas que incluyen la economía del comportamiento, la psicología evolutiva y las neurociencias se combinan con el creciente poder de la inteligencia artificial, los grandes datos y los análisis asociados, para mejorar drásticamente el poder de los especialistas en desinformación para manipular las psicologías de sus objetivos a escala individual. Piense en el esfuerzo ruso para entrometerse en las elecciones estadounidenses de 2016, una característica clave de la cual fue una campaña para inflamar las divisiones sociales en torno a las divisiones raciales y de otro tipo. Al hacerlo, los rusos pudieron recurrir a una larga historia soviética de intentar lograr lo que se llama control reflexivo, una práctica que le permite a Rusia predeterminar la decisión de un adversario a su favor al alterar los factores clave en la percepción de la situación de ese adversario. Tal capacidad solía ser difícil y principalmente teórica, un sueño apparatchik en lugar de un objetivo realista. Hoy, sin embargo, las herramientas de inteligencia artificial y de medios permiten llevarlo a cabo con mayor precisión y potencia, especialmente con recursos a nivel estatal.

Las nuevas herramientas de IA pueden crear narrativas individualizadas, otras pueden generar video y voz que no se pueden distinguir de los productos del mundo real, excepto por los laboratorios forenses de última generación. Los mensajes pueden dirigirse a pequeños grupos de cinco a 10 personas mediante mecanismos de IA alimentados por datos individuales consolidados de Internet, un proceso a veces llamado propaganda computacional .

Cuando las personas sienten que el mundo se ha vuelto demasiado complejo para tener sentido, tienden a implementar estrategias que reducen la necesidad individual o institucional de procesar la información entrante, que a menudo incluye un retiro al fundamentalismo y una dependencia en la narración simplificada respaldada por las emociones.

En resumen, cuanto más complejo es el entorno, más humanos y sus instituciones se retiran a las historias que requieren menos procesamiento. Justo cuando los tiempos requieren más sofisticación y juicio, los humanos y sus instituciones se precipitan en la otra dirección.

Intentar predecir el futuro en un sistema tan caótico es un juego de tazas, pero un escenario razonable es que el fracaso institucional que es tan evidente hoy, especialmente en los marcos de gobernabilidad democrática en lugares como Estados Unidos y Gran Bretaña.

Las personas en países que han tenido éxito durante muchos años tienden a asumir que los valores y las instituciones con los que están familiarizados son normas históricas, pero parafraseando los documentos de orientación financiera, el éxito pasado no garantiza el rendimiento futuro.

Queda por ver si Estados Unidos y otras democracias están a la altura de ese desafío.