How AI could threaten democracy | Lawrence Lessig | TEDxBerlin

Summary

El guion del video analiza la crisis de la democracia y la influencia del AI en la percepción colectiva. Se destaca cómo la creencia en una elección robada ha persistido a pesar de la evidencia, y cómo el AI, tanto analógico como digital, ha afectado la atención y la polarización social, socavando la democracia. Se argumenta que la tecnología, al explotar nuestras debilidades, amenaza con anular nuestra capacidad para actuar colectivamente, y se sugiere que la creación de asambleas ciudadanas podría proteger la democracia de la manipulación tecnológica.

Takeaways

• 🗓️ El 6 de enero de 2021, muchos estadounidenses creían que las elecciones habían sido robadas, lo que llevó a una 'crisis del corazón de la democracia'.
• 📊 Después de ese evento, el 70% de los republicanos seguían creyendo en la teoría de la elección robada, lo que indica una percepción persistente a pesar de la falta de evidencia.
• 🔍 A lo largo de tres años, las cifras de quienes creen en la teoría de la elección robada no han cambiado, lo que refleja una resistencia a la información y la verdad.
• 🌐 La popularidad de Donald Trump no ha cambiado a pesar de los hechos y escándalos, lo que sugiere una desconexión entre la realidad y la percepción pública.
• 🧠 La tecnología de la inteligencia artificial (IA) tiene el potencial de ser extraordinaria pero también peligrosa, y puede influir en nuestras percepciones colectivas.
• 🤖 La IA no solo se refiere a sistemas digitales, sino también a cualquier sistema construido con un propósito, como la democracia o las corporaciones, que actúan de manera racional instrumental.
• 🏛 La democracia, con sus instituciones y reglas, es considerada una forma de IA analógica centrada en el bien común, pero a menudo es menos eficaz que las corporaciones en lograr sus objetivos.
• 💰 Las corporaciones, con su enfoque en maximizar el valor para los accionistas, son una forma de IA analógica que a menudo supera a la democracia en eficacia y control.
• 🤖 La IA digital, como los algoritmos de redes sociales, puede crear y promocionar contenido extremo y polarizante, lo que puede debilitar la democracia.
• 🛡️ La tecnología de la IA puede ser un peligro para la democracia, y es necesario encontrar formas de protegerla, como a través de la creación de asambleas ciudadanas que operan de manera deliberada y protegida.
• 🌱 Es crucial actuar con amor y esperanza para proteger y reformar la democracia, a pesar de las dificultades y la incertidumbre del futuro de la tecnología.

Q & A

¿Qué evento ocurrió el 6 de enero de 2021 que afectó la democracia en los Estados Unidos?

El 6 de enero de 2021, hubo un intento de insurrección en el Capitolio de los Estados Unidos, motivado por la creencia de que las elecciones habían sido robadas.

Según el Washington Post, ¿qué porcentaje de republicanos creía inmediatamente después del 6 de enero de 2021 que las elecciones habían sido robadas?

El 70% de los republicanos creía que las elecciones habían sido robadas, según las encuestas realizadas por The Washington Post inmediatamente después del 6 de enero.

¿Cómo ha cambiado la percepción de que las elecciones fueron robadas en los tres años siguientes al 6 de enero de 2021?

Las percepciones no han cambiado; el mismo porcentaje de personas sigue creyendo que las elecciones fueron robadas, a pesar de la falta de evidencia de fraude significativo.

¿Qué ejemplo histórico se menciona para contrastar con la situación actual de las percepciones fijas?

Se menciona el escándalo Watergate de Richard Nixon, donde a medida que se informaba sobre el escándalo, su popularidad disminuyó entre todos los sectores, lo que contrasta con la inmunidad a la verdad que parece tener Donald Trump.

¿Qué es lo que el orador describe como 'una nueva realidad' en cuanto a la influencia de las percepciones colectivas?

El orador describe una nueva realidad en la que las percepciones colectivas, que antes eran accidentales, ahora son intencionalmente manipuladas por sistemas de inteligencia artificial.

¿Qué es la definición de 'IA analógica' que el orador proporciona?

La IA analógica se refiere a cualquier entidad o institución construida con un propósito que actúa de manera racional instrumental en el mundo, como la democracia o las corporaciones.

¿Cómo se compara la eficacia de las corporaciones con la democracia según el orador?

Según el orador, en regímenes políticos corruptos, las corporaciones son más efectivas en lograr sus objetivos que la democracia.

¿Qué ejemplo se da de cómo la IA digital puede actuar de manera no intencionada por humanos?

Se menciona el caso de Facebook, donde su sistema de anuncios creó la categoría 'Odiadores de Judíos' sin la intervención directa de un humano, lo que refleja la capacidad de la IA de actuar de manera no prevista.

¿Qué es 'brain hacking' según el orador y cómo se relaciona con la IA?

El 'brain hacking' es el uso de la IA para diseñar contenido que explota las debilidades evolutivas humanas, como la respuesta a recompensas aleatorias, para aumentar la participación en plataformas y la venta de publicidad.

¿Qué es 'The Social Dilemma' y cómo se relaciona con la manipulación de la atención humana por parte de las redes sociales?

The Social Dilemma es un documental que explora cómo las redes sociales utilizan la IA para manipular la atención humana, conduciendo a la adicción, la polarización y otros problemas sociales.

¿Qué solución propone el orador para proteger la democracia de la influencia dañina de la IA?

El orador propone la creación de asambleas ciudadanas, cuerpos deliberativos representativos e informados que aborden cuestiones democráticas de manera protegida de la corrupción de la IA.

¿Por qué son importantes las asambleas ciudadanas según el orador?

Las asambleas ciudadanas son importantes porque son una forma de proteger la democracia de la 'hacking' de la IA, permitiendo que la democracia sobreviva y se adapte a los cambios tecnológicos.