Chicas en tecnología: Inteligencia artificial y diversidad

La Liga de la Ciencia

9 Aug 202011:23

Summary

TLDREl script explora los retos de regular la tecnología en respuesta a eventos sociales significativos, como el asesinato de George Floyd. Se menciona la reacción de Silicon Valley, con grandes empresas como Microsoft, IBM y Amazon adoptando medidas como la renuncia al uso de sistemas de reconocimiento facial por problemas éticos y técnicos. Se destaca la importancia de la diversidad en el desarrollo tecnológico y la necesidad de formación en ética para evitar sesgos en algoritmos de IA, como los que afectan a minorías y mujeres. La discusión resalta la necesidad de regulación en áreas con poca legislación, como Argentina.

Takeaways

🌐 El asesinato de George Floyd generó un gran impacto mundial y llevó a la comunidad tecnológica a reflexionar sobre su rol en la inclusión y la ética.
💼 Las grandes empresas de Silicon Valley, incluyendo a Microsoft, Amazon y IBM, han tomado medidas significativas en respuesta a los eventos, como la donación a organizaciones de derechos raciales y la revisión de prácticas internas.
🔍 La plataforma de desarrollo colaborativo GitHub cambió su terminología, eliminando el término 'master' por 'main', como parte de un esfuerzo para evitar asociaciones con la esclavitud.
🤖 IBM anunció la retirada de sus productos de reconocimiento facial, seguido por Amazon y Microsoft, que también limitaron el uso de esta tecnología por cuestiones éticas y técnicas.
👥 La ASM, la Asociación Científica y Educativa sobre temas de comunicación de computación, prohibió todos los sistemas de reconocimiento facial por motivos éticos y técnicos.
🔎 Los algoritmos de reconocimiento facial han sido criticados por su sesgo racial y su tendencia a generar resultados sesgados hacia minorías como afroamericanos, afrodescendientes, latinos y mujeres.
📈 Los algoritmos de inteligencia artificial se entrenan con grandes cantidades de datos, lo que puede resultar en aprendizaje basado en prejuicios y sesgos humanos existentes.
👩‍💻 Un ejemplo mencionado es un sistema de selección de personal de Amazon que, alimentado con datos de búsquedas de currículos, desarrolló una tendencia a descartar currículos de mujeres.
🚗 Los sistemas de conducción autónoma también han demostrado sesgos, como un estudio que encontró que las personas negras tenían más probabilidades de ser impactadas por vehículos autónomos.
👥 La diversidad en los equipos de desarrollo de tecnología es crucial para abordar cuestiones éticas y prevenir la incorporación de sesgos en la tecnología.
📚 Se resalta la importancia de la formación en ética para los profesionales de la tecnología y la necesidad de incluir perspectivas éticas en el desarrollo y la toma de decisiones tecnológicas.

Q & A

¿Qué evento desencadenó una serie de discusiones y acciones en Silicon Valley en relación con la tecnología y la ética?
-El asesinato de George Floyd, que fue filmado y se convirtió en una noticia mundial, generó una respuesta global y en Silicon Valley, las empresas tecnológicas comenzaron a debatir y tomar medidas sobre temas de inclusión y ética en la tecnología.
¿Qué cambio significativo realizó GitHub en su plataforma?
-GitHub decidió dejar de usar la palabra 'master', que significa 'amo' en inglés, y reemplazarla por 'main', que significa 'principal', para evitar términos relacionados con la esclavitud.
¿Qué anunció el CEO de IBM en relación con el reconocimiento facial?
-El CEO de IBM anunció que la empresa retiraría todos sus productos de reconocimiento facial del mercado, un paso significativo hacia la ética y la regulación de la tecnología.
¿Qué medida tomó Amazon en respuesta a la situación del reconocimiento facial?
-Amazon decidió suspender el uso de su sistema de reconocimiento facial para uso policial por un año, lo que demuestra una pausa para evaluar y posiblemente mejorar la tecnología.
¿Qué decisión toman Microsoft y la ASM en relación con el reconocimiento facial?
-Microsoft y la Asociación Científica y Educativa sobre Temas de Computación (ASM) decidieron prohibir todos los sistemas de reconocimiento facial por razones técnicas y éticas.
¿Por qué se prohíben los algoritmos de reconocimiento facial según el discurso?
-Los algoritmos de reconocimiento facial se prohíben porque aún no se conoce exactamente cómo funcionan o están entrenados, y han demostrado sesgos hacia minorías y comunidades afroamericanas y afrodescendientes.
¿Cómo funcionan los algoritmos de inteligencia artificial según el ejemplo del pato?
-Los algoritmos de inteligencia artificial aprenden a través de técnicas de machine learning, mostrando una gran cantidad de ejemplos y permitiendo que la máquina descubra por sí misma las características relevantes para la identificación.
¿Qué problema surgió con el sistema de selección de personal de Amazon basado en IA?
-El sistema de Amazon, alimentado con datos de búsquedas de los últimos diez años, descartaba currículos de mujeres y hombres con palabras asociadas a la mujer, debido a que la máquina había aprendido que no se debía contratar mujeres basándose en esos datos sesgados.
¿Cuál es el problema con los sistemas de IA que toman decisiones basadas en datos históricos?
-Los sistemas de IA que usan datos históricos pueden reflejar y perpetuar los errores y defectos humanos del pasado, incluyendo el racismo y el sexismo, lo que lleva a decisiones futuras sesgadas.
¿Qué estudio menciona el discurso sobre los autos autónomos y su sesgo racial?
-Un estudio mencionado en el discurso demuestra que los autos autónomos tienen más probabilidades de chocar con personas negras que con personas blancas, debido a algo que la IA aprendió durante su entrenamiento.
¿Qué implicaciones tiene la falta de diversidad en las empresas de tecnología en términos de desarrollo de tecnología?
-La falta de diversidad en las empresas de tecnología puede llevar a una representatividad insuficiente en el desarrollo de tecnología, lo que puede resultar en soluciones que no consideran las diferentes características y necesidades de la población.
¿Por qué es importante la ética en la formación técnica de los equipos de tecnología?
-La ética es importante en la formación técnica porque permite que los equipos que generan tecnología y toman decisiones consideren una diversidad de miradas, incluyendo una perspectiva ética que puede ayudar a prevenir el sesgo y promover la equidad en la tecnología.
¿Qué sugiere el discurso sobre la regulación de la tecnología en Argentina?
-El discurso sugiere que Argentina aún tiene mucho por regular en términos de tecnología, y es importante comenzar a pensar en la regulación para asegurar que la tecnología se desarrolle y se implemente de manera ética y equitativa.

Outlines

00:00

🌐 Cambios en la tecnología tras el asesinato de George Floyd

El primer párrafo aborda el impacto global del asesinato de George Floyd y cómo la comunidad tecnológica, especialmente en Silicon Valley, respondió con discursos sobre inclusión y donaciones a organizaciones que luchan contra la discriminación racial. Se menciona el cambio significativo en la plataforma de desarrollo GitHub, donde la palabra 'master' fue reemplazada por 'main' para evitar connotaciones de esclavitud. También se discuten las decisiones de IBM, Amazon y Microsoft de retirar o restringir el uso de sus sistemas de reconocimiento facial, motivadas por preocupaciones éticas y técnicas, y se destaca la decisión de la ACM de prohibir estos sistemas por completo. Se señala la falta de conocimiento sobre cómo funcionan estos algoritmos y cómo su sesgo puede afectar a minorías como la comunidad afroamericana, afrodescendientes, latinas y mujeres.

05:01

🤖 Sesgo en algoritmos de inteligencia artificial y aprendizaje automático

Este párrafo explora cómo los algoritmos de inteligencia artificial y aprendizaje automático pueden desarrollar sesgos a través de su entrenamiento. Se ilustra con un ejemplo de Amazon, donde un sistema de selección de personal fue alimentado con datos de búsquedas de currículos, resultando en una tendencia a descartar currículos de mujeres. También se menciona un estudio que muestra que los sistemas de reconocimiento facial pueden tener sesgos raciales significativos, afectando negativamente a las personas negras. Se destaca la importancia de la diversidad en los equipos de desarrollo tecnológico y la necesidad de una representatividad más amplia, incluyendo a personas de diferentes etnias y género, para evitar la perpetuación de errores y defectos humanos en la toma de decisiones futuras.

10:03

🏢 Diversidad y ética en la tecnología: Retos y oportunidades

El tercer párrafo enfatiza la importancia de la diversidad y la ética en el desarrollo y la implementación de tecnología. Se señala la falta de formación en ética en la educación técnica y la necesidad de incluir perspectivas éticas en los equipos que toman decisiones sobre tecnología. Se menciona la situación en Argentina, donde hay una oportunidad para regular y mejorar en esta área, y se concluye con una reflexión sobre la importancia de la ciencia y la ética en la sociedad contemporánea.

Mindmap

Keywords

💡Regulación tecnológica

La regulación tecnológica se refiere a las leyes y directrices que gobiernan el uso y desarrollo de tecnologías. En el video, se discute cómo la tecnología plantea desafíos reguladores, especialmente en temas de ética y equidad, como se evidencia en la decisión de algunas empresas de retirar productos de reconocimiento facial.

💡George Floyd

George Floyd fue una persona afroamericana que fue asesinada por la policía, lo que provocó protestas y discusiones globales sobre la equidad racial y la justicia social. Este suceso es mencionado en el video como un catalizador de cambios en la sociedad y dentro de las empresas tecnológicas.

💡Silicon Valley

Silicon Valley es el centro mundial de la industria tecnológica, ubicado en California, Estados Unidos. En el video, se menciona como el lugar donde se generan muchas innovaciones tecnológicas y donde las empresas reaccionaron al asesinato de George Floyd con declaraciones y donaciones.

💡GitHub

GitHub es una plataforma de desarrollo colaborativo muy popular, mencionada en el video por su decisión de cambiar el término 'master' por 'main' en su sistema, como un gesto de distanciamiento de la terminología relacionada con la esclavitud.

💡Racial bias

El sesgo racial se refiere a la discriminación o preferencia injustificada hacia un grupo racial específico. En el video, se discute cómo los algoritmos de inteligencia artificial, como el reconocimiento facial, pueden tener sesgos raciales que afectan desproporcionadamente a minorías como la comunidad afroamericana.

💡Inteligencia artificial

La inteligencia artificial (IA) es el campo de la informática que busca crear máquinas capaces de realizar tareas que normalmente requieren inteligencia humana. En el video, se destaca cómo los algoritmos de IA pueden ser sesgados debido a los datos con los que son entrenados.

💡Aprendizaje automático

El aprendizaje automático es una rama de la IA que permite a las máquinas aprender y mejorar a través de la experiencia sin ser explicitamente programadas. En el video, se explica cómo los algoritmos de aprendizaje automático pueden adquirir y reflejar los sesgos de los datos con los que son entrenados.

💡IBM

IBM es una de las compañías tecnológicas mencionadas en el video que decidió retirar sus productos de reconocimiento facial del mercado, lo que refleja una toma de posición ética y social en respuesta a preocupaciones sobre el sesgo racial y otros problemas.

💡Amazon

Amazon es otra gran empresa tecnológica que, según el video, decidió suspender el uso de su sistema de reconocimiento facial por un año para uso policial, lo que indica una reevaluación de cómo la tecnología se utiliza en contextos de seguridad y privacidad.

💡Microsoft

Microsoft es una empresa líder en tecnología que, como se menciona en el video, también se unió a la decisión de reevaluar el uso de tecnologías de reconocimiento facial, lo que demuestra un cambio en la actitud de las grandes empresas hacia la ética en la tecnología.

💡Diversidad

La diversidad se refiere a la variedad en un grupo de personas, incluyendo factores como género, raza, etnia y experiencias. En el video, se argumenta que la diversidad en los equipos de tecnología es crucial para prevenir la introducción de sesgos y para garantizar que las tecnologías desarrolladas sean éticas y equitativas.

Highlights

El asesinato de George Floyd generó una respuesta global y impactó a la comunidad tecnológica.

Empresas tecnológicas como IBM, Amazon y Microsoft tomaron medidas significativas en respuesta a la demanda de justicia social.

GitHub decidió dejar de usar la palabra 'master' para evitar asociaciones con la esclavitud.

El reconocimiento facial se cuestiona por su sesgo racial y se retira de varios mercados tecnológicos.

Las organizaciones como la ASM prohíben el uso de sistemas de reconocimiento facial por razones técnicas y éticas.

Los algoritmos de reconocimiento facial han demostrado sesgos hacia minorías y mujeres.

La inteligencia artificial se entrena con datos, lo que puede reflejar y perpetuar los sesgos humanos.

Un ejemplo de Amazon muestra cómo un sistema de selección de personal puede sesgar contra mujeres.

Los autos autónomos también pueden tener sesgos raciales en su aprendizaje.

El sesgo en el aprendizaje de máquinas puede afectar la seguridad y la justicia.

Un sistema de puntuación de riesgo penal basado en fotos mostró sesgo racial al asignar puntos.

Los datos históricos utilizados en el entrenamiento de algoritmos pueden reflejar y perpetuar el racismo sistémico y el sexismo.

La diversidad en las empresas tecnológicas es baja, especialmente en la representación de afroamericanos, latinas y mujeres.

La falta de formación en ética entre los profesionales técnicos es un problema que debe abordarse.

La implementación de tecnología debe considerar una diversidad de perspectivas, incluyendo ética.

La regulación de la tecnología y su impacto en la vida cotidiana es un tema relevante y urgente.