Chicas en tecnología: Inteligencia artificial y diversidad

Summary

El script explora los retos de regular la tecnología en respuesta a eventos sociales significativos, como el asesinato de George Floyd. Se menciona la reacción de Silicon Valley, con grandes empresas como Microsoft, IBM y Amazon adoptando medidas como la renuncia al uso de sistemas de reconocimiento facial por problemas éticos y técnicos. Se destaca la importancia de la diversidad en el desarrollo tecnológico y la necesidad de formación en ética para evitar sesgos en algoritmos de IA, como los que afectan a minorías y mujeres. La discusión resalta la necesidad de regulación en áreas con poca legislación, como Argentina.

Takeaways

• 🌐 El asesinato de George Floyd generó un gran impacto mundial y llevó a la comunidad tecnológica a reflexionar sobre su rol en la inclusión y la ética.
• 💼 Las grandes empresas de Silicon Valley, incluyendo a Microsoft, Amazon y IBM, han tomado medidas significativas en respuesta a los eventos, como la donación a organizaciones de derechos raciales y la revisión de prácticas internas.
• 🔍 La plataforma de desarrollo colaborativo GitHub cambió su terminología, eliminando el término 'master' por 'main', como parte de un esfuerzo para evitar asociaciones con la esclavitud.
• 🤖 IBM anunció la retirada de sus productos de reconocimiento facial, seguido por Amazon y Microsoft, que también limitaron el uso de esta tecnología por cuestiones éticas y técnicas.
• 👥 La ASM, la Asociación Científica y Educativa sobre temas de comunicación de computación, prohibió todos los sistemas de reconocimiento facial por motivos éticos y técnicos.
• 🔎 Los algoritmos de reconocimiento facial han sido criticados por su sesgo racial y su tendencia a generar resultados sesgados hacia minorías como afroamericanos, afrodescendientes, latinos y mujeres.
• 📈 Los algoritmos de inteligencia artificial se entrenan con grandes cantidades de datos, lo que puede resultar en aprendizaje basado en prejuicios y sesgos humanos existentes.
• 👩‍💻 Un ejemplo mencionado es un sistema de selección de personal de Amazon que, alimentado con datos de búsquedas de currículos, desarrolló una tendencia a descartar currículos de mujeres.
• 🚗 Los sistemas de conducción autónoma también han demostrado sesgos, como un estudio que encontró que las personas negras tenían más probabilidades de ser impactadas por vehículos autónomos.
• 👥 La diversidad en los equipos de desarrollo de tecnología es crucial para abordar cuestiones éticas y prevenir la incorporación de sesgos en la tecnología.
• 📚 Se resalta la importancia de la formación en ética para los profesionales de la tecnología y la necesidad de incluir perspectivas éticas en el desarrollo y la toma de decisiones tecnológicas.

Q & A

¿Qué evento desencadenó una serie de discusiones y acciones en Silicon Valley en relación con la tecnología y la ética?

El asesinato de George Floyd, que fue filmado y se convirtió en una noticia mundial, generó una respuesta global y en Silicon Valley, las empresas tecnológicas comenzaron a debatir y tomar medidas sobre temas de inclusión y ética en la tecnología.

¿Qué cambio significativo realizó GitHub en su plataforma?

GitHub decidió dejar de usar la palabra 'master', que significa 'amo' en inglés, y reemplazarla por 'main', que significa 'principal', para evitar términos relacionados con la esclavitud.

¿Qué anunció el CEO de IBM en relación con el reconocimiento facial?

El CEO de IBM anunció que la empresa retiraría todos sus productos de reconocimiento facial del mercado, un paso significativo hacia la ética y la regulación de la tecnología.

¿Qué medida tomó Amazon en respuesta a la situación del reconocimiento facial?

Amazon decidió suspender el uso de su sistema de reconocimiento facial para uso policial por un año, lo que demuestra una pausa para evaluar y posiblemente mejorar la tecnología.

¿Qué decisión toman Microsoft y la ASM en relación con el reconocimiento facial?

Microsoft y la Asociación Científica y Educativa sobre Temas de Computación (ASM) decidieron prohibir todos los sistemas de reconocimiento facial por razones técnicas y éticas.

¿Por qué se prohíben los algoritmos de reconocimiento facial según el discurso?

Los algoritmos de reconocimiento facial se prohíben porque aún no se conoce exactamente cómo funcionan o están entrenados, y han demostrado sesgos hacia minorías y comunidades afroamericanas y afrodescendientes.

¿Cómo funcionan los algoritmos de inteligencia artificial según el ejemplo del pato?

Los algoritmos de inteligencia artificial aprenden a través de técnicas de machine learning, mostrando una gran cantidad de ejemplos y permitiendo que la máquina descubra por sí misma las características relevantes para la identificación.

¿Qué problema surgió con el sistema de selección de personal de Amazon basado en IA?

El sistema de Amazon, alimentado con datos de búsquedas de los últimos diez años, descartaba currículos de mujeres y hombres con palabras asociadas a la mujer, debido a que la máquina había aprendido que no se debía contratar mujeres basándose en esos datos sesgados.

¿Cuál es el problema con los sistemas de IA que toman decisiones basadas en datos históricos?

Los sistemas de IA que usan datos históricos pueden reflejar y perpetuar los errores y defectos humanos del pasado, incluyendo el racismo y el sexismo, lo que lleva a decisiones futuras sesgadas.

¿Qué estudio menciona el discurso sobre los autos autónomos y su sesgo racial?

Un estudio mencionado en el discurso demuestra que los autos autónomos tienen más probabilidades de chocar con personas negras que con personas blancas, debido a algo que la IA aprendió durante su entrenamiento.

¿Qué implicaciones tiene la falta de diversidad en las empresas de tecnología en términos de desarrollo de tecnología?

La falta de diversidad en las empresas de tecnología puede llevar a una representatividad insuficiente en el desarrollo de tecnología, lo que puede resultar en soluciones que no consideran las diferentes características y necesidades de la población.

¿Por qué es importante la ética en la formación técnica de los equipos de tecnología?

La ética es importante en la formación técnica porque permite que los equipos que generan tecnología y toman decisiones consideren una diversidad de miradas, incluyendo una perspectiva ética que puede ayudar a prevenir el sesgo y promover la equidad en la tecnología.

¿Qué sugiere el discurso sobre la regulación de la tecnología en Argentina?

El discurso sugiere que Argentina aún tiene mucho por regular en términos de tecnología, y es importante comenzar a pensar en la regulación para asegurar que la tecnología se desarrolle y se implemente de manera ética y equitativa.