La verdadera amenaza de la inteligencia artificial | Matthías Galle | TEDxCordoba
Summary
TLDREl transcript habla sobre la inteligencia artificial y cómo su percepción a menudo se centra en el miedo al fin de la humanidad, en lugar de en los peligros inmediatos que ya están sucediendo. Se describe la evolución de la IA desde los años 50, con la introducción de modelos matemáticos por Chomsky, hasta los métodos actuales basados en probabilidades y aprendizaje automático. Se discute la falta de robustez de estos sistemas y cómo, al ser entrenados en datos preexistentes, pueden reflejar y perpetuar los prejuicios humanos. El orador aboga por una actitud crítica hacia la tecnología y la importancia de la diversidad en la creación de sistemas de IA para evitar la codificación de prejuicios.
Takeaways
- 😨 La inteligencia artificial (IA) es vista con temor por algunos, ya que parece tener todos los ingredientes para ser un tema complejo y potencialmente peligroso.
- 🌐 Grandes empresas en California y Asia están invirtiendo millones en IA, y personajes públicos y Hollywood han generado debates sobre su impacto en la humanidad.
- 🔍 El orador dirige un grupo de investigación enfocado en enseñar a las computadoras a entender y generar el lenguaje humano, y advierte sobre consecuencias negativas que ya están sucediendo.
- 🌐 Imagina un mundo donde las computadoras comprenden todos los matices del lenguaje humano, eliminando barreras lingüísticas y facilitando la comunicación.
- 📚 El primer intento de modelar el lenguaje fue en los años 50 con la teoría de Chomsky, que revolucionó la lingüística con modelos matemáticos.
- 🤖 La segunda generación de IA se basa en el uso de probabilidades y aprendizaje automático para interpretar el lenguaje humano, lo que ha traído sus propios desafíos y limitaciones.
- 🚧 Los métodos actuales de IA son poco robustos y pueden fallar cuando se enfrentan a datos distintos a los utilizados en su entrenamiento, lo que puede llevar a errores significativos.
- 🧠 La dependencia de IA en datos anotados puede reflejar y perpetuar los prejuicios humanos, lo que es un problema ético y social importante.
- 💡 Para abordar los problemas de la IA, se sugiere mantener un espíritu crítico, entender cómo funcionan los sistemas y no dudar en hacer preguntas o reclamar cuando sea necesario.
- 👥 La diversidad en la creación de IA es crucial; se necesitan programadores de diferentes orígenes y perspectivas para evitar la codificación de prejuicios y garantizar un impacto positivo.
Q & A
¿Qué temor se menciona en el guion sobre la inteligencia artificial?
-El guion menciona el miedo a que la inteligencia artificial pueda ser el fin de la humanidad, un tema que se presenta como complejo y lleno de fórmulas matemáticas.
¿Cuál es el objetivo del grupo de investigación que dirige el hablante?
-El objetivo del grupo de investigación es enseñar a las computadoras a entender y generar el lenguaje humano.
¿En qué año nació el hablante y cuál es su experiencia con los idiomas y la movilidad internacional?
-El hablante nació en Brasil, se crió en Alemania, estudió en Argentina y vive en Francia, trabajando para una empresa coreana y hablando inglés todos los días.
¿Cuál es la visión del hablante sobre un mundo donde las computadoras entienden el lenguaje humano?
-El hablante imagina un mundo donde las computadoras entienden todos los matices del lenguaje humano, eliminando las barreras de los idiomas y haciendo innecesarios dispositivos como teclado y mouse.
¿Quién fue Chomsky y qué的贡献 fue al campo de la lingüística?
-Chomsky fue un lingüista norteamericano que revolucionó su campo al proponer el uso de modelos matemáticos para estructurar el lenguaje.
¿Qué problema se encontró cuando los métodos de inteligencia artificial se aplicaron fuera del laboratorio?
-Los métodos de inteligencia artificial no funcionaban fuera del laboratorio porque el lenguaje natural está lleno de errores, excepciones y malentendidos que no podían ser capturados por estos métodos.
¿Cómo se aborda la complejidad del lenguaje en la segunda generación de métodos de inteligencia artificial?
-En la segunda generación de métodos, se utilizan probabilidades para dar una noción de incertidumbre a las diferentes interpretaciones posibles de una frase, optimizando cuál es la interpretación más probable.
¿Cómo es el proceso de aprendizaje automático en los métodos de inteligencia artificial actuales?
-Los métodos actuales de inteligencia artificial aprenden por sí mismos los valores ideales para parámetros internos al ser expuestos a muchos datos existentes, ajustando estos parámetros para interpretar correctamente el lenguaje.
¿Qué consecuencias negativas se mencionan en el guion por el uso de métodos de inteligencia artificial de segunda generación?
-Los métodos de segunda generación son poco robustos y pueden generar errores cuando se enfrentan a datos distintos a los utilizados en su entrenamiento, como traducir 'cast' como 'mapa' en lugar de 'menú' en el contexto de restaurantes.
¿Qué dos acciones sugiere el hablante que se pueden realizar para mejorar la inteligencia artificial y su impacto en la sociedad?
-El hablante sugiere mantener un espíritu crítico y entender cómo funcionan los sistemas de inteligencia artificial, y fomentar la diversidad en la creación de estos sistemas para evitar la codificación de prejuicios.
Outlines
🤖 La complejidad del lenguaje y la IA
El primer párrafo introduce el temor a la inteligencia artificial (IA), que se percibe como un tema complejo lleno de matemáticas y grandes inversiones por parte de empresas. El orador, quien dirige un grupo de investigación en IA, propone un enfoque diferente al debatir sobre los peligros concretos que ya están sucediendo. Describe su experiencia personal con el lenguaje y la comunicación en diferentes países y culturas, y cómo la IA podría eliminar barreras lingüísticas. Se menciona la evolución de la IA desde los años 50, con la revolución de Chomsky y los métodos de IA que buscan estructuras matemáticas para el lenguaje. Se destaca la falla de estos primeros métodos en capturar la complejidad del lenguaje humano y cómo la segunda generación de IA, basada en probabilidades, intenta abordar esta complejidad.
📊 Aprendizaje de probabilidades y sus limitaciones
El segundo párrafo profundiza en cómo la IA utiliza probabilidades para interpretar el lenguaje, dando como ejemplo la palabra 'banco' y cómo la IA aprende a diferenciar sus múltiples significados a partir de contextos. Se explica que estos métodos de aprendizaje se basan en la optimización de parámetros internos a través de la observación de datos, lo que ha permitido a la IA mejorar en tareas como la traducción automática y el análisis de emociones. Sin embargo, se señala que estos métodos son frágiles y pueden fallar cuando se enfrentan a datos distintos a los utilizados en el entrenamiento, como se ilustra con el ejemplo de la palabra 'cast'. El orador argumenta que estos problemas con la IA no son motivo para temer una inteligencia sobrehumana consciente de sí misma, sino más bien para cuestionar cómo la IA ya está afectando nuestras decisiones cotidianas sin nuestro conocimiento.
👨💻 La influencia humana en la IA y la importancia de la diversidad
El tercer párrafo aborda cómo las computadoras aprenden de los prejuicios humanos a través de los datos en los que son entrenadas y cómo esto puede perpetuar los estereotipos y la discriminación. El orador sugiere dos acciones: mantener un espíritu crítico y entender que las decisiones de la IA son simplemente ejecuciones de lo que se le ha enseñado, y fomentar la diversidad en el campo de la programación para que no solo un grupo homogeneo defina cómo funciona la IA. Se enfatiza la importancia de la vigilancia y la responsabilidad en el uso de la IA, comparándola con otras herramientas humanas que pueden ser utilizadas para bien o para mal.
Mindmap
Keywords
💡Inteligencia artificial
💡Lenguaje humano
💡Probabilidades
💡Prejuicios
💡Datos anotados
💡Robustez
💡Optimización
💡Conciencia
💡Diversidad
💡Evaluación
Highlights
La inteligencia artificial (IA) es un tema complejo y fascinante que ha generado debate sobre su impacto en la humanidad.
Las grandes empresas de California y Asia están invirtiendo millones de dólares en IA.
La IA se presenta como un desafío para comprender, lleno de fórmulas matemáticas y teorías.
La narrativa de Hollywood sobre IA suele predecir un futuro desolador para la humanidad.
El director de un grupo de investigación en IA busca enseñar a las computadoras a entender y generar lenguaje humano.
La IA actual tiene consecuencias negativas que se materializan en la vida cotidiana.
Un mundo en el que las computadoras comprenden el lenguaje humano eliminaría barreras de comunicación.
La IA puede transformar la forma en que hablamos y entendemos los diferentes idiomas.
Los primeros intentos de IA se remontan a los años 50 con la teoría de Chomsky y los modelos matemáticos del lenguaje.
Los métodos de IA de la primera generación buscaban encontrar una estructura perfecta para el lenguaje.
La segunda generación de IA se basa en el uso de probabilidades y aprendizaje automático.
Los métodos actuales de IA son insuficientes para alcanzar una inteligencia sobrehumana consciente de sí misma.
La IA actual puede ser muy propensa a errores cuando se aplica a datos distintos a los usados en su entrenamiento.
Las computadoras pueden llegar a conclusiones incorrectas si no están seguras, similar a cómo los humanos evitan temas desconocidos.
La IA puede perpetuar y amplificar los prejuicios humanos si se entrenan con datos sesgados.
Se hace un llamado a mantener un espíritu crítico y cuestionar las decisiones tomadas por la IA.
Se necesita diversidad en el ámbito de la programación para evitar la codificación de prejuicios en la IA.
La IA, como cualquier herramienta, puede ser utilizada para bien o mal, y depende de su uso y regulación.
Transcripts
aquí
[Música]
tienes miedo a la inteligencia
artificial
porque parece que deberían tiene todos
los ingredientes necesarios es un tema
complejo lleno de fórmulas matemáticas
que nada nadie sabe explicar muy bien
grandes empresas californianas y
asiáticas están invirtiendo millones de
dólares personajes públicos nos dice que
será el fin de la humanidad
y hollywood nos muestra con lujos de
detalles cómo será ese fin
es un debate fascinante e importante
pero me parece que tanta preocupación
por el fin de la raza humana hace que no
veamos peligros más concretos que ya
están ocurriendo
yo dirijo un grupo de investigación cuyo
objetivo es enseñar a las computadoras a
entender ya generar el lenguaje humano y
desde ese punto de vista yo veo
consecuencias negativas que ya están
ocurriendo hoy en día
hoy me gustaría encontrarte cuáles son
esas consecuencias cómo llegamos a ellas
y lo que vos puedes hacer al respecto
pero antes quisiera que se imaginen un
mundo un mundo donde las computadoras
podrían entender todas las matices de
nuestro lenguaje de lo que hablamos
en un mundo así los diferentes idiomas
ya no serían una barrera para la
comunicación los que trabajan con
extranjeros los que han viajado afuera
saben de lo que hablo para mí es una
realidad cotidiana yo nací en brasil
estudie me crié en alemania estudié en
argentina y ahora vivo en francia
trabajando para una empresa coreana
hablando inglés
todos los días me frustro porque no
encuentro las palabras que expresan lo
que yo quiero decir
ahora el mundo este que yo los invito a
que se imaginen va más allá un mundo de
las computadoras entienden lo que
decimos sería un mundo donde en
principio no habría más necesidad de
pantalla de teclado de mouse nunca más
habría que llenar un formulario cada uno
de nosotros tendría un agente con el
personal con el que podríamos debatir
cualquier tema y que nos daría la
información exacta que necesitamos en el
momento justo
claro estamos lejos muy lejos de este
mundo que los invito a que se imaginen
los primeros intentos por acercarse a
esta edición fueron en los años 50
cuando un lingüista norteamericano
llamado chomsky revolucionó su campo al
proponer usar modelos matemáticos para
estructurar el lenguaje
y los la primera generación de métodos
de inteligencia artificial tenían en
común esta idea de encontrar la
estructura perfecta o buena suficiente
que al mismo tiempo pueda capturar esta
complejidad del lenguaje y al mismo
tiempo ser codificado por una
computadora para ser manipulada por ella
hubo varios intentos varios varios
propuestas y cuando alguno de estos
estaban a punto y funcionaban en las
situaciones controlados en los
laboratorios los investigadores
empezaron a aplicarlo afuera del
laboratorio
y fue ahí que pasó algo tremendo
estos métodos no funcionaban
no funcionaba porque el lenguaje que
estamos hablando que hablamos nosotros
está lleno de errores de excepciones de
malentendidos de sobreentendidos de
frases mal hechas
ningún método formal logras capturar
toda esta complejidad del lenguaje
nuestro
fue ahí que entró una segunda generación
de métodos de inteligencia artificial
cuyo ingrediente principal esta vez era
el uso de las probabilidades estas
probabilidades le daban una una le
asignaba en una noción de incertidumbre
a las diferentes interpretaciones
posibles de una frase y un método de
optimización calculaba cuál es la
interpretación la más probable
estas probabilidades se exprimen como
miles incluso millones de parámetros
internos números internos que hay que
chequear que hay que poner y ninguna
persona es capaz de hacer eso a mano
entonces más y más se empezó a usar un
método que consistía en que la
computadora por sí mismo aprenda cuáles
son los valores ideales para estos
parámetros internos y la idea que si tú
ves que los aprendas por si mismo viendo
muchos datos existentes la ayuda en la
siguiente en su póngale que ustedes
quieren a enseñarle a la computadora las
diferentes acepciones de la palabra
banco
podemos estar hablando de un banco de
peces podemos estar hablando de
institución financiera de un depósito de
tejidos humanos incluso de un verbo como
este banco cómo funciona estos métodos
es que yo les doy muchas frases que
contiene la palabra banco a la
computadora junto con una pequeña
anotación utiliza cuál de todas las
acepciones me estoy refiriendo en esta
frase la idea el método de optimización
ajusta estos parámetros internos y el
día de mañana lo de una frase nueva que
contiene la palabra banco
el método le asigna una noción de
incertidumbre a las diferentes
acepciones posibles y deduce cuál es la
excepción a más probable
esta misma idea es la que se usa para
traducir el español al chino es la que
se usa para crear un chat college las
que se gusta para determinar cuáles son
las emociones entre una frase o para
determinar cuál es el gusto favorito de
lado en twitter en esta temporada
ahora
esta receta de tanto fijarse en los
datos empezó a volverse cada vez más
útil porque las computadoras se volvían
más poderosas porque había más datos
anotados gracias a internet sobre todo y
porque los métodos se ponían a punto y
cada vez se necesitaban menos de
estructuras prediseñadas y nos podíamos
fiar más y más en esta idea de usar
datos anotados de los cuales la
computadora podría aprender
esto trajo algunas consecuencias y yo
quisiera mencionar dos que son
importantes para nuestro debate sobre
los peligros de la inteligencia
artificial
la primera las consecuencias es que
estos métodos de segunda generación son
muy pocos robustos y los datos sobre los
que tiene que predecir son distintos que
los datos sobre los que fue entrenado
son como el amigo que alguno de ustedes
tiene que está convencido que la mejor
selección argentina era de la copa
américa 91 y no solamente no quiero
hablar de ningún otro deporte sino se
niega a hablar del mundial pasado con
las computadoras es parecida incluso es
peor porque los computadores que se
niegan a hablar de un tema sobre el que
no están seguros sino que dicen
cualquier cosa
en mi grupo usamos un método de
traducción automática para traducir
descripciones de restaurant y cada vez
que encontraba la palabra francesa cast
lo traducía como mapa que una excepción
posible de hecho es la más probable en
un contexto genérico pero no el nuestro
contexto que estábamos hablando de
restaurantes donde el menú sería la
traducción correcta
es esta es una de las razones
principales por las que yo no creo en un
escenario donde de golpe las
computadoras se vuelvan adquiere una
inteligencia sobrehumana -aseguran-
conscientes de sí mismos y decidan que
no necesitamos de todos estos mis pelos
y los podemos eliminar
para lograr una inteligencia así no
solamente los métodos actuales no nos
van a llevar sino que ni siquiera
sabemos qué tipo de herramientas
necesitaríamos los métodos actuales son
como una escalera una escalera alta que
estoy estamos escalando que nos permite
acceder a muchos problemas distintos que
son los diferentes pisos que ustedes ven
acá
pero sabemos que no nos van a llevar a
esta inteligencia consciente de sí mismo
para llegar a esto ministerios como dijo
una herramienta distinta un ascensor un
helicóptero o simplemente una escalera
más alta pero no lo sabemos
problema como dice el investigador pedro
domingos no es que las computadoras se
vuelvan inteligentes y empiecen a
dominar el mundo
el problema
es que las computadoras son tontas pero
ya lo dominan al mundo
ya no dominan porque ya están afectando
nuestras decisiones cotidianas sin que
nos demos cuenta
deciden qué clase de noticia leemos y
qué clase de estas noticias no leemos
deciden si podemos x tenemos derecho a
tener un seguro de salud cuánto hay que
pagar el derecho de la el seguro del
auto cuánto tiempo vamos a estar preso
cómo nos van a evaluar en nuestro
trabajo
y esta y esta receta de fiarse tanto en
datos anotados preexistentes es como
decirle a nuestros hijos cuando estamos
cansados de que nos hagan tanta pregunta
mirá acá está el diario anda leerlo y
vas a ver cómo funciona el mundo o aún
peor anda leer los comentarios de
youtube y vas a ver cómo se tiene que
hablar las personas civilizadas
fue así como las computadoras
aprendieron que un gerente es
necesariamente un hombre o enfermería es
una profesión ejercicio solamente por
mujeres
o qué frases como soy judío hay un negro
en mi patio conllevan una anotación una
emoción negativa o de miedo
si las computadoras van a aprender de
nuestras huellas digitales también van a
aprender todos los prejuicios que
tenemos los humanos
entonces qué es lo que vos puedes hacer
al respecto
quiero dejar dos ideas y las dos son
super simples
de hecho la primera a mí personalmente
no me conviene mucho yo durante años le
he dicho a las personas que se me
acercaban porque tenían algún problema
con su computadora mira la computadora
solamente hace lo que se le dice si no
hace lo que vos querés es porque vos le
estás diciendo algo equivocado
a partir de hoy el software que usamos
es cada vez más aprendido y no diseñado
así que mantengan el espíritu crítico
abierto traten de entender que lo que
está pasando hagan preguntas y no duden
en quejarse
en segundo lugar toda obra sin algo de
su creador
por muchos de los que trabajamos
inteligencia artificial somos bastante
parecidos a mi hombres blancos de una
situación económica estable
si todos pensamos igual ni siquiera nos
vamos a dar cuenta que las computadoras
están codificando algún tipo de
prejuicio que tenemos
así que por favor si vos o alguien de tu
entorno quiere estudiar programación no
le digas no eso solamente para geeks
ahora las mujeres no hacen eso los
programadores tienen una influencia
enorme sobre el mundo en que vivimos y
necesitamos gente de toda diversidad y
de trasfondo posible
la inteligencia artificial
es como cualquier otra herramienta
creada descubierta por el hombre puede
ser usado para hacer un tremendo bien un
mal de facto y es a nosotros de vigilar
sobre su uso
[Aplausos]
[Música]
y
[Música]
Ver Más Videos Relacionados
¿Cómo discrimina la inteligencia artificial? ¿Quienes son sus víctimas?
Evolución y Alcance de la Inteligencia Artificial
What Educators Need to Know About AI’s Limits and Possibilities
1° Clase | Iniciación a la Inteligencia Artificial
Pasado, Presente y Futuro de la IA - ¡Del Deep Learning 1.0 a Google Gemini!
La inteligencia artificial, ¿nuestra salvación o condena? | Nosotros y ellos | DW Documental
5.0 / 5 (0 votes)