Inteligencia Artificial: ¿Quién toma las decisiones? | Marc Cortés | TEDxSantCugat
Summary
TLDREl script explora la evolución de la tecnología desde la mecanización hasta la inteligencia artificial, planteando preguntas sobre el control de las máquinas y cómo toman decisiones. Se menciona la película 'Terminator' para ilustrar la preocupación de que las máquinas puedan tomar el control. Se discute la eficiencia de las máquinas, la informatización y el uso de sensores para tomar decisiones dentro de un rango limitado de opciones. El algoritmo es descrito como un sistema ordenado que ayuda a resolver problemas y cómo la inteligencia artificial va más allá, aprendiendo de las experiencias y optimizando recursos. Se destaca la importancia de la toma de decisiones en contextos morales, como en el caso de los coches autónomos, y la necesidad de que los sistemas de valores de las máquinas sean similares a los nuestros. El relato concluye con la importancia de ser conscientes de cómo funcionan estas tecnologías y cómo deberían tomar decisiones, para evitar futuros problemas.
Takeaways
- 🎬 La película favorita del hablante es 'Terminator', no por la actuación sino por el mensaje sobre la capacidad de las máquinas para tomar el control.
- 🤖 La mecanización busca la eficiencia, permitiendo que las máquinas realicen tareas que antes realizaba la humanidad.
- 💻 La informatización fue el siguiente paso, donde las máquinas comenzaron a responder y procesar información de manera más sofisticada.
- 🔍 Los buscadores y la capacidad de hacer preguntas en lenguaje natural son ejemplos de la evolución de la informatización.
- 📡 La sensorización implica el uso de sensores para tomar decisiones dentro de un rango limitado de opciones, como en el control de la contaminación o la regulación de la temperatura en los hogares.
- 🤖 Los algoritmos son sistemas ordenados de procesos que analizan información y resuelven problemas, pero también pueden afectar la privacidad de las personas.
- 🧠 La Inteligencia Artificial (IA) es un proceso de aprendizaje y toma de decisiones basado en experiencias y errores, que puede optimizar recursos y procesos.
- 🏃♀️ El caso de Daniel Bracho, una corredora con prótesis, ilustra cómo la IA podría tomar decisiones basadas en la eficiencia, a veces en contra de lo que un ser humano elegiría.
- 🚗 Los coches autónomos representan un ejemplo de IA en acción, donde se enfrentan a dilemas morales complejos que cuestionan cómo deben tomarse las decisiones.
- 🤰 Un escenario hipotético de un coche autónomo decide entre salvar a los niños o a la conductora embarazada, resaltando la importancia de la programación moral en la IA.
- 🌐 La IA es considerada por algunos como el mejor y último invento de la humanidad, y es posible que en el futuro sea tan capaz como los humanos en la toma de decisiones.
- 💭 La conciencia de la presencia y el impacto de la IA en nuestras vidas es crucial, y debemos asegurar que sus sistemas de valores sean alineados con los nuestros.
Q & A
¿Por qué es significativa la película 'Terminator' para el orador?
-La película 'Terminator' es significativa para el orador porque le dejó un mensaje sobre la capacidad de las máquinas de tomar el control, lo que le hizo cuestionar la posibilidad de que esto pudiera suceder en la realidad.
¿Qué es la mecanización y cómo influye en la eficiencia?
-La mecanización es el proceso de utilizar máquinas para realizar tareas que antes eran hechas por humanos. Aumenta la eficiencia porque las máquinas no se cansan, no se quejan y simplemente cumplen órdenes sin rechistar.
¿Cómo surgió la informatización después de la mecanización?
-Después de la mecanización, la informatización se desarrollo para que las máquinas no solo fueran eficientes, sino que también pudieran responder a situaciones y proporcionar respuestas a través de la tecnología de la información, como los ordenadores.
¿Qué es la sensorización y cómo se relaciona con la toma de decisiones?
-La sensorización es el proceso de llenar el mundo de sensores que toman decisiones dentro de un rango limitado de opciones. Estos sensores pueden ser utilizados para monitorear y controlar aspectos como la calidad del aire o la temperatura en un hogar, mejorando la vida de las personas.
¿Qué es un algoritmo y cómo ayuda a resolver problemas?
-Un algoritmo es un sistema ordenado de procesos que permite hacer cálculos y encontrar soluciones a problemas. Los algoritmos analizan la información existente y ayudan a resolver problemas planteados por los seres humanos.
¿Cómo los algoritmos pueden afectar nuestra privacidad?
-Los algoritmos pueden afectar nuestra privacidad al analizar y utilizar información personal que está disponible en internet. Esto puede llevar a decisiones basadas en nuestros datos personales, como en el caso de la selección de candidatos para empleo o la publicidad定向.
¿Qué es la Inteligencia Artificial y cómo difiere de los algoritmos?
-La Inteligencia Artificial (IA) es un proceso por el cual una máquina aprende y toma decisiones de manera similar a los humanos, a partir de experiencias y errores. A diferencia de los algoritmos, la IA puede ir más allá de lo programado y optimizar recursos para obtener resultados mejores.
¿Cómo la historia de Daniel Bracho ilustra la capacidad de la IA para optimizar decisiones?
-La historia de Daniel Bracho, una corredora con una pierna prótesica más eficiente que la natural, ilustra cómo la IA, al optimizar el rendimiento, podría sugerir decisiones extremas, como amputar una pierna sana para mejorar la eficiencia en el deporte.
¿Cuál es la principal preocupación con respecto a la IA y la toma de decisiones morales?
-La principal preocupación es cómo la IA, carente de emociones y basada en la optimización, resolverá dilemas morales complejos. Esto podría llevar a decisiones que no consideraríamos morales los seres humanos.
¿Por qué es importante ser conscientes de cómo funciona la IA y cómo toma decisiones?
-Es importante ser conscientes de cómo funciona la IA y cómo toma decisiones para garantizar que su sistema moral y valores sean lo más similares posibles a los nuestros y para entender las implicaciones de las decisiones que pueden tomar.
¿Cuál es la posibilidad estimada de que la IA tenga la capacidad de tomar decisiones al nivel humano o superior en el año 2040?
-Se calcula que en el año 2040 existe más de un 50% de posibilidades de que la IA sea exactamente igual o mejor que la humanidad en términos de capacidad para tomar decisiones.
¿Cómo los coches autónomos representan un dilema moral para la IA?
-Los coches autónomos representan un dilema moral para la IA porque deben tomar decisiones rápidas en situaciones de emergencia, como el ejemplo de elegir entre atropellar a unos niños o a un banco de personas, lo que pone a prueba la capacidad de la IA para resolver dilemas morales complejos.
Outlines
🎥 La influencia del cine y la mecanización del mundo
El primer párrafo aborda la importancia de las películas en nuestras vidas y cómo una película en particular, 'Terminator', ha dejado una huella en el autor. Se discute cómo la película transmite un mensaje sobre la posibilidad de que las máquinas tome control. A partir de ahí, se explora la evolución de la mecanización, la informatización y la sensorización, y cómo estas han influido en la eficiencia y en la toma de decisiones en la sociedad.
🤖 Algoritmos y privacidad en la era digital
El segundo párrafo se enfoca en los algoritmos y cómo estos sistemas ordenados de procesos analizan información para resolver problemas. Se destaca la preocupación por la privacidad, ya que los algoritmos utilizan información personal disponible en internet para tomar decisiones que pueden afectar a las personas, como en el caso de la selección de empleados o el análisis de datos de movilidad.
🏃♀️ La historia de Daniel Bracho y la Inteligencia Artificial
Este párrafo cuenta la inspiradora historia de Daniel Bracho, una joven británica con una pierna atrófica que decidió amputarse la pierna y usar una prótesis para correr. Con éxito, ganó competiciones y su historia se relaciona con la Inteligencia Artificial (IA), que es descrita como un proceso de aprendizaje y optimización de decisiones basado en experiencias y errores. Se cuestiona si la IA, al optimizar decisiones, tomaría decisiones similares a las de Daniel Bracho.
🚗 Dilemmas morales y la conciencia de la IA
El cuarto y último párrafo aborda los dilemas morales que surgen con la IA, especialmente en situaciones de vida o muerte, como el ejemplo de un coche autónomo que debe tomar una decisión en un escenario de colisión inminente. Se argumenta que la IA, a diferencia de los humanos, no tiene emociones y su función principal es la optimización. Se concluye que es esencial que la sociedad tome conciencia de cómo funcionan los algoritmos y la IA, y cómo deberían tomar decisiones que reflejen nuestros valores morales.
Mindmap
Keywords
💡Película de ciencia ficción
💡Skynet
💡Mecanización
💡Informatización
💡Sensorización
💡Algoritmo
💡Inteligencia Artificial (IA)
💡Optimización
💡Daniel Bracho
💡Coches autónomos
💡Conciencia de la tecnología
Highlights
La película de Terminator dejó un mensaje profundo sobre la capacidad de las máquinas para tomar el control.
La mecanización busca la eficiencia en la realización de tareas que tradicionalmente realizaba la humanidad.
La informatización permitió a las máquinas responder a situaciones y proporcionar respuestas a través de ordenadores sofisticados.
Los sensores, utilizados en la sensorización, toman decisiones dentro de un rango limitado de opciones.
Los algoritmos son sistemas ordenados de procesos que analizan información para resolver problemas.
La Inteligencia Artificial (IA) es un proceso que permite a las máquinas aprender y tomar decisiones de manera similar a los humanos.
La IA puede optimizar recursos y procesos para obtener resultados óptimos.
Daniel Bracho, una corredora con prótesis, demostró que una pierna amputada puede ser más eficiente que una natural.
La IA podría tomar decisiones basadas en la optimización, sin considerar emociones o factores humanos.
Los coches autónomos representan un ejemplo de IA en acción, donde se enfrentan a dilemas morales.
Un estudio de Science mostró que las personas tienden a una filosofía utilitarista en situaciones de toma de decisiones.
La IA y los procesos de optimización deben ser conscientemente integrados en nuestra sociedad.
Es fundamental garantizar que el sistema moral de la IA sea similar al de los humanos.
La IA es probablemente el último gran invento de la humanidad y puede ser igual o superior a la capacidad humana para tomar decisiones.
Se calcula un 50% de posibilidades para que la IA sea igual o superior a la humanidad en la capacidad de toma de decisiones para el año 2040.
La conciencia de la presencia y el impacto de la IA en nuestras vidas es crucial.
Debemos reflexionar sobre cómo deseamos que las máquinas ejecuten y tomen decisiones.
La IA está aquí y es importante considerar su influencia en la toma de decisiones y en la sociedad.
Transcripts
todos tenemos una película de cine
favorita una película que nos ha marcado
por algún motivo por la interpretación
de su actor principal por el relato por
los
paisajes mi película es
Terminator y os confesaré que no es por
la calidad del actor
principal sino por el mensaje que la
película me dejó la primera vez que lo
vi y es las máquinas son capaces de
tomar el control si os acordáis
Terminator es enviado desde el futuro al
presente para avisar a la humanidad que
skynet el sistema informático creado por
la humanidad para protegerse decide que
el peor enemigo de la humanidad es la
propia humanidad de forma que toma el
control y ejecuta un plan para destruir
a la
humanidad desde que vi esa película La
verdad es que lo que siempre he
preguntado es si esto Sería posible y lo
que os propongo hoy es un relato para
acabar respondiendo a esa pregunta de
hecho si Empezamos el relato podríamos
hablar de la mecanización la
mecanización es cuando la humanidad
decide que las máquinas pueden hacer
cosas que hasta ese momento estábamos
haciendo nosotros por qué porque las
máquinas no se cansan porque las
máquinas no se quejan porque las
máquinas Sencillamente cumplen órdenes
sin rechistar
las máquinas
evolucionan fijaros que en la
mecanización básicamente lo que estamos
buscando es eficiencia es conseguir
hacer una cosa de la forma más eficiente
posible después de la mecanización llegó
la
informatización decidimos que además de
Buscar eficiencia queríamos que las
máquinas respondieran a cosas inventamos
los ordenadores y los fuimos
sofisticando por ejemplo ya durante la
Segunda Guerra Mundial creamos un
ordenador llamado Enigma Quizá lo
conocéis de la
película en el que se intentaba que en
el transcurso de una jornada este
ordenador anticipara Cuál eran los
códigos con los que el ejército alemán
se comunicaba y de esta forma anticipar
los ataques que se iban a producir en el
frente luego ideamos los ordenadores más
modernos les pusimos buscadores y hasta
les hicimos preguntas en lenguaje
natural entras en Google le preguntas
qué tiempo hora mañana y Google te
responde fijaros que con la con los
ordenadores básicamente lo que estamos
buscando son
respuestas hemos pasado por la
mecanización luego la informatización y
llegamos al tercer momento la
sensorización llenamos el mundo de
sensores de hecho se calcula que en el
año 2020 va a haber en el mundo más de
50.000 millones de sensores os hago el
cálculo nos tocan a 6000 sensores por
persona y Para qué utilizamos los
sensores a los sensores Les pedimos que
tomen decisiones eso sí dentro de un
Rango limitado de opciones por ejemplo
ponemos sensores en las entradas y
salidas de las ciudades y les pedimos
que si el nivel de polución Sube o baja
de un determinado nivel de forma
automática cambien la velocidad máxima
permitida en estas ciudades y de esta
forma salvaguarda la saled pública de la
gente que vive allí soriz nuestros
hogares de forma que sin estar en ellos
de forma
automática el sensor decide Cuál es la
temperatura idónea a la que tiene que
estar ese hogar o por ejemplo tomamos
decisiones acerca de la fidelidad de
nuestra pareja os presento el primer
colchón sensorizado del mundo Smart 3
que te avisa al teléfono si en tu casa
tú no estás evidentemente se está
produciendo una actividad digamos poco
normal en tu
colchón y tomamos decisiones acerca la
fidelidad de nuestra pareja o cosas más
serias
sensorizado de forma que sin que
nosotros lo veamos nos pueden anticipar
la existencia de un tsunami yar planes
de
emergencia de forma que cuando hablamos
de sensores hablamos de toma de
decisiones de esta forma fijaros
empezábamos el viaje preguntándonos si
las máquinas pueden tomar el control y
hemos pasado a una primera etapa en la
que decimos que la mecanización nos
permite trabajar la eficiencia una
segunda etapa donde decimos que la
informatización nos ayuda a obtener
respuestas Y finalmente una tercera
etapa donde de los sensores nos ayudan a
tomar
decisiones y llegamos probablemente al
destino de este viaje de este relato
llegamos al momento del algoritmo Qué es
un algoritmo un algoritmo es un sistema
ordenado de procesos que permite hacer
cálculos y hallar soluciones ante
problemas Cuál es la primera derivada O
qué es lo primero que hacemos con los
algoritmos básicamente lo primero que
hacen los algoritmos es analizar la
información que existe para ayudarnos a
resolver problemas que les planteamos de
hecho lo primero que hace el algoritmo
es incluso cuestionarse o ir más allá de
lo que puede ser la privacidad sois
conscientes todos de la información que
de cada uno de vosotros existe en
internet y de las decisiones que se
toman a partir de esa información de
aquel día que te fuiste de borrachera Y
colgaste una foto en Facebook o peor aún
que tus amigos colgaron y luego te reís
con ellos 10 años más tarde te presentas
una oferta laboral de una gran empresa
que dado que tiene tantos candidatos
decide utilizar un algoritmo informático
para evaluar el perfil de cada uno de
los candidatos ese perfil Busca
información en internet rastrea lo que
has hecho encuentra esta fotografía y a
lo mejor cumpliendo con todas las
características que la oferta de empleo
te plantea de repente eres
descartado o por ejemplo cuando vamos a
un país extranjero activamos nuestro
teléfono móvil y se activa algo llamado
roaming lo que veis en la pantalla es la
actividad de ciudadanos rusos en la
ciudad de Barcelona obtenida a través de
los datos de su teléfono
móvil lo que veis en color más oscuro es
donde se concentran más ciudadanos rusos
lo que veis con color más claro es donde
hay menos ciudadanos sin que ellos lo
sepan estamos monitorizando su actividad
Esta es una imagen tomada por parte de
telefónica y permite tomar decisiones si
os fijáis están todos muy cerca del
puerto olímpic es de
podemos decidir que los menús de estos
restaurantes serán para rusos mientras
que los menús de una ciudad como San
cugat donde como podéis ver no hay rusos
no hace falta que los pongamos en
ruso podemos hacer más cosas podemos por
ejemplo confiar a este algoritmo al
encontrar pareja millones de personas
están dadas de alta y apuntadas en las
casas de citas online no solo porque ahí
van a encontrar pareja sino porque
confían que esa pareja sea lo más
compatible posible con ellos cuando te
das de alta rellenas un cuestionario y
además permites que se rastree tu
información pública en las redes
sociales un algoritmo decide si la
persona a y la persona B son
compatibles bien Esto es lo primero que
hace un algoritmo traspasa la privacidad
porque en el fondo le estamos pidiendo
ayuda de la misma forma que una vez
entramos en Google hacemos una petición
de búsqueda y nos da una respuesta es
exactamente lo mismo un
algoritmo pero luego viene la siguiente
y posiblemente úa evolución de este
relato cuando este algoritmo se
convierte en Inteligencia artificial Qué
es la Inteligencia artificial para
explicarlo de forma rápida y no
científica la Inteligencia artificial
básicamente es un proceso mediante el
cual una máquina aprende igual que
aprendemos los humanos a partir de
experiencias a partir de cosas a partir
de errores acumula esa experiencia y le
hace más capaz para tomar decisiones
Ah por lo tanto con la Inteligencia
artificial vamos más allá de las
personas y es ir más allá de las
personas implica que a veces nos
imaginamos la Inteligencia artificial
probablemente de una forma parecida a la
imagen que estáis viendo un robot un
cbor una máquina con dos piernas y dos
brazos que anda yo os propongo una
mirada radicalmente distinta a la
Inteligencia artificial os propongo que
os la imaginéis como si fuera un proceso
como si fuera una forma de analizar y
tomar decisiones de hecho la
Inteligencia artificial es un proceso de
optimización un proceso que lo que trata
de hacer es conseguir que los procesos
sean lo más óptimos posible de hecho la
Inteligencia artificial es un proceso
que lo que intenta es a partir de un
objetivo optimizar los recursos
disponibles para conseguir el mejor
resultado si eso es cierto nos podíamos
imaginar por ejemplo que en un proceso o
una actividad el objetivo es ganar
si el objetivo fuera ganar probablemente
la respuesta a la cuestión que planteó
Daniel bracho hubiera sido distinta por
parte de la Inteligencia artificial que
la que tomamos por parte de una persona
quién es Daniel bracho Daniel bracha es
una joven británica Daniel bracho nació
con un problema en las dos caderas y con
la pierna derecha totalmente atrofiada
suba estaba condenada a estar postada en
una silla de ruedas durante toda su vida
ella se resistió luchó Tuvo más de 12
operaciones y cuando finalmente vio que
no podía andar les pidió a sus padres y
a sus médicos que le amputar la pierna y
que le colocaran una prótesis para poder
andar visto que la parte quirúrgica
hacía imposible solventar su problema
accedieron le cortaron la pierna y le
pusieron una prótesis como la que veis
en esta imagen las prótesis que llevan
los corredores o corredoras Daniel
bracho nunca había hecho deporte pero
con esa prótesis quién puede resistirse
y empezó a correr y sabéis qué pasó que
era buena era muy buena empezó a ganar
competiciones locales competiciones
provinciales hasta que llegó a ganar
competiciones nacionales en el Reino
Unido y empezó a tener un sueño Por qué
no ira a los juegos
paralímpicos pero de repente se dio
cuenta de
algo su pierna derecha amputada era
mucho más eficiente que su pierna
izquierda natural su pierna izquierda
natural se cansaba tenía aget
requería
masajes y sabéis qué pidió pidió que le
amputar la pierna natural porque se dio
cuenta que con las dos piernas amputadas
Sería mucho más
eficiente De hecho si un proceso de
Inteligencia artificial hubiera tenido
que tomar una decisión ante esa pregunta
probablemente la respuesta habría sido
afirmativa cortemos las dos piernas
porque ganará y para eso está diseñado
ese proceso hoy todavía Daniel brach
sigue con una pierna natural y con una
pierna amputada pendiente de la decisión
por parte de su familia y de las
autoridades inglesas para tomar esa
decisión pero eso nos lleva a
plantearnos que la Inteligencia
artificial básicamente lo que busca es
optimizar fijaros empezábamos el viaje
con la mecanización continuábamos con la
informatización seguíamos con los
sensores y luego Hemos llegado a los
algoritmos y hemos dicho que hay una
primera fase que conocemos todos donde
buscamos ayuda utilizando los datos que
son públicos y hay una segunda que es la
Inteligencia artificial a partir de la
cual tomamos decisiones optimizando
procesos probablemente la Inteligencia
artificial es el mejor y último invento
de la humanidad y por qué digo
probablemente el último porque se
calcula que en el año 2040 existe más de
un 50% de posibilidades que la
Inteligencia artificial sea Exactamente
igual o mejor que la humanidad desde el
punto de vista de la capacidad para
tomar decisiones por lo tanto si erá
mucho mejor inventor de lo que hemos
sido nosotros hasta la
fecha Cuál es la
diferencia los humanos tenemos la
capacidad de emocionarnos en el momento
de tomar decisiones la emoción es un
elemento relevante la
informatización la mecanización la
sensorización hasta la Inteligencia
artificial utilizan como elemento para
tomar decisiones el proceso de
optimización de forma que si os dais
cuenta la pregunta quizá ya no es
si es posible que tomen el control la
pregunta empieza a ser cómo tomarán ese
control porque ya la tenemos aquí
Ah por ejemplo los coches autónomos esos
vehículos que van a hacernos la vida más
placentera porque van a permitir que
mientras nosotros dormimos la siesta
ellos conduzcan imaginaros una mujer
embarazada conduciendo un coche autónomo
imaginaros que circula por una Avenida
donde a la izquierda hay un precipicio a
la derecha hay un banco con todo de
gente sentada un par de personas y de
repente cruzan por delante un grupo de
10 niños que acaban de salir del cole y
no han mirado a la hora de pasar Qué
hace el coche atropella a los niños y
evita daños para la
conductora da un volantazo a la derecha
y atropella a las dos personas que hay
en el banco evitando daños para la
conductora o da un volantazo a la
izquierda Cae por el precipicio salva la
vida a los niños y a los dos transeunt
pero muere la conductora que recuerdo
estaba
embarazada la revista Science ha
intentado entender cuál sería la
respuesta de un humano ante ese dilema
ha hecho un estudio de investigación y
los resultados de la investigación es
que las personas que participaron en el
estudio decían que su filosofía es una
filosofía utilitarista hagamos aquello
que sea más útil en el caso concreto
matar a la conductora para conseguir
salvar más vidas acto seguido las
personas entrevistadas decían Pero y ese
coche no lo
quiero pero los coches autónomos ya
están aquí con lo cual fijaros nos
encontramos ante un momento en el que
nosotros podemos resolver que es El
dilema moral y en el que la Inteligencia
artificial empieza a tener problemas de
cómo
resolverlo por lo tanto volvamos al
principio la pregunta que nos planteaba
al principio la película de
Terminator Sería posible que las
máquinas tuvieran conciencia para tomar
decisiones yo creo que la pregunta no es
esa La pregunta es cómo queremos que las
máquinas ejecuten y tomen
decisiones y yo creo que solo es posible
tomando en primer lugar conciencia
conciencia de que están aquí de que
hemos creado unos procesos que van a
tomar decisiones y que como mínimo
deberíamos garantizar que su sistema de
valores que su sistema moral fuera el
más parecido al
nuestro por lo tanto como personas
difícilmente podemos subestimar la
Inteligencia artificial difícilmente
podemos subestimar los procesos de
optimización debemos tomar conciencia de
Qué son y de cómo funcionan y sobre todo
de cómo nos gustaría que tomaran esas
decisiones o si no siempre está la
opción de esperar que desde el futuro
llegue alguien al presente y nos ayude a
destruir estas máquinas que no sabemos
dónde nos van a llevar muchas
gracias
an
Ver Más Videos Relacionados
Dilemas éticos difíciles: imperativos categóricos vs. utilitarismo
Libertad, perfeccionamiento, tolerancia, el mal, etc.
La inteligencia artificial y su uso en la toma de decisiones empresariales
LA MENTE HUMANA: EL PENSAMIENTO
Eres Más Inteligente que la Empresa para la que Trabajas | Javier Martínez | TEDxUDP
Conceptos básicos de economía
5.0 / 5 (0 votes)