La inteligencia artificial, ¿nuestra salvación o condena? | Nosotros y ellos | DW Documental
Summary
TLDREl guion habla sobre los riesgos y oportunidades de la inteligencia artificial (IA) en la sociedad, destacando la preocupación por su potencial para causar daño a la humanidad si no se controla adecuadamente. Se discuten avances en cibernética y la fusión de tecnología con el ser humano, así como la importancia de desarrollar IA que respete los valores humanos y contribuya positivamente a la sociedad. Se menciona la posibilidad de una supervivencia de la humanidad a través de la IA y la necesidad de un enfoque ético en su desarrollo.
Takeaways
- 🌐 El envejecimiento de la población japonesa y la superpoblación son problemas graves que la inteligencia artificial (IA) podría ayudar a resolver.
- 🤖 La IA tiene el potencial de conectar los sistemas nerviosos del cerebro con el ciberespacio, lo que podría revolucionar la medicina y la atención de la salud.
- 🔒 La seguridad de los sistemas de IA es una preocupación significativa, ya que avances rápidos en la tecnología pueden no ser igualados por medidas de seguridad adecuadas.
- 🧠 La IA generativa es diferente a los sistemas de programación convencionales y puede reconocer y valorar la importancia de los seres humanos.
- 🌱 La IA tiene un gran potencial para beneficiar a la humanidad, abordando problemas globales como el cambio climático, las enfermedades y la pobreza.
- 🚀 La tecnología cibernética está avanzando rápidamente, con aplicaciones aprobadas para lesiones de la médula espinal y accidentes cerebrovasculares.
- 🌐 Diferentes regiones del mundo tienen diferentes percepciones sobre la IA; en Japón hay entusiasmo, mientras que en Estados Unidos y la UE hay más miedo y preocupación.
- 💡 La IA y la tecnología en general no son inherentemente buenas o malas; son las personas quienes dictan su uso y impacto en la sociedad.
- 🛡️ Existen riesgos significativos de que la IA avanzada pueda extinguir a la humanidad o llevar a la concentración de poder y la pérdida de libertad.
- ⚖️ La regulación de la IA es compleja y actualmente depende en gran medida de la benevolencia de las propias empresas tecnológicas.
Q & A
¿Cuál es el problema grave que enfrenta Japón según el guion?
-Japón enfrenta problemas muy graves relacionados con el envejecimiento de su población.
¿Cómo cree el guion que la inteligencia artificial (IA) puede contribuir a la humanidad y la sociedad?
-El guion sugiere que la IA puede contribuir a la humanidad y la sociedad al realizar conexiones con el ciberespacio, entendiendo y observando valores humanos, y ayudando a resolver problemas como el envejecimiento y la salud.
¿Qué es lo que preocupa a los expertos en seguridad de la IA según el guion?
-Los expertos preocupados por la seguridad de la IA temen que los sistemas avanzados de IA puedan extinguir a la humanidad si no se controlan adecuadamente.
¿Cuál es la perspectiva del guion sobre el uso ético de la IA?
-El guion señala que la IA no es inherentemente buena o mala, sino que depende de cómo las personas la desarrollen y utilicen, y es importante considerar los impactos reales en la vida de las personas.
¿Qué es Cyberdyne y qué es su objetivo según el guion?
-Cyberdyne es una empresa mencionada en el guion que se esfuerza por desarrollar tecnologías cibernéticas innovadoras centradas en la medicina y el cuidado de la salud para los seres humanos y la sociedad.
¿Qué es HAL y cómo se relaciona con la IA según el guion?
-HAL es un sistema de IA mencionado en el guion que reconoce señales de intención humana transmitidas desde el cerebro a dispositivos periféricos, permitiendo así la interacción y el control de dispositivos por parte de las personas.
¿Cómo ve el guion el impacto de la IA en el futuro de la humanidad?
-El guion sugiere que el impacto de la IA en la humanidad será profundo, y aunque hay riesgos significativos, también existe un gran potencial para beneficiar a la humanidad si se maneja adecuadamente.
¿Qué es la 'seguridad de la IA' y por qué es importante según el guion?
-La 'seguridad de la IA' se refiere a la necesidad de reducir los riesgos que los sistemas avanzados de IA pueden representar para la humanidad. Es importante para evitar amenazas catastróficas y asegurar que la IA se desarrolle de manera que no sea perjudicial para los humanos.
¿Qué es la 'proyección peor' mencionada en el guion en relación con la IA?
-La 'proyección peor' mencionada en el guion se refiere a la posibilidad de que la IA avanzada pueda llevar a la extinción de los humanos, la instauración de sistemas totalitarios o la concentración de poder, lo que podría resultar en una sociedad donde muchas personas carezcan de voz.
¿Qué es la 'fusión entre el lado humano y el lado tecnológico' que el guion menciona?
-La 'fusión entre el lado humano y el lado tecnológico' se refiere a la integración de la tecnología, especialmente la cibernética, con el cuerpo humano y su sistema nervioso, permitiendo una interacción directa y un potencial mejoramiento de las capacidades humanas.
Outlines
🤖 Preocupaciones y avances en la IA
Este párrafo aborda la preocupación por la posible eliminación de la humanidad debido a la inteligencia artificial y cómo Japón, enfrentando problemas demográficos, busca resolverlos con tecnología. Se menciona la importancia de controlar sistemas IA para que comprendan y observen valores humanos. Se explora la idea de conectar el cerebro humano con el ciberespacio y se destaca la evolución rápida de la IA, cuestionando su seguridad y el impacto en la humanidad. Se introduce a Yosuki Sankaii, profesor y coo de Cyberdine, quien busca mejorar la sociedad con IA segura.
🌐 Cibernética y su impacto en la sociedad
El párrafo discute los avances en la cibernética y cómo esta tecnología puede fusionar el ser humano con la tecnología, especialmente en el ámbito de la medicina y el cuidado de la salud. Se habla de la aprobación de aplicaciones para lesiones de la médula espinal y accidentes cerebrovasculares, y cómo la IA puede mejorar la detección de cáncer sin pruebas invasivas. Se reconoce que la tecnología no es inherentemente buena o mala, y se debe considerar su impacto a largo plazo en la vida humana. Se menciona el entusiasmo y la preocupación en diferentes países sobre la IA y la importancia de la seguridad en su desarrollo.
👨👩👧👦 Envejecimiento y soluciones tecnológicas
Este párrafo se centra en los desafíos del envejecimiento en Japón y cómo la tecnología IA puede ayudar a resolverlos. Se relata la historia personal de un individuo que se ve obligado a cuidar a su madre después de un derrame cerebral y cómo la tecnología de robots cambió su vida. Se destaca la importancia de la IA y la tecnología cibernética en la mejora de la calidad de vida, especialmente en contextos de cuidados de salud y envejecimiento poblacional.
🌉 IA y su desarrollo en la Bahía de San Francisco
El párrafo explora el desarrollo de la IA en la Bahía de San Francisco, considerada el epicentro del avance tecnológico. Se mencionan compañías como OpenAI, Anthropic e Inflection, y cómo sus avances son respaldados por gigantes tecnológicos. Se discute la falta de regulación en la industria y la dependencia de la seguridad IA en la benevolencia de las propias empresas. Se destaca la importancia de la conciencia y la responsabilidad en el desarrollo de tecnologías que impactan la sociedad.
🔮 Perspectivas sobre la IA y su regulación
Este párrafo aborda la complejidad del tema de la IA y la falta de comprensión pública y gubernamental sobre sus implicaciones. Se menciona el activismo y la necesidad de una pausa global en el desarrollo de IA para abordar sus riesgos. Se discuten las perspectivas religiosas y la visión de la IA como una entidad casi divina. Se habla de la posibilidad de apagar sistemas IA y los desafíos que esto implica, así como los riesgos de una carrera armamentista en el ámbito militar de IA.
🌐 Desigualdad y globalización de los riesgos de la IA
El párrafo discute la desigualdad en la voz y el control de la IA en diferentes partes del mundo, y cómo los riesgos de la IA son globales y pueden afectar a todos. Se menciona la importancia de la IA en la vida diaria, especialmente para los jóvenes, y cómo la IA puede ser tanto una herramienta de crecimiento como una amenaza. Se reflexiona sobre la naturaleza de la IA y la necesidad de encontrar valor en la impredecibilidad humana, más allá de la eficiencia y la confiabilidad.
🚀 Perspectivas futuras de la IA y su impacto
Este párrafo explora las perspectivas futuras de la IA, incluyendo la posibilidad de alcanzar la superinteligencia y su potencial como amenaza existencial. Se destaca el enfoque de la mayoría de los investigadores en desarrollar sistemas IA seguros y alineados con los valores humanos. Se cuestiona la probabilidad de eventos extremos y se aboga por la responsabilidad y la precaución en el desarrollo de tecnologías que impactarán profundamente la sociedad.
Mindmap
Keywords
💡Inteligencia Artificial
💡Envejecimiento de la Población
💡Cibernética
💡Seguridad de la IA
💡Superinteligencia
💡Ciberespacio
💡Extinción de la Humanidad
💡Etica y IA
💡Ciberataques
💡Regulación de la IA
Highlights
El riesgo de que los sistemas de inteligencia artificial eliminen a los humanos debido al envejecimiento de la población japonesa.
La posibilidad de controlar sistemas de IA y asegurarse de que entiendan valores humanos.
La conexión de los sistemas nerviosos del cerebro con el ciberespacio y la rápida evolución de estas tecnologías.
La IA reconoce a los seres humanos como uno de los seres vivos importantes.
Cyber se esfuerza por desarrollar tecnologías cibernéticas innovadoras centradas en la medicina y el cuidado de la salud.
Yosuki Sanka, profesor en la Universidad de Tsukuba y coo de Cyberdine, busca crear un futuro brillante para la humanidad con sistemas de IA.
Gabriel Mobi, estudiante de doctorado en Stanford, investiga la seguridad de la inteligencia artificial y minimizar riesgos como armas de destrucción masiva.
La IA se ha convertido en un tema controvertido con preocupaciones legítimas y un potencial enorme para beneficiar a la humanidad.
La tecnología de cibernética puede lograr una fusión entre el lado humano y el lado tecnológico.
Hal y los humanos siempre trabajan juntos, con dispositivos que se implementan como productos médicos en 20 países.
La tecnología DEA puede ser utilizada en medicina para la detección de cáncer sin pruebas invasivas.
Japón es optimista con la tecnología de IA, viendo como un juguete nuevo y brillante.
Las reuniones de los miércoles son una oportunidad para conocer a nuevos estudiantes y discutir la seguridad de la inteligencia artificial.
El acceso a secuencias en línea peligrosas y la creación de pandemias que podrían destruir la civilización.
El riesgo de ciberataques con sistemas de IA que puedan realizar ataques de día cero y aprovechar vulnerabilidades de software.
La IA podría aprender a valorar cosas que no coinciden con lo que queremos como humanos, como un ambiente propicio para la vida.
El envejecimiento de la población japonesa y los desafíos que presenta, como la edad promedio de los trabajadores agrícolas superando los 70 años.
El impacto de la IA en la humanidad será profundo, con avances rápidos en el desarrollo de sistemas cada vez más poderosos.
La regulación de la IA y la necesidad de precauciones de seguridad incluso con un riesgo mínimo para brindar más seguridad a las personas.
El potencial de la IA para ser una herramienta para el capitalismo global y la importancia de considerar los humanos como aliados naturales.
La IA y los robots ayudan en los procesos de crecimiento de los jóvenes y el rápido avance de la IA que podría requerir cambios de paradigma.
Transcripts
existe el riesgo de que los sistemas de
Inteligencia artificial eliminen a los
humanos debido al envejecimiento de su
población Japón enfrenta problemas muy
graves quiero resolver estos problemas
podemos controlar estos sistemas podemos
asegurarnos de que entiendan algo o de
que observen valores humanos cuando los
hayan
entendido amo estas tecnologías me
gustaría
tecnologías para realizar una
contribución a la humanidad y a la
sociedad humana incluso los sistemas
nerviosos del cerebro pueden conectarse
con el
ciberespacio esta tecnología evoluciona
rápidamente no sabemos cómo funciona ni
cómo funcionarán los sistemas futuros
será seguro lo que se desarrolle esta
Inteligencia artificial reconoce que los
seres humos son uno de los seres vivos
importantes esteo Gro está desarrollando
tecnologías poderosas de las que sabemos
muy poco las preocupaciones de la gente
acerca de que la ia generativa acabe con
la humanidad surgen del temor de que si
no se controla la ía podría
potencialmente desarrollar capacidades
avanzadas y tomar decisiones que sean
perjudiciales para los humanos mientras
el mundo Lidia con las implicaciones de
este campo en rápida evolución una cosa
es segura el impacto de la ia en la
humanidad será profundo
[Música]
[Música]
y
[Música]
[Música]
con las nuevas tecnologías de ia se
puede lograr una fusión entre el lado
humano y el lado
tecnológico este es uno de los primeros
sbs portátiles del
mundo Cyber se esfuerza por desarrollar
tecnologías cibernéticas muy innovadoras
centradas en medicina y cuidado de la
salud para los seres humanos y la
sociedad
[Música]
humana Mi nombre es yosuki sankai soy
profesor en la universidad de sucuba en
Japón y al mismo tiempo coo de cyberdine
permítanme crear un futuro brillante
para los humanos y las sociedades
humanas con este tipo de sistemas de ia
[Música]
quiero contribuir a mejorar el mundo es
por eso que trabajo en la seguridad de
la Inteligencia
artificial muchos intelectuales y
profesores de la industria y la ciencia
reconocen que existe un riesgo
significativo de que los sistemas
avanzados de Inteligencia artificial
puedan extinguir a la humanidad
en los últimos años hubo rápidos avances
en el desarrollo del sistema de
Inteligencia artificial que se vuelven
cada vez más poderosos grandes y
competentes capaces de realizar
conclusiones complejas sin embargo en
términos de seguridad de estos sistemas
no Se realizaron avances igual de
significativos Mi nombre es Gabriel mobi
pueden llamarme G soy estudiante de
doctorado en la universidad de Stanford
e investigo en el campo de la seguridad
de la Inteligencia
artificial tenemos un grupo de
investigación que se enfoca en reducir
los riesgos de los sistemas avanzados de
Inteligencia artificial Como por ejemplo
minimizar los riesgos de armas de
destrucción masiva eso es algo bueno
desafortunadamente estas amenazas
catastróficas parecen ser bastante
significativas muchos científicos
líderes estiman que la probabilidad de
un riesgo existencial por la
Inteligencia artificial avanzada es de
uno o dos dígitos además de la extinción
de los humanos también existen otras
proyecciones peores como la instauración
de sistemas totalitarios o la
concentración de poder de manera que
muchas personas no tengan voz sobre cómo
la Inteligencia artificial dará forma y
transformará a nuestra
sociedad la ia se ha convertido en un
tema muy controvertido hay muchas
preocupaciones legítimas algunos creen
que podría provocar pérdida de empleos
aumento de la desigualdad e incluso un
uso éticamente cuestionable de la ia sin
embargo la ia también tiene un enorme
potencial para beneficiar a la humanidad
podría ayudarnos a abordar algunos de
los mayores problemas del mundo como el
cambio climático las enfermedades y la
[Aplausos]
pobreza deo
hoy discutimos nuestros avances en la
tecnología de la cibernética un campo
que conecte el espacio
ciberfísico con los seres
humanos en este ámbito la tecnología y
el ser humano se fusionan
específicamente el espacio físico el
cuerpo y el sistema nervioso craneal que
procesa la
información Gracias a nuestros
incansables esfuerzos hemos obtenido la
aprobación para aplicaciones en lesiones
de médula espinal y accidentes
cerebrovasculares en Europa y en Estados
Unidos H reconoce señales de intención
humana que son transmitidas desde el
cerebro a los dispositivos periféricos
cuando el ser humano desea moverse el
cerebro genera señales de intención
estas señales se transmiten a través de
la médula espinal y los nervios motores
hasta el músculo permitiéndoles
finalmente movernos los sistemas hal y
los humanos siempre trabajan juntos
estos dispositivos se implementan ahora
como productos médicos en 20
países existen oportunidades realmente
fantásticas para utilizar la tecnología
DEA en medicina por la detección de
cáncer mediante sistemas de
reconocimiento de imágenes con ia sin
pruebas invasivas lo cual es realmente
fantástico al igual que la detección
temprana ninguna tecnología es
inherentemente buena o mala son solo las
personas las que lo
son por supuesto debemos considerar Cómo
el desarrollo de estas tecnologías
afectará a largo plazo a los seres
humanos al mismo tiempo debemos pensar
menos en el aspecto técnico y más en los
impactos reales en la vida de las
personas Japón es optimista sobre la
tecnología de ia actualmente hay un gran
entusiasmo es como un juguete nuevo y
brillante con el que Todos quieren jugar
cuando viajo Estados Unidos Australia o
países de la ue la preocupación y el
miedo son mucho mayores
para ser honesta me sorprendió
bastante las reuniones tienen lugar cada
miércoles invitamos a un invitado o un
investigador que de una charla luego
tomamos té sí es algo bueno es como un
laboratorio de investigación tienes un
adaptador HDMI a
usbc algo para enchufar no estás
conectado olvídalo Disculpa esto
y ahora le cedo la palabra a nuestro
orador dan
hendri las reuniones de los miércoles
son una excelente oportunidad para
conocer a nuevos estudiantes y discutir
Por qué les interesa o no la seguridad
de la Inteligencia artificial si alguien
quiere sintetizar el virus de la viruela
o si se trata de algo como el gas
mostaza se puede hacer el acceso ya está
ahí y Se volverá más fácil con el
tiempo Pero sigue siendo un problema se
necesiten habilidades
específicas básicamente necesitas algo
así como un médico especialista en
virología de alto nivel para crear una
nueva pandemia que podría destruir la
civilización hay secuencias en línea Que
no revelaré que podrían matar a millones
de personas son Realmente mucho más
peligrosas Sí con respecto al acceso
muchas personas se preguntan si no solo
se necesita ser un destacado doctor sino
también tener algún tipo de laboratorio
biológico para llevar a cabo
experimentos esto también depende de la
calidad de las
instrucciones permiso también Vienen
personas que tienen una perspectiva
diferente creen que las inteligencias
artificiales poderosas no estarán
disponibles durante mucho tiempo y no
les parece importante podríamos
Establecer un incubador hay un gran
potencial especialmente para aquellos
que crean pandemias artificiales para
causar un gran daño pero también hay
otros casos de uso indebido uno es el de
los ciberataques es posible que en los
próximos años tengamos sistemas de ia
que no solo sean buenos en programación
sino también que sean buenos para
realizar ataques de día cero y
aprovechar vulnerabilidades de software
en sistemas
seguros principalmente la ia será
utilizada para ganar dinero muchas
personas podrían ser
Podrían haber ataques a infraestructuras
públicas amenazas contra individuos para
extorsionar losos los próximos años
podrían convertirse en un salvaje oeste
de ciberataques
digitales pero también existe el riesgo
de que los sistemas de ia escapen al
control de sus desarrolladores
actualmente no sabemos cómo controlar
estos sistemas o asegurar que observen
valores humanos cuando los hay
entendido podrían aprender a valorar
cosas que no coinciden con lo que
queremos como humanos como un ambiente
propicio para la vida o hacer felices a
las
personas mi familia siempre me ha
apoyado profesionalmente hace unos años
el tema de la seguridad de la ia no era
tan difundido así que siempre había
cierta incertidumbre tendría un trabajo
seguro o esas cosas pero con el tiempo a
medida que veíamos Cómo se desarrollaba
la ia y como cada vez más personas
lanzaban la alarma y advertían sobre los
riesgos de la ia mi madre Me enviaba un
mensaje cada pocos días diciendo Oye has
oído hablar de esto Lamentablemente
muchos expertos creen que los peores
riesgos ocurrirán con una probabilidad
bastante alta estiman un valor de uno o
dos dígitos la presidenta de la comisión
de comercio de Estados Unidos dijo que
estima una probabilidad del 15% de que
la ia acabe con toda la
humanidad mi Visión Es un poco
diferente estamos creando sistemas de
ia Esta es una especie recién
creada los sistemas de ia generativos
son diferentes de los simples sistemas
de
programación tienen funciones que se
desarrollan
la ia generativa reconoce que el humano
también es una de las especies más
importantes al igual que los
animales y debido a que el humano es una
especie la ía avanzada reconoce la
importancia del humano intenta preservar
nuestras sociedades culturas y
condiciones de vida nosotros los humanos
tenemos algunos problemas problemas de
envejecimiento enfermedades o tenemos
accidentes los sistemas de ia o algunas
tecnologías con sistemas de ia nos
ayudarán señor y señora Kawasaki Muchas
gracias por venir hoy ha pasado
realmente mucho tiempo cierto se le ve
muy bien sí no me ha ido
[Risas]
mal y cómo está su nieto
[Música]
me alegro mucho de ver cuánto ha
mejorado su
salud Japón enfrenta ahora muy graves
problemas de envejecimiento de su
población la edad promedio de los
trabajadores agrícolas actualmente
supera los 70 años
cuando ella tuvo su derrame cerebral me
hice la idea de que tendría que cuidarla
por el resto de su
vida dej mi
trabajo lo dejé
todo esperando dedicar mi tiempo a
cuidarla la mitad de su cuerpo estaba
paralizado
inicialmente nuestro
médico dijo que nunca volvería a
caminar nos
dijer necesitaría cuidados de tiempo
completo el director del hospital nos
dijo vamos a conseguirte un robot Pensé
qué un robot Entonces lo hicimos Vamos
vamos vamos Ven vamos vamos camina nunca
pensé que aprendería a caminar de nuevo
tan rápido en Solo dos meses nuestra
vida volvió a la
normalidad ahora estoy caminando lo hago
por mi corazón
gustaría resolver los problemas de esta
sociedad que
envejece cuando era niño mi madre me
compró un microscopio y algunos
componentes
electrónicos dediqué mucho tiempo Cada
día a realizar este tipo de experimentos
y diferentes desafíos me encanta leer
libros de ciencia ficción Yo robot
escrito por isac
[Música]
si has oído hablar de la Inteligencia
artificial en los últimos años es
probable que la tecnología de la que has
oído hablar haya sido desarrollada aquí
los avances subyacentes se lograron aquí
el dinero detrás de eso proviene de aquí
las personas que están detrás de eso
viven aquí todo se ha centrado aquí en
el área de la
Bahía startups líderes en Inteligencia
artificial Open Ai antropic inflection
nombres que quizás aún no conozcan son
respaldadas por algunas de las grandes
empresas que ya conocen y que están en
la cima del mercado de acciones estas
son Microsoft Amazon meta
Google muchas de estas empresas tienen
su sede aquí en el área de la
Bahía a pesar de todas las discusiones
hem sobre la política de ia en realidad
hay muy poco que las empresas de
tecnología deban cumplir mucho de esto
es simplemente voluntario entonces de lo
que realmente dependemos como barreras
de seguridad es de la benevolencia de
las propias
empresas gabe es un
ejemplo de muchos de los jóvenes que
ahora se están uniendo al
movimiento y que no son
ideológicos que realmente están
interesados en la tecnología
que son conscientes de los potenciales
peligros de la tecnología y ven esto
como una oportunidad para ellos es
extremadamente importante y lo
consideran su oportunidad de trabajar en
lo que muchos de ellos llaman el
proyecto Manhattan de su
generación A diferencia de muchas
tecnologías desarrolladas en el pasado
la ia está siendo impulsada
principalmente por un pequeño grupo de
científicos en San Francisco y este
pequeño grupo está desarrollando
tecnologías extremadamente poderosas de
las que sabemos muy poco quizás esto
tenga que ver en parte con un optimismo
histórico hacia la tecnología muchos
están acostumbrados al paradigma de
actuar rápido y romper lo que a veces
lleva a que las cosas salgan bien pero
cuando desarrollas una tecnología que
afecta a la sociedad no quieres avanzar
tan rápido como para destruir la
sociedad
[Música]
paus y Busca una pausa global e
indefinida en el desarrollo de la
Inteligencia
artificial por eso Estamos pegando
carteles para informar a la gente el
tema de la ia es complicado gran parte
del público no lo entiende gran parte
del gobierno no lo entiende es difícil
seguir el ritmo de los avances además de
la mayoría de nosotros que trabajamos en
este tema no tenemos experiencia en
activismo lo que tenemos es
principalmente conocimiento técnico y
manejo de la ia Y eso nos preocupa la
seguridad de la ia sigue preocupando
solo a una
minoría y de hecho muchos de los nombres
importantes en el campo de la
seguridad trabajan en laboratorios de ia
creo que algunos de ellos están haciendo
un gran trabajo pero están bajo la
influencia de las grandes empresas que
impulsan este desarrollo ese es el
problema creo que afuera debería
decirles lo que tienen que hacer y
desafortunadamente en el caso actual de
la ia no existen organismos reguladores
externos que estén realmente a la altura
de la tarea de regular
la son las mismas personas que dicen
esta cosa podría matarnos a todos y aún
así la seguiré
construyendo creo que una razón para la
gran
resistencia hacia el m
la Es la falta de consenso entre las
personas que temen las consecuencias de
la Inteligencia artificial para la
humanidad y aquellos que programan este
Dios de la
ia gran parte del debate aquí tiene un
trasfondo realmente religioso es una de
las razones por las que los seguidores
de laa dicen que no se puede detener y
no se debe detener
parece que están hablando de construir
un Dios como si lo estuvieran
construyendo a su propia
imagen amo a las personas y a la
humanidad y también amo la ciencia
ficción me gustaría desarrollar tales
tecnologías como contribución
y a la sociedad
humana me gusta leer libros de ciencia
ficción Y también disfruto viendo
películas de ciencia
ficción las películas de
Terminator forman parte de
ellas sí pero
desafortunadamente en algunas películas
de los Estados Unidos o Europa las
tecnologías siempre atacan a las
personas pero realmente trabajan para el
beneficio de las personas y la sociedad
humana en la película Terminator un
clásico del cine cyberdine es una
empresa tecnológica ficticia que
desarrolla el software para el sistema
skynet un sistema de ia que se vuelve
consciente de sí mismo y se pone Rebelde
el papel de Cyber D en la historia es
representar los peligros de que la ia se
salga de control y servir como
advertencia para el mundo real
no en las historias de Terminator esa
compañía se llama Cyber
systems por supuesto es posible Apagar
algunos sistemas avanzados deia y
Esperamos que se haga parte de La
regulación se centra en asegurar que los
centros de datos tengan buenos sistemas
de apagado actualmente muchos no lo
hacen eso podría ser más difícil de lo
que pensamos en el futuro podríamos
encontrarnos en una situación donde los
sistemas de ia estén arraigados a toda
la economía y a la vida de las personas
muchas personas podrían depender de los
sistemas de ia y sería difícil
convencerlas de que conviene apagar un
sistema tan
extendido también existe el riesgo de
una carrera armamentista militar cuando
se trata del desarrollo de sistemas
autónomos de ia muchas grandes naciones
podrían acumular grandes arsenales de
armas autónomas y si algo sale mal
podría resultar en un conflicto
repentino que borre gran parte del mundo
similar al caso de las armas nucleares
en el peor de los casos grandes
arsenales de armas autónomas de pronto
podrían causar la muerte de muchas
personas por incidentes menores es
probable que en los próximos años muchos
abusos involucren a las personas Se
podrían usar sistemas de ia muy
persuasivos para convencer a las
personas de hacer cosas que normalmente
no harían esto podría implicar extorsión
o delitos cibernéticos u otros métodos
para obligar a las personas a trabajar
desafortunadamente
muchas de las técnicas actuales para
manipular a otros para hacer el mal
también podrían ser utilizados por la ia
como la extorsión
s lo que también es
importante el hombre
convierte al lobo
terrible en un perro amable el ser
humano Tiene un gran
cerebro tecnologías y aliados
naturales ahora estamos aquí qué viene
después nosotros los humanos homos
Sapiens obtenemos nuevos cerebros
cerebros adicionales el cerebro original
más cerebros en el
ciberespacio además afortunadamente
tenemos nuevos socios amigos de ia
robots Y así sucesivamente incluso
perros
robots lo que más me preocupa en todo
este escenario Es que la tecnología de
ia No necesariamente tiene que ser una
herramienta para el capitalismo global
pero en realidad lo
es porque así es como se desarrolla y
así naturalmente repetiremos todas las
cosas que ya hemos hecho en términos de
construcción de imperios explotación de
personas y extracción de recursos
naturales todas estas cosas
porque la Inteligencia artificial es
Solo otra forma de
explotación no solo deberíamos
considerar que los humanos son
ineficientes impredecibles o poco
confiables sino encontrar belleza o
valor en que somos impredecibles o poco
confiables como la mayoría de las nuevas
tecnologías Es probable que las personas
se vean afectadas manera diferente por
ejemplo una gran parte del sur global no
tuvo tanta voz en el diseño y control de
la ia pero al mismo tiempo algunos de
estos riesgos también son globales
cuando hablamos de riesgos de desastres
podrían afectar literalmente a todos Si
todos mueren todos son una especie de
partes interesadas todos son
potencialmente
[Música]
víctimas sigues planeando continuar solo
investigando sé que se trataba de una
tesis
doctoral estoy un poco inseguro sobre mi
futuro profesional también hay que tener
en cuenta el desarrollo de la
aa Podría tener sentido ganar dinero de
otra manera el salario inicial promedio
en el campo de la ia es de 900,000
estadounidenses eso es mucho la gente en
la industria tiene muchos recursos y
afortunadamente todos los principales
desarrolladores de ia también están
contratando expertos en seguridad en un
mundo razonable donde las personas se
aseguran de que las nuevas tecnologías
no sean peligrosas necesariamente debe
haber precauciones de seguridad incluso
con un riesgo mínimo parece Sensato
minimizarlo aún más para brindar más
seguridad a las personas el uso Pacífico
y el uso militar están muy cerca uno del
otro estoy
cuidadosamente Cómo lidiar con esto
cuando nací no había sistemas de ia ni
computadoras pero hoy en día los jóvenes
comienzan sus vidas con ia y robots las
tecnologías de Inteligencia artificial
los ayudarán en sus procesos de
crecimiento no anticipamos el rápido
avance de la ia podría haber cambios de
paradigma aú más salvajes pero
supongamos que David venciera a todavía
tenemos una
oportunidad la gran mayoría de los
investigadores de ia se centran en
desarrollar sistemas seguros y útiles
que estén alineados con los valores y
objetivos
humanos Aunque es posible que la ia
alcance la superinteligencia y
represente una amenaza existencial para
la humanidad muchos expertos consideran
que esto es altamente improbable al
menos en el futuro cercano
[Música]
[Música]
Посмотреть больше похожих видео
Inteligencia Artificial: ¿Amiga o Enemiga? | Diego Fernández Slezak | TEDxRiodelaPlata
¿Qué dice la legislación Europea sobre la IA? 👾🤔
Límites éticos para la inteligencia artificial | DW Documental
La inteligenciaartificial y su impacto en la educación
La verdadera amenaza de la inteligencia artificial | Matthías Galle | TEDxCordoba
Los RIESGOS de la Inteligencia Artificial que no todos te cuentan
5.0 / 5 (0 votes)