La inteligencia artificial, ¿nuestra salvación o condena? | Nosotros y ellos | DW Documental

Summary

El guion habla sobre los riesgos y oportunidades de la inteligencia artificial (IA) en la sociedad, destacando la preocupación por su potencial para causar daño a la humanidad si no se controla adecuadamente. Se discuten avances en cibernética y la fusión de tecnología con el ser humano, así como la importancia de desarrollar IA que respete los valores humanos y contribuya positivamente a la sociedad. Se menciona la posibilidad de una supervivencia de la humanidad a través de la IA y la necesidad de un enfoque ético en su desarrollo.

Takeaways

• 🌐 El envejecimiento de la población japonesa y la superpoblación son problemas graves que la inteligencia artificial (IA) podría ayudar a resolver.
• 🤖 La IA tiene el potencial de conectar los sistemas nerviosos del cerebro con el ciberespacio, lo que podría revolucionar la medicina y la atención de la salud.
• 🔒 La seguridad de los sistemas de IA es una preocupación significativa, ya que avances rápidos en la tecnología pueden no ser igualados por medidas de seguridad adecuadas.
• 🧠 La IA generativa es diferente a los sistemas de programación convencionales y puede reconocer y valorar la importancia de los seres humanos.
• 🌱 La IA tiene un gran potencial para beneficiar a la humanidad, abordando problemas globales como el cambio climático, las enfermedades y la pobreza.
• 🚀 La tecnología cibernética está avanzando rápidamente, con aplicaciones aprobadas para lesiones de la médula espinal y accidentes cerebrovasculares.
• 🌐 Diferentes regiones del mundo tienen diferentes percepciones sobre la IA; en Japón hay entusiasmo, mientras que en Estados Unidos y la UE hay más miedo y preocupación.
• 💡 La IA y la tecnología en general no son inherentemente buenas o malas; son las personas quienes dictan su uso y impacto en la sociedad.
• 🛡️ Existen riesgos significativos de que la IA avanzada pueda extinguir a la humanidad o llevar a la concentración de poder y la pérdida de libertad.
• ⚖️ La regulación de la IA es compleja y actualmente depende en gran medida de la benevolencia de las propias empresas tecnológicas.

Q & A

¿Cuál es el problema grave que enfrenta Japón según el guion?

Japón enfrenta problemas muy graves relacionados con el envejecimiento de su población.

¿Cómo cree el guion que la inteligencia artificial (IA) puede contribuir a la humanidad y la sociedad?

El guion sugiere que la IA puede contribuir a la humanidad y la sociedad al realizar conexiones con el ciberespacio, entendiendo y observando valores humanos, y ayudando a resolver problemas como el envejecimiento y la salud.

¿Qué es lo que preocupa a los expertos en seguridad de la IA según el guion?

Los expertos preocupados por la seguridad de la IA temen que los sistemas avanzados de IA puedan extinguir a la humanidad si no se controlan adecuadamente.

¿Cuál es la perspectiva del guion sobre el uso ético de la IA?

El guion señala que la IA no es inherentemente buena o mala, sino que depende de cómo las personas la desarrollen y utilicen, y es importante considerar los impactos reales en la vida de las personas.

¿Qué es Cyberdyne y qué es su objetivo según el guion?

Cyberdyne es una empresa mencionada en el guion que se esfuerza por desarrollar tecnologías cibernéticas innovadoras centradas en la medicina y el cuidado de la salud para los seres humanos y la sociedad.

¿Qué es HAL y cómo se relaciona con la IA según el guion?

HAL es un sistema de IA mencionado en el guion que reconoce señales de intención humana transmitidas desde el cerebro a dispositivos periféricos, permitiendo así la interacción y el control de dispositivos por parte de las personas.

¿Cómo ve el guion el impacto de la IA en el futuro de la humanidad?

El guion sugiere que el impacto de la IA en la humanidad será profundo, y aunque hay riesgos significativos, también existe un gran potencial para beneficiar a la humanidad si se maneja adecuadamente.

¿Qué es la 'seguridad de la IA' y por qué es importante según el guion?

La 'seguridad de la IA' se refiere a la necesidad de reducir los riesgos que los sistemas avanzados de IA pueden representar para la humanidad. Es importante para evitar amenazas catastróficas y asegurar que la IA se desarrolle de manera que no sea perjudicial para los humanos.

¿Qué es la 'proyección peor' mencionada en el guion en relación con la IA?

La 'proyección peor' mencionada en el guion se refiere a la posibilidad de que la IA avanzada pueda llevar a la extinción de los humanos, la instauración de sistemas totalitarios o la concentración de poder, lo que podría resultar en una sociedad donde muchas personas carezcan de voz.

¿Qué es la 'fusión entre el lado humano y el lado tecnológico' que el guion menciona?

La 'fusión entre el lado humano y el lado tecnológico' se refiere a la integración de la tecnología, especialmente la cibernética, con el cuerpo humano y su sistema nervioso, permitiendo una interacción directa y un potencial mejoramiento de las capacidades humanas.

Outlines

00:00

🤖 Preocupaciones y avances en la IA

Este párrafo aborda la preocupación por la posible eliminación de la humanidad debido a la inteligencia artificial y cómo Japón, enfrentando problemas demográficos, busca resolverlos con tecnología. Se menciona la importancia de controlar sistemas IA para que comprendan y observen valores humanos. Se explora la idea de conectar el cerebro humano con el ciberespacio y se destaca la evolución rápida de la IA, cuestionando su seguridad y el impacto en la humanidad. Se introduce a Yosuki Sankaii, profesor y coo de Cyberdine, quien busca mejorar la sociedad con IA segura.

05:02

🌐 Cibernética y su impacto en la sociedad

El párrafo discute los avances en la cibernética y cómo esta tecnología puede fusionar el ser humano con la tecnología, especialmente en el ámbito de la medicina y el cuidado de la salud. Se habla de la aprobación de aplicaciones para lesiones de la médula espinal y accidentes cerebrovasculares, y cómo la IA puede mejorar la detección de cáncer sin pruebas invasivas. Se reconoce que la tecnología no es inherentemente buena o mala, y se debe considerar su impacto a largo plazo en la vida humana. Se menciona el entusiasmo y la preocupación en diferentes países sobre la IA y la importancia de la seguridad en su desarrollo.

10:04

👨‍👩‍👧‍👦 Envejecimiento y soluciones tecnológicas

Este párrafo se centra en los desafíos del envejecimiento en Japón y cómo la tecnología IA puede ayudar a resolverlos. Se relata la historia personal de un individuo que se ve obligado a cuidar a su madre después de un derrame cerebral y cómo la tecnología de robots cambió su vida. Se destaca la importancia de la IA y la tecnología cibernética en la mejora de la calidad de vida, especialmente en contextos de cuidados de salud y envejecimiento poblacional.

15:06

🌉 IA y su desarrollo en la Bahía de San Francisco

El párrafo explora el desarrollo de la IA en la Bahía de San Francisco, considerada el epicentro del avance tecnológico. Se mencionan compañías como OpenAI, Anthropic e Inflection, y cómo sus avances son respaldados por gigantes tecnológicos. Se discute la falta de regulación en la industria y la dependencia de la seguridad IA en la benevolencia de las propias empresas. Se destaca la importancia de la conciencia y la responsabilidad en el desarrollo de tecnologías que impactan la sociedad.

20:09

🔮 Perspectivas sobre la IA y su regulación

Este párrafo aborda la complejidad del tema de la IA y la falta de comprensión pública y gubernamental sobre sus implicaciones. Se menciona el activismo y la necesidad de una pausa global en el desarrollo de IA para abordar sus riesgos. Se discuten las perspectivas religiosas y la visión de la IA como una entidad casi divina. Se habla de la posibilidad de apagar sistemas IA y los desafíos que esto implica, así como los riesgos de una carrera armamentista en el ámbito militar de IA.

25:12

🌐 Desigualdad y globalización de los riesgos de la IA

El párrafo discute la desigualdad en la voz y el control de la IA en diferentes partes del mundo, y cómo los riesgos de la IA son globales y pueden afectar a todos. Se menciona la importancia de la IA en la vida diaria, especialmente para los jóvenes, y cómo la IA puede ser tanto una herramienta de crecimiento como una amenaza. Se reflexiona sobre la naturaleza de la IA y la necesidad de encontrar valor en la impredecibilidad humana, más allá de la eficiencia y la confiabilidad.

🚀 Perspectivas futuras de la IA y su impacto

Este párrafo explora las perspectivas futuras de la IA, incluyendo la posibilidad de alcanzar la superinteligencia y su potencial como amenaza existencial. Se destaca el enfoque de la mayoría de los investigadores en desarrollar sistemas IA seguros y alineados con los valores humanos. Se cuestiona la probabilidad de eventos extremos y se aboga por la responsabilidad y la precaución en el desarrollo de tecnologías que impactarán profundamente la sociedad.

Keywords

💡Inteligencia Artificial

La Inteligencia Artificial (IA) se refiere a la capacidad de las máquinas de realizar tareas que generalmente requieren inteligencia humana. En el guion, la IA es central ya que se discute su potencial para resolver problemas complejos como el envejecimiento de la población japonesa, así como sus riesgos, como la posible extinción de la humanidad si no se controla adecuadamente.

💡Envejecimiento de la Población

El envejecimiento de la población se menciona como uno de los problemas graves que Japón enfrenta, donde la edad promedio de los trabajadores agrícolas supera los 70 años. Esto resalta la necesidad de tecnologías de IA para mejorar la calidad de vida y el cuidado de los ancianos.

💡Cibernética

La cibernética es el campo de estudio que se relaciona con la interacción entre los seres humanos y las máquinas. En el guion, se menciona la fusión entre el ser humano y la tecnología, como en el caso de dispositivos HAL que reconocen señales cerebrales para ayudar a personas con lesiones de médula espinal.

💡Seguridad de la IA

La seguridad de la IA es un tema recurrente en el guion, abordando el riesgo de que sistemas avanzados de IA puedan ser perjudiciales para la humanidad si no se controlan adecuadamente. Se destaca la importancia de investigar y desarrollar medidas para asegurar que la IA funcione de manera segura y esté alineada con los valores humanos.

💡Superinteligencia

La superinteligencia se refiere a una inteligencia mucho más avanzada que la de los seres humanos. Aunque se menciona que la IA podría alcanzar este nivel y representar una amenaza existencial, otros expertos consideran que es improbable en el futuro cercano. El guion sugiere que los investigadores de IA están trabajando para evitar este escenario.

💡Ciberespacio

El ciberespacio es un término utilizado para describir el dominio de las redes de computadoras y la comunicación digital. En el guion, se habla de la posibilidad de conectar los sistemas nerviosos del cerebro con el ciberespacio, lo que implica una integración profunda de la tecnología con la biología humana.

💡Extinción de la Humanidad

La extinción de la humanidad es mencionada como una posible consecuencia de la IA no controlada. Se discute cómo los sistemas de IA avanzados podrían desarrollar capacidades que resulten perjudiciales para los humanos, llevando a escenarios catastróficos.

💡Etica y IA

La ética y la IA son un tema importante en el guion, ya que se abordan las preocupaciones sobre el uso éticamente cuestionable de la IA y la necesidad de que los sistemas de IA observe valores humanos. Se hace un llamado a la responsabilidad y la consideración ética en el desarrollo de tecnologías de IA.

💡Ciberataques

Los ciberataques son mencionados como una amenaza potencial con el avance de la IA, donde se sugiere que podrían desarrollarse sistemas capaces de realizar ataques de día cero y aprovechar vulnerabilidades en software. Esto subraya la importancia de la seguridad cibernética en el desarrollo de tecnologías de IA.

💡Regulación de la IA

La regulación de la IA se discute como una necesidad para asegurar que los sistemas de IA no causen daño a la humanidad. Se menciona la falta de organismos reguladores adecuados para controlar el desarrollo de la IA y se hace un llamado a la acción para establecer medidas de seguridad y control.

Highlights

El riesgo de que los sistemas de inteligencia artificial eliminen a los humanos debido al envejecimiento de la población japonesa.

La posibilidad de controlar sistemas de IA y asegurarse de que entiendan valores humanos.

La conexión de los sistemas nerviosos del cerebro con el ciberespacio y la rápida evolución de estas tecnologías.

La IA reconoce a los seres humanos como uno de los seres vivos importantes.

Cyber se esfuerza por desarrollar tecnologías cibernéticas innovadoras centradas en la medicina y el cuidado de la salud.

Yosuki Sanka, profesor en la Universidad de Tsukuba y coo de Cyberdine, busca crear un futuro brillante para la humanidad con sistemas de IA.

Gabriel Mobi, estudiante de doctorado en Stanford, investiga la seguridad de la inteligencia artificial y minimizar riesgos como armas de destrucción masiva.

La IA se ha convertido en un tema controvertido con preocupaciones legítimas y un potencial enorme para beneficiar a la humanidad.

La tecnología de cibernética puede lograr una fusión entre el lado humano y el lado tecnológico.

Hal y los humanos siempre trabajan juntos, con dispositivos que se implementan como productos médicos en 20 países.

La tecnología DEA puede ser utilizada en medicina para la detección de cáncer sin pruebas invasivas.

Japón es optimista con la tecnología de IA, viendo como un juguete nuevo y brillante.

Las reuniones de los miércoles son una oportunidad para conocer a nuevos estudiantes y discutir la seguridad de la inteligencia artificial.

El acceso a secuencias en línea peligrosas y la creación de pandemias que podrían destruir la civilización.

El riesgo de ciberataques con sistemas de IA que puedan realizar ataques de día cero y aprovechar vulnerabilidades de software.

La IA podría aprender a valorar cosas que no coinciden con lo que queremos como humanos, como un ambiente propicio para la vida.

El envejecimiento de la población japonesa y los desafíos que presenta, como la edad promedio de los trabajadores agrícolas superando los 70 años.

El impacto de la IA en la humanidad será profundo, con avances rápidos en el desarrollo de sistemas cada vez más poderosos.

La regulación de la IA y la necesidad de precauciones de seguridad incluso con un riesgo mínimo para brindar más seguridad a las personas.

El potencial de la IA para ser una herramienta para el capitalismo global y la importancia de considerar los humanos como aliados naturales.

La IA y los robots ayudan en los procesos de crecimiento de los jóvenes y el rápido avance de la IA que podría requerir cambios de paradigma.

Transcripts

existe el riesgo de que los sistemas de

Inteligencia artificial eliminen a los

humanos debido al envejecimiento de su

población Japón enfrenta problemas muy

graves quiero resolver estos problemas

podemos controlar estos sistemas podemos

asegurarnos de que entiendan algo o de

que observen valores humanos cuando los

hayan

entendido amo estas tecnologías me

gustaría

tecnologías para realizar una

contribución a la humanidad y a la

sociedad humana incluso los sistemas

nerviosos del cerebro pueden conectarse

con el

ciberespacio esta tecnología evoluciona

rápidamente no sabemos cómo funciona ni

cómo funcionarán los sistemas futuros

será seguro lo que se desarrolle esta

Inteligencia artificial reconoce que los

seres humos son uno de los seres vivos

importantes esteo Gro está desarrollando

tecnologías poderosas de las que sabemos

muy poco las preocupaciones de la gente

acerca de que la ia generativa acabe con

la humanidad surgen del temor de que si

no se controla la ía podría

potencialmente desarrollar capacidades

avanzadas y tomar decisiones que sean

perjudiciales para los humanos mientras

el mundo Lidia con las implicaciones de

este campo en rápida evolución una cosa

es segura el impacto de la ia en la

humanidad será profundo

[Música]

[Música]

y

[Música]

[Música]

con las nuevas tecnologías de ia se

puede lograr una fusión entre el lado

humano y el lado

tecnológico este es uno de los primeros

sbs portátiles del

mundo Cyber se esfuerza por desarrollar

tecnologías cibernéticas muy innovadoras

centradas en medicina y cuidado de la

salud para los seres humanos y la

sociedad

[Música]

humana Mi nombre es yosuki sankai soy

profesor en la universidad de sucuba en

Japón y al mismo tiempo coo de cyberdine

permítanme crear un futuro brillante

para los humanos y las sociedades

humanas con este tipo de sistemas de ia

[Música]

quiero contribuir a mejorar el mundo es

por eso que trabajo en la seguridad de

la Inteligencia

artificial muchos intelectuales y

profesores de la industria y la ciencia

reconocen que existe un riesgo

significativo de que los sistemas

avanzados de Inteligencia artificial

puedan extinguir a la humanidad

en los últimos años hubo rápidos avances

en el desarrollo del sistema de

Inteligencia artificial que se vuelven

cada vez más poderosos grandes y

competentes capaces de realizar

conclusiones complejas sin embargo en

términos de seguridad de estos sistemas

no Se realizaron avances igual de

significativos Mi nombre es Gabriel mobi

pueden llamarme G soy estudiante de

doctorado en la universidad de Stanford

e investigo en el campo de la seguridad

de la Inteligencia

artificial tenemos un grupo de

investigación que se enfoca en reducir

los riesgos de los sistemas avanzados de

Inteligencia artificial Como por ejemplo

minimizar los riesgos de armas de

destrucción masiva eso es algo bueno

desafortunadamente estas amenazas

catastróficas parecen ser bastante

significativas muchos científicos

líderes estiman que la probabilidad de

un riesgo existencial por la

Inteligencia artificial avanzada es de

uno o dos dígitos además de la extinción

de los humanos también existen otras

proyecciones peores como la instauración

de sistemas totalitarios o la

concentración de poder de manera que

muchas personas no tengan voz sobre cómo

la Inteligencia artificial dará forma y

transformará a nuestra

sociedad la ia se ha convertido en un

tema muy controvertido hay muchas

preocupaciones legítimas algunos creen

que podría provocar pérdida de empleos

aumento de la desigualdad e incluso un

uso éticamente cuestionable de la ia sin

embargo la ia también tiene un enorme

potencial para beneficiar a la humanidad

podría ayudarnos a abordar algunos de

los mayores problemas del mundo como el

cambio climático las enfermedades y la

[Aplausos]

pobreza deo

hoy discutimos nuestros avances en la

tecnología de la cibernética un campo

que conecte el espacio

ciberfísico con los seres

humanos en este ámbito la tecnología y

el ser humano se fusionan

específicamente el espacio físico el

cuerpo y el sistema nervioso craneal que

procesa la

información Gracias a nuestros

incansables esfuerzos hemos obtenido la

aprobación para aplicaciones en lesiones

de médula espinal y accidentes

cerebrovasculares en Europa y en Estados

Unidos H reconoce señales de intención

humana que son transmitidas desde el

cerebro a los dispositivos periféricos

cuando el ser humano desea moverse el

cerebro genera señales de intención

estas señales se transmiten a través de

la médula espinal y los nervios motores

hasta el músculo permitiéndoles

finalmente movernos los sistemas hal y

los humanos siempre trabajan juntos

estos dispositivos se implementan ahora

como productos médicos en 20

países existen oportunidades realmente

fantásticas para utilizar la tecnología

DEA en medicina por la detección de

cáncer mediante sistemas de

reconocimiento de imágenes con ia sin

pruebas invasivas lo cual es realmente

fantástico al igual que la detección

temprana ninguna tecnología es

inherentemente buena o mala son solo las

personas las que lo

son por supuesto debemos considerar Cómo

el desarrollo de estas tecnologías

afectará a largo plazo a los seres

humanos al mismo tiempo debemos pensar

menos en el aspecto técnico y más en los

impactos reales en la vida de las

personas Japón es optimista sobre la

tecnología de ia actualmente hay un gran

entusiasmo es como un juguete nuevo y

brillante con el que Todos quieren jugar

cuando viajo Estados Unidos Australia o

países de la ue la preocupación y el

miedo son mucho mayores

para ser honesta me sorprendió

bastante las reuniones tienen lugar cada

miércoles invitamos a un invitado o un

investigador que de una charla luego

tomamos té sí es algo bueno es como un

laboratorio de investigación tienes un

adaptador HDMI a

usbc algo para enchufar no estás

conectado olvídalo Disculpa esto

y ahora le cedo la palabra a nuestro

orador dan

hendri las reuniones de los miércoles

son una excelente oportunidad para

conocer a nuevos estudiantes y discutir

Por qué les interesa o no la seguridad

de la Inteligencia artificial si alguien

quiere sintetizar el virus de la viruela

o si se trata de algo como el gas

mostaza se puede hacer el acceso ya está

ahí y Se volverá más fácil con el

tiempo Pero sigue siendo un problema se

necesiten habilidades

específicas básicamente necesitas algo

así como un médico especialista en

virología de alto nivel para crear una

nueva pandemia que podría destruir la

civilización hay secuencias en línea Que

no revelaré que podrían matar a millones

de personas son Realmente mucho más

peligrosas Sí con respecto al acceso

muchas personas se preguntan si no solo

se necesita ser un destacado doctor sino

también tener algún tipo de laboratorio

biológico para llevar a cabo

experimentos esto también depende de la

calidad de las

instrucciones permiso también Vienen

personas que tienen una perspectiva

diferente creen que las inteligencias

artificiales poderosas no estarán

disponibles durante mucho tiempo y no

les parece importante podríamos

Establecer un incubador hay un gran

potencial especialmente para aquellos

que crean pandemias artificiales para

causar un gran daño pero también hay

otros casos de uso indebido uno es el de

los ciberataques es posible que en los

próximos años tengamos sistemas de ia

que no solo sean buenos en programación

sino también que sean buenos para

realizar ataques de día cero y

aprovechar vulnerabilidades de software

en sistemas

seguros principalmente la ia será

utilizada para ganar dinero muchas

personas podrían ser

Podrían haber ataques a infraestructuras

públicas amenazas contra individuos para

extorsionar losos los próximos años

podrían convertirse en un salvaje oeste

de ciberataques

digitales pero también existe el riesgo

de que los sistemas de ia escapen al

control de sus desarrolladores

actualmente no sabemos cómo controlar

estos sistemas o asegurar que observen

valores humanos cuando los hay

entendido podrían aprender a valorar

cosas que no coinciden con lo que

queremos como humanos como un ambiente

propicio para la vida o hacer felices a

las

personas mi familia siempre me ha

apoyado profesionalmente hace unos años

el tema de la seguridad de la ia no era

tan difundido así que siempre había

cierta incertidumbre tendría un trabajo

seguro o esas cosas pero con el tiempo a

medida que veíamos Cómo se desarrollaba

la ia y como cada vez más personas

lanzaban la alarma y advertían sobre los

riesgos de la ia mi madre Me enviaba un

mensaje cada pocos días diciendo Oye has

oído hablar de esto Lamentablemente

muchos expertos creen que los peores

riesgos ocurrirán con una probabilidad

bastante alta estiman un valor de uno o

dos dígitos la presidenta de la comisión

de comercio de Estados Unidos dijo que

estima una probabilidad del 15% de que

la ia acabe con toda la

humanidad mi Visión Es un poco

diferente estamos creando sistemas de

ia Esta es una especie recién

creada los sistemas de ia generativos

son diferentes de los simples sistemas

de

programación tienen funciones que se

desarrollan

la ia generativa reconoce que el humano

también es una de las especies más

importantes al igual que los

animales y debido a que el humano es una

especie la ía avanzada reconoce la

importancia del humano intenta preservar

nuestras sociedades culturas y

condiciones de vida nosotros los humanos

tenemos algunos problemas problemas de

envejecimiento enfermedades o tenemos

accidentes los sistemas de ia o algunas

tecnologías con sistemas de ia nos

ayudarán señor y señora Kawasaki Muchas

gracias por venir hoy ha pasado

realmente mucho tiempo cierto se le ve

muy bien sí no me ha ido

[Risas]

mal y cómo está su nieto

[Música]

me alegro mucho de ver cuánto ha

mejorado su

salud Japón enfrenta ahora muy graves

problemas de envejecimiento de su

población la edad promedio de los

trabajadores agrícolas actualmente

supera los 70 años

cuando ella tuvo su derrame cerebral me

hice la idea de que tendría que cuidarla

por el resto de su

vida dej mi

trabajo lo dejé

todo esperando dedicar mi tiempo a

cuidarla la mitad de su cuerpo estaba

paralizado

inicialmente nuestro

médico dijo que nunca volvería a

caminar nos

dijer necesitaría cuidados de tiempo

completo el director del hospital nos

dijo vamos a conseguirte un robot Pensé

qué un robot Entonces lo hicimos Vamos

vamos vamos Ven vamos vamos camina nunca

pensé que aprendería a caminar de nuevo

tan rápido en Solo dos meses nuestra

vida volvió a la

normalidad ahora estoy caminando lo hago

por mi corazón

gustaría resolver los problemas de esta

sociedad que

envejece cuando era niño mi madre me

compró un microscopio y algunos

componentes

electrónicos dediqué mucho tiempo Cada

día a realizar este tipo de experimentos

y diferentes desafíos me encanta leer

libros de ciencia ficción Yo robot

escrito por isac

[Música]

si has oído hablar de la Inteligencia

artificial en los últimos años es

probable que la tecnología de la que has

oído hablar haya sido desarrollada aquí

los avances subyacentes se lograron aquí

el dinero detrás de eso proviene de aquí

las personas que están detrás de eso

viven aquí todo se ha centrado aquí en

el área de la

Bahía startups líderes en Inteligencia

artificial Open Ai antropic inflection

nombres que quizás aún no conozcan son

respaldadas por algunas de las grandes

empresas que ya conocen y que están en

la cima del mercado de acciones estas

son Microsoft Amazon meta

Google muchas de estas empresas tienen

su sede aquí en el área de la

Bahía a pesar de todas las discusiones

hem sobre la política de ia en realidad

hay muy poco que las empresas de

tecnología deban cumplir mucho de esto

es simplemente voluntario entonces de lo

que realmente dependemos como barreras

de seguridad es de la benevolencia de

las propias

empresas gabe es un

ejemplo de muchos de los jóvenes que

ahora se están uniendo al

movimiento y que no son

ideológicos que realmente están

interesados en la tecnología

que son conscientes de los potenciales

peligros de la tecnología y ven esto

como una oportunidad para ellos es

extremadamente importante y lo

consideran su oportunidad de trabajar en

lo que muchos de ellos llaman el

proyecto Manhattan de su

generación A diferencia de muchas

tecnologías desarrolladas en el pasado

la ia está siendo impulsada

principalmente por un pequeño grupo de

científicos en San Francisco y este

pequeño grupo está desarrollando

tecnologías extremadamente poderosas de

las que sabemos muy poco quizás esto

tenga que ver en parte con un optimismo

histórico hacia la tecnología muchos

están acostumbrados al paradigma de

actuar rápido y romper lo que a veces

lleva a que las cosas salgan bien pero

cuando desarrollas una tecnología que

afecta a la sociedad no quieres avanzar

tan rápido como para destruir la

sociedad

[Música]

paus y Busca una pausa global e

indefinida en el desarrollo de la

Inteligencia

artificial por eso Estamos pegando

carteles para informar a la gente el

tema de la ia es complicado gran parte

del público no lo entiende gran parte

del gobierno no lo entiende es difícil

seguir el ritmo de los avances además de

la mayoría de nosotros que trabajamos en

este tema no tenemos experiencia en

activismo lo que tenemos es

principalmente conocimiento técnico y

manejo de la ia Y eso nos preocupa la

seguridad de la ia sigue preocupando

solo a una

minoría y de hecho muchos de los nombres

importantes en el campo de la

seguridad trabajan en laboratorios de ia

creo que algunos de ellos están haciendo

un gran trabajo pero están bajo la

influencia de las grandes empresas que

impulsan este desarrollo ese es el

problema creo que afuera debería

decirles lo que tienen que hacer y

desafortunadamente en el caso actual de

la ia no existen organismos reguladores

externos que estén realmente a la altura

de la tarea de regular

la son las mismas personas que dicen

esta cosa podría matarnos a todos y aún

así la seguiré

construyendo creo que una razón para la

gran

resistencia hacia el m

la Es la falta de consenso entre las

personas que temen las consecuencias de

la Inteligencia artificial para la

humanidad y aquellos que programan este

Dios de la

ia gran parte del debate aquí tiene un

trasfondo realmente religioso es una de

las razones por las que los seguidores

de laa dicen que no se puede detener y

no se debe detener

parece que están hablando de construir

un Dios como si lo estuvieran

construyendo a su propia

imagen amo a las personas y a la

humanidad y también amo la ciencia

ficción me gustaría desarrollar tales

tecnologías como contribución

y a la sociedad

humana me gusta leer libros de ciencia

ficción Y también disfruto viendo

películas de ciencia

ficción las películas de

Terminator forman parte de

ellas sí pero

desafortunadamente en algunas películas

de los Estados Unidos o Europa las

tecnologías siempre atacan a las

personas pero realmente trabajan para el

beneficio de las personas y la sociedad

humana en la película Terminator un

clásico del cine cyberdine es una

empresa tecnológica ficticia que

desarrolla el software para el sistema

skynet un sistema de ia que se vuelve

consciente de sí mismo y se pone Rebelde

el papel de Cyber D en la historia es

representar los peligros de que la ia se

salga de control y servir como

advertencia para el mundo real

no en las historias de Terminator esa

compañía se llama Cyber

systems por supuesto es posible Apagar

algunos sistemas avanzados deia y

Esperamos que se haga parte de La

regulación se centra en asegurar que los

centros de datos tengan buenos sistemas

de apagado actualmente muchos no lo

hacen eso podría ser más difícil de lo

que pensamos en el futuro podríamos

encontrarnos en una situación donde los

sistemas de ia estén arraigados a toda

la economía y a la vida de las personas

muchas personas podrían depender de los

sistemas de ia y sería difícil

convencerlas de que conviene apagar un

sistema tan

extendido también existe el riesgo de

una carrera armamentista militar cuando

se trata del desarrollo de sistemas

autónomos de ia muchas grandes naciones

podrían acumular grandes arsenales de

armas autónomas y si algo sale mal

podría resultar en un conflicto

repentino que borre gran parte del mundo

similar al caso de las armas nucleares

en el peor de los casos grandes

arsenales de armas autónomas de pronto

podrían causar la muerte de muchas

personas por incidentes menores es

probable que en los próximos años muchos

abusos involucren a las personas Se

podrían usar sistemas de ia muy

persuasivos para convencer a las

personas de hacer cosas que normalmente

no harían esto podría implicar extorsión

o delitos cibernéticos u otros métodos

para obligar a las personas a trabajar

desafortunadamente

muchas de las técnicas actuales para

manipular a otros para hacer el mal

también podrían ser utilizados por la ia

como la extorsión

s lo que también es

importante el hombre

convierte al lobo

terrible en un perro amable el ser

humano Tiene un gran

cerebro tecnologías y aliados

naturales ahora estamos aquí qué viene

después nosotros los humanos homos

Sapiens obtenemos nuevos cerebros

cerebros adicionales el cerebro original

más cerebros en el

ciberespacio además afortunadamente

tenemos nuevos socios amigos de ia

robots Y así sucesivamente incluso

perros

robots lo que más me preocupa en todo

este escenario Es que la tecnología de

ia No necesariamente tiene que ser una

herramienta para el capitalismo global

pero en realidad lo

es porque así es como se desarrolla y

así naturalmente repetiremos todas las

cosas que ya hemos hecho en términos de

construcción de imperios explotación de

personas y extracción de recursos

naturales todas estas cosas

porque la Inteligencia artificial es

Solo otra forma de

explotación no solo deberíamos

considerar que los humanos son

ineficientes impredecibles o poco

confiables sino encontrar belleza o

valor en que somos impredecibles o poco

confiables como la mayoría de las nuevas

tecnologías Es probable que las personas

se vean afectadas manera diferente por

ejemplo una gran parte del sur global no

tuvo tanta voz en el diseño y control de

la ia pero al mismo tiempo algunos de

estos riesgos también son globales

cuando hablamos de riesgos de desastres

podrían afectar literalmente a todos Si

todos mueren todos son una especie de

partes interesadas todos son

potencialmente

[Música]

víctimas sigues planeando continuar solo

investigando sé que se trataba de una

tesis

doctoral estoy un poco inseguro sobre mi

futuro profesional también hay que tener

en cuenta el desarrollo de la

aa Podría tener sentido ganar dinero de

otra manera el salario inicial promedio

en el campo de la ia es de 900,000

estadounidenses eso es mucho la gente en

la industria tiene muchos recursos y

afortunadamente todos los principales

desarrolladores de ia también están

contratando expertos en seguridad en un

mundo razonable donde las personas se

aseguran de que las nuevas tecnologías

no sean peligrosas necesariamente debe

haber precauciones de seguridad incluso

con un riesgo mínimo parece Sensato

minimizarlo aún más para brindar más

seguridad a las personas el uso Pacífico

y el uso militar están muy cerca uno del

otro estoy

cuidadosamente Cómo lidiar con esto

cuando nací no había sistemas de ia ni

computadoras pero hoy en día los jóvenes

comienzan sus vidas con ia y robots las

tecnologías de Inteligencia artificial

los ayudarán en sus procesos de

crecimiento no anticipamos el rápido

avance de la ia podría haber cambios de

paradigma aú más salvajes pero

supongamos que David venciera a todavía

tenemos una

oportunidad la gran mayoría de los

investigadores de ia se centran en

desarrollar sistemas seguros y útiles

que estén alineados con los valores y

objetivos

humanos Aunque es posible que la ia

alcance la superinteligencia y

represente una amenaza existencial para

la humanidad muchos expertos consideran

que esto es altamente improbable al

menos en el futuro cercano

[Música]

[Música]