Where AI is today and where it's going. | Richard Socher | TEDxSanFrancisco

Summary

Die Präsentation untersucht die Entwicklung und den aktuellen Stand der künstlichen Intelligenz (KI). Ursprünglich konzentrierte sich die KI-Forschung auf Spiele wie Schach, doch inzwischen hat sie sich auf komplexere Herausforderungen wie Spracherkennung und Computer Vision verlagert. Fortschritte in der Bildklassifizierung und Sprachverarbeitung haben bedeutende Anwendungen in Bereichen wie medizinischer Diagnostik ermöglicht. Es wird betont, dass KI ein Werkzeug bleibt, das sowohl positive als auch negative Auswirkungen haben kann, abhängig von seiner Nutzung und den zugrunde liegenden Daten. Zukünftige Entwicklungen könnten unsere Kommunikation und Effizienz erheblich verbessern, erfordern jedoch auch sorgfältige Regulierung, um Verzerrungen zu vermeiden.

Takeaways

• 🔍 Die Definition von Künstlicher Intelligenz (KI) ist fließend und verändert sich, wenn Probleme gelöst werden.
• 🤖 Frühere KI-Forschung konzentrierte sich auf das Lösen von Spielen wie Schach, was als Prolog-Umgebung ohne die Komplexitäten der realen Welt angesehen wurde.
• 🗣️ Spracherkennung war einst ein großes Problem, bis Deep Learning 2010 Fortschritte erzielte und es zu einer Routine-Technologie machte.
• 👀 Computer Vision, insbesondere Bildklassifizierung, hat durch Deep Learning in den letzten Jahren enorme Fortschritte gemacht.
• 🌟 End-to-End-Modelle in der KI ermöglichen es, von Rohdaten zu abstrakten Darstellungen zu lernen, was früher manuell definiert werden musste.
• 🧠 Die Schichtenkomplikation in KI-Modellen spiegelt die Verarbeitung im menschlichen Gehirn wider, von einfachen Kanten bis zu komplexen Objektteilen und vollständigen Objekten.
• 🎨 Kombination von Computer Vision und Sprachverarbeitung ermöglicht innovative Anwendungen wie das Beschreiben von Bildern und das Beantworten von Fragen zu ihnen.
• 🏥 KI hat auch in der Medizin, insbesondere in der Onkologie, großes Potenzial, z.B. bei der automatischen Zählung von Blutzellen.
• 🏗️ In der Zukunft könnte KI bei der Automatisierung grundlegender menschlicher Bedürfnisse wie der Landwirtschaft und dem Bauwesen helfen.
• 🤖 Motorische Kontrolle ist ein noch aktiver Forschungsbereich in der KI, da Roboter oft nicht so flexibel sind wie erhofft.
• 📈 Die Anwendung von KI in der Sprachverarbeitung, insbesondere beim Textklassifizierung, hat sich verbessert und kann nun Kontext besser erfassen.
• 📚 Fortschritte in der KI, insbesondere in der Sprachverarbeitung, eröffnen neue Möglichkeiten für Aufgaben wie Textzusammenfassung und Fragebeantwortung.
• 🌐 KI ist ein Werkzeug und sollte sorgfältig eingesetzt werden, um negative Auswirkungen zu vermeiden, die durch voreingestellte Daten oder Entscheidungsprozesse entstehen könnten.
• 👥 Die KI-Gemeinschaft ist sich der Bedeutung von Vielfalt und der Notwendigkeit ihrer Förderung im Forschungsprozess bewusst.

Q & A

Was ist die grundlegende Herausforderung beim Definieren von künstlicher Intelligenz?

Die Definition der künstlichen Intelligenz ist schwierig, da sie ständig sich bewegt. Sobald ein Problem gelöst wird, wird es oft nicht mehr als künstliche Intelligenz bezeichnet.

Warum haben frühere Forschungen in der künstlichen Intelligenz mit Schach begonnen?

Frühere Forschungen begannen mit Schach, weil Forscher glaubten, dass das Lösen solcher Probleme viele andere Probleme lösen könnte, da Schach ein komplexes Spiel ist, das Mathematik, Logik und strategisches Denken erfordert.

Was hat das tiefe Lernen für das Spracherkennungsproblem gebracht?

Seit dem Jahr 2010 hat das tiefe Lernen erhebliche Fortschritte im Bereich der Spracherkennung gemacht, was ein Problem war, das vorher als besonders schwierig galt.

Was sind die Hauptkomponenten eines End-to-End-Lernmodells in der Bildverarbeitung?

Ein End-to-End-Lernmodell nimmt Rohdaten wie die Pixel eines Bildes und lernt komplexe Repräsentationen, um z.B. Objekte im Bild zu identifizieren, von einfachen Kanten bis hin zu vollständigen Objekten.

Wie funktioniert die Farbcodierung in der visuellen Wahrnehmung, um die Aufmerksamkeitsbereiche eines Modells zu visualisieren?

Die Farbcodierung visualisiert, auf welche Teile des Bildes das Modell beim Generieren einer Beschreibung schaut, indem es die Bereiche hervorhebt, auf die das Modell beim Erzeugen von Wörtern konzentriert.

Was ist das visuelle Fragen-Beantwortungs-System und wie nützlich kann es sein?

Das visuelle Fragen-Beantwortungs-System ist eine Aufgabe, bei der das Modell mit einem Bild, einer Frage und einer Antwort trainiert wird und dann versucht, die Frage anhand des Bildes zu beantworten. Es kann dabei helfen, das Bild besser zu verstehen und ist in Bereichen wie der Medizin oder der Bildbeschreibung nützlich.

Welche Anwendungen hat die künstliche Intelligenz im medizinischen Bereich, insbesondere in der Onkologie?

In der Onkologie kann künstliche Intelligenz dazu beitragen, das Zählen von Blutzellen zu automatisieren, was die Onkologie-Versorgung verbessern und die Identifizierung von Infektionen unterstützen kann.

Welche Herausforderungen gibt es im Bereich der motorischen Steuerung in der künstlichen Intelligenz?

Im Bereich der motorischen Steuerung haben wir noch viele Herausforderungen zu meistern, da selbst teure Roboter oft Schwierigkeiten haben, einfache Aufgaben wie das Öffnen von Türen oder das Drehen von Hebeln zu erledigen.

Welche Fortschritte hat die natürliche Sprachverarbeitung in Bezug auf die Textklassifizierung gemacht?

Die natürliche Sprachverarbeitung hat erhebliche Fortschritte gemacht, indem sie den gesamten Kontext von Sätzen erfasst und nicht nur einzelne Wörter betrachtet, was zu einer korrekteren Klassifizierung von Sätzen führt.

Was sind die Herausforderungen im Bereich der Textzusammenfassung?

Die Textzusammenfassung ist eine schwierige Aufgabe, da Modelle normalerweise nur kurze, kohärente Sätze generieren können. Die Automatisierung der Zusammenfassung längerer Dokumente ist noch ein offenes Forschungsproblem.

Welche Rolle kann die künstliche Intelligenz in der Fragebeantwortung spielen?

Fragebeantwortung kann als eine Aufgabe angesehen werden, die fast alle anderen NLP-Aufgaben umfasst, da sie Übersetzungen, Stimmungen, Zusammenfassungen und mehr beinhalten kann.

Welche Bedeutung hat die Qualität der Trainingsdaten für die künstliche Intelligenz?

Die Qualität der Trainingsdaten ist entscheidend, da sie die Fähigkeiten der künstlichen Intelligenz formt. Wenn die Daten voreingenommen sind, kann die AI diese Muster aufnehmen und sogar verstärken.

Welche Auswirkungen kann die künstliche Intelligenz auf die Arbeitswelt haben?

Die künstliche Intelligenz kann die Arbeitswelt revolutionieren, indem sie grundlegende menschliche Bedürfnisse wie Landwirtschaft und Bauwesen automatisiert und so die Produktivität erhöht.

Was bedeutet die Vielfalt im Zusammenhang mit der künstlichen Intelligenz?

Die Vielfalt bezieht sich auf die Notwendigkeit, verschiedene Perspektiven und Hintergründe in die Entwicklung und Anwendung der künstlichen Intelligenz einzubeziehen, um Vorurteile und Bias zu vermeiden.

Outlines

00:00

🧠 Künstliche Intelligenz: Definition und Entwicklung

Der erste Absatz stellt die Herausforderung dar, eine einheitliche Definition für künstliche Intelligenz zu finden, da sie sich ständig weiterentwickelt. Ursprünglich fokusierte die Forschung auf das Lösen von Spielen wie Schach, da man annahm, dies würde die Grundlage für die Bewältigung komplexer Probleme schaffen. Doch die Realität hat gezeigt, dass die Herausforderungen der realen Welt größer sind. Die Forschung hat sich daraufhin verstärkt auf das Verständnis von Sprache und Sehkraft (Computer Vision) verlagert, wo tiefe Lernprozesse in den letzten Jahren erhebliche Fortschritte erzielt haben, insbesondere in Bezug auf die Erkennung gesprochener Worte und das Klassifizieren von Bildern.

05:01

🔎 Fortschritte in Computer Vision und Spracherkennung

In diesem Absatz werden die Fortschritte in den Bereichen Computer Vision und Spracherkennung diskutiert. Es wird erklärt, wie sogenannte end-to-end-trainierbare Modelle funktionieren, die aus Rohdaten wie Bildpixeln lernen, um komplexe Anweisungen oder Erkenntnisse zu extrahieren. Beispielsweise können diese Modelle nun Objekte in Bildern erkennen, indem sie von einfachen Mustern zu komplexeren Textur- und Objektteilen schrittweise lernen. Darüber hinaus wird die Kombination von Computer Vision und Sprachverarbeitung zur Generierung von Bildbeschreibungen und zur Beantwortung von visuellen Fragen thematisiert, die zeigen, wie Algorithmen auf bestimmte Bereiche in Bildern fokussieren können, um genaue Antworten zu liefern.

10:03

🏥 Anwendungen der KI in der Medizin und Herausforderungen

Der dritte Absatz konzentriert sich auf die Anwendungen von künstlicher Intelligenz im medizinischen Bereich, insbesondere in der Onkologie, wo KI bei der automatischen Zählung von Blutzellen helfen kann. Auch in der Radiologie wird die KI zur Verbesserung des Diagnoseprozesses eingesetzt, obwohl hier aufgrund der Vielfalt der möglichen Erkrankungen noch mehr trainierte Daten benötigt werden. Es wird auch auf die Herausforderungen in der motorischen Steuerung hingewiesen, bei denen die KI noch nicht so weit entwickelt ist wie in anderen Bereichen, und es wird die Bedeutung der Sprachverarbeitung und des Fortschritts in der natürlichen Sprachverarbeitung (NLP) hervorgehoben.

15:03

🤖 KI als Werkzeug: Chancen und Verantwortung

Der vierte Absatz reflektiert über die Rolle der künstlichen Intelligenz als Werkzeug und betont, dass sie es nur in gutem oder schlechtem Maße wie die Menschen und politischen Systeme, die sie einsetzen, ist. Es wird auf die Bedeutung der Qualität der Trainingsdaten hingewiesen, da diese die Leistung und Verhaltensweisen von KI-Systemen bestimmen. Die Notwendigkeit von Vorschriften oder Richtlinien zur Vermeidung negativer Auswirkungen wird diskutiert, ebenso wie die Bedeutung der Diversität und des Fortschritts in der AI-Forschung. Der Absatz endet mit der Aussicht auf eine Zukunft, in der die KI zur Verbesserung der Kommunikation, des Zugangs zu Informationen und zur Effizienz am Arbeitsplatz beitragen kann, während gleichzeitig die Menschen sich auf kreative und einzigartige Aufgaben konzentrieren können.

Keywords

💡Künstliche Intelligenz

Künstliche Intelligenz (KI) ist das Fachgebiet, das sich mit der Entwicklung von Computern und anderen Systemen befasst, die ähnliche Funktionen wie das menschliche Gehirn besitzen, wie z.B. das Lernen, Problemlösen und Entscheidungsfindung. Im Video wird die KI als zentrales Thema diskutiert, mit einem Schwerpunkt auf ihrem heutigen Stand und zukünftigen Entwicklungen. Das Video betont auch, dass die Definition von KI sich im Laufe der Zeit verändert hat, da Probleme, die gelöst wurden, nicht mehr als KI betrachtet werden.

💡Lernalgorithmen

Lernalgorithmen sind Methoden, die Computern ermöglichen, aus Daten zu lernen und Muster zu identifizieren. Im Kontext des Videos werden Lernalgorithmen, insbesondere tiefe Lernalgorithmen, als Schlüssel zur Verbesserung von KI-Fähigkeiten wie der Spracherkennung und Bildklassifizierung hervorgehoben. Sie ermöglichen es KI-Systemen, sich von einfachen Mustern zu komplexen Darstellungen zu entwickeln.

💡Tiefe Lernprozesse

Tiefe Lernprozesse beziehen sich auf eine Art von KI-Lernalgorithmus, der mehrere Schichten von Verarbeitung verwendet, um komplexe Daten zu analysieren. Im Video wird die Rolle von tiefen Lernprozessen in der Entwicklung von KI-Modellen, die in der Lage sind, Sprache zu erkennen und Bilder zu klassifizieren, betont. Diese Prozesse ermöglichen es den Modellen, von einfachen Mustern wie Kanten zu komplexen Objektteilen und vollständigen Objekten zu erkennen.

💡Bildklassifizierung

Bildklassifizierung ist ein Bereich der KI, der sich mit der Erkennung und Kategorisierung von Objekten in Bildern befasst. Im Video wird die Leistungsfähigkeit von KI in der Bildklassifizierung diskutiert, insbesondere durch die Verwendung von End-to-End-Modellen, die aus Rohdaten wie Pixeln lernen, um komplexe Objekte in Bildern zu identifizieren.

💡End-to-End-Modelle

End-to-End-Modelle sind KI-Modelle, die in der Lage sind, direkt von den Eingangsdaten zu den Enddaten zu lernen. Im Video wird diese Modellart als eine der wichtigsten Entwicklungen in der KI-Forschung beschrieben, da sie es ermöglicht, komplexe Probleme wie die Bildklassifizierung und die Spracherkennung zu lösen, ohne dass manuelle Feature-Extraktion erforderlich ist.

💡Spracherkennung

Spracherkennung ist die Fähigkeit von KI-Systemen, menschliche Sprache zu verstehen und zu interpretieren. Im Video wird die Verbesserung der Spracherkennung durch tiefe Lernprozesse hervorgehoben, die es Systemen ermöglichen, aus gesprochenen Wörtern Bedeutungen zu extrahieren. Dies war vor 2010 eine schwierige Aufgabe, die durch die Einführung von tiefen Lernalgorithmen wesentlich verbessert wurde.

💡Computer Vision

Computer Vision ist ein Bereich der KI, der sich mit der Erkennung, Interpretation und Verarbeitung von visuellen Informationen aus der Welt befasst. Im Video wird Computer Vision als ein Gebiet, in dem die KI in den letzten Jahren enorme Fortschritte gemacht hat, vorgestellt, insbesondere in Bereichen wie der Bildklassifizierung und der visuellen Fragebeantwortung.

💡Visuelle Fragebeantwortung

Visuelle Fragebeantwortung ist die Fähigkeit von KI-Systemen, Fragen über ein Bild zu beantworten. Im Video wird dies als eine der fortschrittlichsten Anwendungen der Computer Vision beschrieben, bei der das System nicht nur das Bild erkennt, sondern auch die Frage versteht und eine relevante Antwort gibt, indem es auf bestimmte Bereiche des Bildes fokussiert.

💡Natürliche Sprachverarbeitung

Natürliche Sprachverarbeitung (NLP) ist ein Teil der KI, der sich mit der Interaktion zwischen Computern und menschlicher Sprache befasst. Im Video wird die Verbesserung von NLP durch tiefe Lernprozesse diskutiert, was es ermöglicht, komplexe Aufgaben wie die Textklassifizierung, Zusammenfassung und Fragebeantwortung zu bewältigen.

💡Textklassifizierung

Textklassifizierung ist die Zuordnung von Texten zu vordefinierten Kategorien. Im Video wird dies als eine der grundlegenden Anwendungen von NLP beschrieben, bei der es heutzutage möglich ist, durch tiefe Lernprozesse komplexe Kontexte zu verstehen und Texte korrekt zu klassifizieren, selbst wenn sie scheinbar widersprüchliche Wörter enthalten.

💡Textzusammenfassung

Textzusammenfassung ist die Fähigkeit, langen Textinhalte in kurze, aber informativ zu sammenfassende Zitate zu verwandeln. Im Video wird die Herausforderung der Automatisierung von Textzusammenfassung diskutiert und wie tiefe Lernprozesse dazu beitragen, zusammenhängende Zusammenfassungen zu erstellen, indem sie Wörter oder Phrasen aus dem Originaltext auswählen und kombinieren.

💡Fragebeantwortung

Fragebeantwortung ist die Fähigkeit von KI-Systemen, spezifische Fragen zu beantworten, oft basierend auf gegebenen Texten oder Daten. Im Video wird die Fragebeantwortung als eine zentrale Aufgabe in der NLP dargestellt, die viele andere Aufgaben wie Übersetzung, Stimmungsanalyse und Zusammenfassung umfasst.

💡Diversität in der KI-Forschung

Diversität in der KI-Forschung bezieht sich auf die Notwendigkeit, verschiedene Hintergründe und Perspektiven in die Entwicklung von KI-Technologien einzubeziehen. Im Video wird betont, dass die Diversität in der Forschung wichtig ist, um Bias in den Trainingsdaten und in den Algorithmen selbst zu vermeiden, und um sicherzustellen, dass KI-Technologien fair und inklusive sind.

💡Ethik in der KI

Ethik in der KI bezieht sich auf die Überlegungen und Richtlinien, die bei der Entwicklung und Anwendung von KI-Technologien beachtet werden müssen, um sicherzustellen, dass sie ethisch verantwortungsvoll sind. Im Video wird die Bedeutung der ethischen Überlegungen hervorgehoben, einschließlich der Notwendigkeit, Bias in den Trainingsdaten zu vermeiden und die Verwendung von KI in verschiedenen Bereichen wie Finanzsystemen, Justizsystemen und politischer Werbung zu regulieren.

Highlights

Definition of artificial intelligence is constantly evolving as problems are solved and no longer considered AI.

Initial focus on AI was on solving complex games like chess due to human expertise in logic and strategy.

AI research has shifted from games to understanding and processing real-world noise and complexities.

Deep learning revolutionized speech recognition, making significant progress since 2010.

Computer vision, particularly image classification, has seen tremendous advancements due to deep learning.

End-to-end trainable models have been developed to learn complex representations from raw inputs like pixels.

Models now can identify simple edges to full objects in images through layers of deep learning networks.

Combining computer vision with language processing allows for generating descriptions of images.

Visual question answering allows algorithms to understand and answer questions about images.

AI applications in the medical field, such as automating blood cell counting, are showing promise.

Radiology can benefit from AI, particularly in identifying critical conditions like strokes quickly.

Motor control remains a challenge for AI, with progress slower compared to other areas.

Natural language processing (NLP) has improved significantly in text classification and understanding context.

Text summarization is an active research area, with models learning to generate coherent summaries.

Question answering in NLP is an encompassing task that requires understanding various language aspects.

AI is a tool and should be used responsibly, with consideration for its impact on society.

The quality of AI is dependent on the training data, which can introduce and amplify biases.

AI has the potential to automate basic human needs and enhance productivity, leading to a future focused on creative and empathetic tasks.

There is a need for regulations and guidelines to prevent negative effects of AI, especially in sensitive areas.

Diversity and inclusion in the AI community are important to prevent biases and ensure ethical development.

Transcripts

[Music]

I'm super excited to talk to you today

about the present and future of

artificial intelligence whenever there's

a buzzword and a complex subject matter

it's usually good to start with a

definition but it's actually a little

tricky because the definition of

artificial intelligence seems to be

constantly moving whenever we solve a

problem we don't quite call it

artificial intelligence anymore

it started with chess a lot of smart

researchers looked at other smart people

and thought well we're really good at

math and logic and playing complex games

like chess and so they started working

on those kinds of problems thinking that

once they solve them a lot of other

things will just fall into place but it

didn't quite because those were

simulated environments that didn't have

the right to the same kind of noise that

we have in the real world

so now research has actually shifted

largely from playing games which is

still an important area and can feature

some things - things that we didn't used

to consider as that much of high

intelligence just understanding spoken

words seems relatively simple we can all

do it but that was actually a really

hard problem up until 2010 when deep

learning changed it and is able to make

much more progress on this and now we

don't call it AI anymore it's just Siri

it's just a speech recognition software

but that was a really hard problem that

we weren't able to solve and there's

still some tricky issues in research in

it another area that deep learning has

made a huge amount of progress in in

recent years is computer vision namely

image classification and this is the one

time I'll try to explain a little bit to

you what these kinds of models do and

how they work one of the most important

ideas of recent years in the AI is to

have so-called end-to-end trainable

models where we take in raw input for

instance the pixels of an image and want

to predict a final output for instance

is there a cat or a dog or house or

clock in that image and so as we put

that raw input the pixels into these

models they keep trying to learn more

and more complex representations so as

they

start looking at the pixels the first

layer might only identify simple edges

and blobs which actually turns out to

also have good correlation to the early

visual cortex in the human brain but

then as they go to the next layer they

combine these blobs and colors and edges

to more complex textures and then as

they go further and deeper into these

different layers they'll identify object

parts and eventually combine those

object parts to identify full objects

and that was really really hard and

initially people tried to manually

identify oh if there's a cat then maybe

their whiskers here then this might

improve to increase the probability of a

cat and things like that and now this

entire process all these visualizations

that you see here on this slide they're

all learned automatically just by giving

it a lot of supervised data here's an

image and it's pixels here's the output

that we care about

now we've actually been able to combine

in computer vision even with some

language processing and we can do quite

amazing things in the last couple of

years here you see a visualization of a

recent paper of collaborators of mine

where we color code where the algorithm

is paying attention to as it's trying to

generate a description of an image so

you have a little girl sitting on a

bench holding an umbrella and you see

that indeed when it's generating the

word girl it is looking at the girl when

it's generating the bench it is focusing

its attention on bench or a zebra

standing next to a zebra in a dirt field

these are very factual descriptions

we're not gonna get very interesting

ones from them but indeed the first

zebra it's focusing its attention on is

the one in the foreground and then to

the next zebra it's actually the one in

the background and you see that color

coded too so computer vision algorithms

have gotten a lot more sophisticated and

actually also telling us a little bit

where they're paying attention to as

they're trying to translate from visual

data into text it gets even further we

can also do so-called visual question

answering this is an interesting task

where you basically as training data

give it an image a question and an

answer and now you want to probe the

algorithm you can ask it lots of the

some kinds of questions about an image

and you see if it still gets dried or

not so the example here at the top what

color are the bananas is a good one

because if you didn't know the image in

90% of the cases you'd probably be

correct just saying yellow without the

image but we have here the visualization

also of where the algorithm is paying

attention to as it's trying to answer

this particular question and it's

actually focusing its attention on the

brighter areas in that image and

realizes those bananas are actually

green and gives the correct answer

another fun one what is the pattern on

the cat's fur on its tail it actually

focuses most of its attention again in

that bright area on the cat's tail and

correctly identifies this as striped and

another fun example what is the boy

holding it's actually figuring out based

on the question that you now need to

focus your attention on the arm and the

object below the arm and correctly

classifies this as surfboard so those

are some of the great applications that

we're now able to do as long as we have

enough training data about a certain

domain if you never show at a baseball

image and it's training time it won't be

able to answer any questions about

baseball they actually even more

powerful applications that we can now do

with computer vision one of the ones

that I'm very excited about as in the

medical field particular oncology this

is a small start-up a felis that

actually is automating blood cell

counting so you can make it very small

pricking your finger and you can count

blood cells with the same kind of

architecture as the one I showed you

before it's a convolutional neural

network and now that you make this so

cheap this used to cost a couple hundred

dollars to have people actually sit

there and for each blood sample count

how many red or white blood cells they

are now that you can make this much

cheaper you can prove oncology care you

can identify infections and help

patients with leukemia and so on in

general I think radiology will also have

a huge impact with AI the problem with

radiology is that we need a lot of

trained data because unlike in a blood

scan or pathology scan you're looking

for a thousand different things that

could be wrong in a head CT

a scan and it will take us a while

before we could automate that entire

process so for a very long time

AI will work together with radiologists

to improve that process and in fact we

already know that we can identify

certain things that can very quickly

kill you so for instance a stroke or a

so called intracranial hemorrhage brain

bleeds those we can identify very

quickly and then without knowing all the

other things that might be wrong in a

head CT scan we can put those to the top

of the queue in an emergency room

setting and that can already save lives

now we talked about computer vision and

speech recognition as two successes of

AI there's actually still some areas

that we're struggling with and that is

motor control this is a DARPA Grand

Challenge and a bunch of examples of

some very expensive robots that are

trying to walk around open doors turn

levers and things like that and as you

can see we're still quite far away as a

community in fact you could say that

we're not even at the level of Abby yet

when it comes to motor control abby is

actually quite complex has a million

neurons it needs to identify a lot of

different paths and so on and we're not

there yet so that is a very active area

of research one of the most interesting

manifestations of human intelligence I

think is language and in language making

a huge amount of progress right now but

there's still a lot of ways to go so

here's an example I think we could bed

do better now but this is from 2011 when

folks realized that whenever Anne

Hathaway famous actress won a couple of

Oscars starred in a movie the reviews

came out all the sudden the stocks for

the company Berkshire Hathaway go up a

significant amount so it was already

clear in 2011 people were trying to use

natural language processing for

algorithmic trading and in this case

made the mistake of so-called entity

disambiguation they disambiguated a

Hathaway to the company instead of the

actress and then made pretty substantial

monetary decisions

where we have gotten better an NLP is

actually on just text classification in

fact here are a couple of examples of

sentences that up until two years ago

pretty much every algorithm out there

would have incorrectly classified the

first sentence is in its ragged cheap

and unassuming way the movie works so

traditional algorithms would have said

well it's ragged and cheap so it's

probably negative sentence because they

haven't had the ability to capture the

whole context but now and what you see

here is we actually have two passes over

that sentence and in the second pass the

algorithm focuses much more on works the

movie actually working despite its flaws

so it correctly classified this as

positive and the second one is the

opposite kind of example the best way to

hope for any chance of enjoying this

film is by lowering your expectations

again a kind of example that is quite

tricky because algorithms in the past

would just look at single words and has

best and hope and chance and enjoying

such a positive sentence yet you can

only get there if you already think the

movie is pretty crappy so those are

examples that we can now do largely

because of advances also again in deep

learning there's some active areas of

research that we still work on and one

of them is text summarization it's

actually a really tricky problem pretty

much every natural language processing

in a model that you've seen in the past

only can generate at most a sentence

coherently once tried when we tried as a

community to generate longer sequences

fully automatically in this end-to-end

deep learning models which usually

didn't do very well so this is a result

from just a couple of months ago where

our group worked on summarization and

you see here at the bottom a longer

document and at the top you see the

summary and what's fascinating here is

that it actually the summarization

algorithm learned to some cases copy and

paste particular words sometimes entire

phrases but sometimes it also picks and

chooses which words to pick from which

area of the longer document in order to

generate the summary in many cases

actually generates coherent longer

document summarize summaries and as the

summary correctly says to do this really

well still remains an open research

problem one of the areas of NLP that I'm

personally most excited about is

question answering because you can

actually think of question answering as

a task that encompasses pretty much

every other NLP task you can ask what is

the translation of the sentence into

French you can ask what is the sentiment

you can ask what is the summary right in

some ways everything becomes a question

answering problem if you have a really

powerful question answering model and so

here we worked on this regrade data set

that stanford collected called squad

with stanford question answering data

set that takes lots of wikipedia

articles and then asks crowd workers to

collect questions and then also

different guard workers to collect the

answers and the models that you now see

that dwell on this task are much more

complex than a model I showed you in the

beginning that had the same kind of

layer just learning more abstract

representations language by itself also

seems to require a lot of distributed

computing in our brain that takes a lot

of different parts and elements now what

makes me really excited and looking

forward to this to the next couple of

years is the number of people that are

now entering the field it's there's a

lot of excitement in AI and just in a

class I echo talked with Chris Manning

earlier this year we had over 660

students at Stanford attending that

class even though it's a graduate level

class and there are hundreds of

thousands of views on YouTube of pretty

technical material and that is very

exciting but as we see AI actually

working we have to acknowledge also that

it's just a tool and it will stay a tool

for the foreseeable future we don't

really have to worry about Skynet or

terminator kinds of scenarios but what

is important is to understand that tools

can be used in good ways and in bad ways

in some ways AI is just like the

internet or hammer or cars and you can

use them as weapons or you can use them

to transport sick people and it's

important for us to acknowledge that

the tools are only as good as the people

and the political systems that end up

using them in fact if we use them well I

think AI and especially AI power

language capabilities will allow us to

improve our communication pretty sure we

can eventually have the Babel Fish in

the next couple of years where we talk

in one language and we listen in another

one coming live at the other end we can

improve access to information question

answering is a great example for that

and in general make work much more

efficient in fact I think we'll be able

to automate most of the basic human

needs like food we can automate farming

with computer vision and some simpler

robotic control we can build houses

automatically and so on I think in the

end as human intelligence and

productivity gets enhanced I hope that

that will lead us to a future where we

can focus on unique and creative tasks

and those kinds of tasks that require

empathy and where we care for each other

and we can basically automate a lot of

the boring treachery that is out there

what's important to acknowledge is that

AI is only as good as a training data

that we give it if your training data is

sexist or racist then the I will pick

those patterns up and in some cases

repeat them or even amplify them so as

we're applying AI to more and more

different areas in simple things like

loan applications but also more complex

things like the financial system or the

judicial system and medical applications

and political advertisement and so on

they I will eventually be in all of

these areas I think it's important that

we think about regulations or at least

guidelines to prevent the negative

effects that could happen and that may

have already been in our training data

and lastly it's not just the data that

might have biases is also the communion

itself and the IEEE community right now

it's actually quite aware that we have a

diversity issue and that is some

that we continue to work on all right

thank you

[Applause]