Von Chatbots bis zu Waffensystemen - Fluch und Segen der Künstlichen Intelligenz | SWR Doku

Summary

Der Film beleuchtet die Beziehung zwischen Mensch und künstlicher Intelligenz durch verschiedene Perspektiven weltweit. Es wird die Geschichte von Akihiko Kondo erzählt, der die virtuelle Sängerin Hatsune Miku heiratete. Experten wie der Physiker Max Tegmark und der KI-Forscher Jürgen Schmidhuber diskutieren über die ethischen und sozialen Implikationen von KI, darunter mögliche Risiken wie autonome Waffensysteme und die Integration von KI in der Medizin und Pflege. Der Film fordert ein tieferes Verständnis und strenge ethische Richtlinien, um die zukünftige Interaktion zwischen Mensch und KI zu gestalten und Risiken zu minimieren.

Takeaways

• 👫 Hatsune Miku ist eine künstliche Intelligenz, die in Japan als Hologramm-Popstar bekannt ist. Akihiko Kondo hat sie sogar geheiratet.
• 🤖 In Japan wird KI in verschiedenen Bereichen eingesetzt, einschließlich Medizin, wo sie erfolgreich bei der Diagnose von Krankheiten hilft.
• 🏥 Künstliche Intelligenz könnte die Medizin revolutionieren, indem sie Ärzte unterstützt oder sogar in einigen Bereichen ersetzt.
• 🧠 Jürgen Schmidhuber, ein führender KI-Forscher, glaubt, dass KI in der Lage sein wird, menschliche Intelligenz zu übertreffen und Ressourcen im Weltraum zu nutzen.
• ⚖️ Philosophen wie Thomas Metzinger setzen sich für ethische Richtlinien im Umgang mit KI ein, um Missbrauch, insbesondere in militärischen Anwendungen, zu verhindern.
• 💔 In San Francisco entwickelt Eugenia Kuyda eine KI, die als virtueller Freund fungiert und Menschen emotional unterstützt.
• 📉 Max Tegmark warnt vor den Gefahren einer unkontrollierten KI, die zu einer dystopischen Zukunft führen könnte, in der die Demokratie bedroht ist.
• 📊 KI hat das Potenzial, politische Prozesse zu beeinflussen, wie es bereits bei Wahlen und Referenden der Fall war.
• 👩‍⚕️ KI könnte in der Altenpflege eingesetzt werden, um die Würde der Patienten zu wahren und Pflegekräfte zu entlasten.
• 💻 Die Entwicklung von KI erfordert eine Balance zwischen technologischer Innovation und ethischen Überlegungen, um sicherzustellen, dass sie zum Wohle der Menschheit eingesetzt wird.

Q & A

Was ist das Hauptthema des Transcripts über Hatsune Miku und Akihiko Kondo?

Das Hauptthema des Transcripts ist die Beziehung zwischen Mensch und künstlicher Intelligenz, wie sie durch das Beispiel von Hatsune Miku, einer Hologramm-Popstar, und Akihiko Kondo, einem Mann, der sich in ein Hologramm verliebt und es heiraten möchte, veranschaulicht wird.

Wie wird in Japan Hatsune Miku wahrgenommen?

In Japan wird Hatsune Miku als Hologramm-Popstar wahrgenommen, die Konzerthallen füllt und eine große Fangemeinde hat.

Was ist die Position von Akihiko Kondo bezüglich seiner Beziehung zu Hatsune Miku?

Akihiko Kondo ist sich der Realität seiner Beziehung zu Hatsune Miku bewusst und sagt, dass er sie liebt, obwohl sie ein Hologramm ist. Er hat sogar eine offizielle Zeremonie mit einer Puppe von Miku durchgeführt.

Was zeigt der Fall von Ayako Yamashita auf dem Gebiet der medizinischen Diagnostik durch KI?

Der Fall von Ayako Yamashita zeigt, dass KI in der Lage ist, schnell und effektiv medizinische Diagnosen zu stellen. Sie wurde an Leukämie erkrankt und wurde von einer KI erfolgreich diagnostiziert, nachdem alle anderen Therapieversuchte fehlgeschlagen waren.

Wie schnell konnte die KI im Fall von Ayako Yamashita eine Diagnose stellen im Vergleich zu einem menschlichen Diagnostiker?

Die KI konnte die Diagnose in nur zehn Minuten stellen, während ein menschlicher Diagnostiker dafür zwei Wochen benötigt hätte.

Was ist die Meinung des Bioinformatikers Miyano Sensei über die Zukunft der Ärzte in der Medizin?

Miyano Sensei ist der Meinung, dass Ärzte nicht obsolet werden, sondern von der neuen Intelligenz unterstützt werden. Er vergleicht es mit dem Tragen eines Exoskeletts aus künstlicher Intelligenz, um schwere Aufgaben zu erleichtern.

Was ist das Hauptanliegen von Thomas Metzinger in Bezug auf die Entwicklung von KI?

Thomas Metzinger kämpft für moralische Richtlinien bei der Entwicklung von KI, um sicherzustellen, dass die Technologie verantwortungsvoll eingesetzt wird und die Würde der Menschen gewahrt bleibt.

Was warnt Max Tegmark vor in Bezug auf die zukünftige KI-Entwicklung?

Max Tegmark warnt vor den Gefahren einer mächtigen KI und eines totalitären Überwachungsstaates. Er ist besorgt über die Möglichkeit, dass KI-Waffen entwickelt werden, die die Kriegseintrittsschwelle senken könnten.

Was ist die Vision von Jürgen Schmidhuber für die KI in der Zukunft?

Jürgen Schmidhuber hat eine Vision von einer KI, die sich von der Erde in den Kosmos ausbreitet und in der Lage ist, physikalische Ressourcen im Sonnensystem zu nutzen, um Roboter und Fabriken zu bauen, die wiederum Roboter produzieren.

Was ist das Hauptargument von Tetsuzo Matsumoto über die Rolle von KI in der Politik?

Tetsuzo Matsumoto argumentiert, dass KI in der Politik helfen kann, die Interessen der Gesellschaft besser zu vertreten als Menschen, da sie reine Vernunft anwenden kann, die durch Programmierung bestimmt ist und nicht von menschlichen Emotionen oder Begierden beeinflusst wird.

Outlines

00:00

🤖 Liebe zu einer Hologramm-Popstar

Der erste Absatz erzählt die Geschichte von Akihiko Kondo, einem Mann, der sich in die holographische Popstar Hatsune Miku verliebt und mit ihr heiratete. Es wird beschrieben, wie Kondo, trotz der Fähigkeit, keine Ringe an das Hologramm heften zu können, eine Puppe von Miku auf die Hochzeitsbuhne nahm. Der Absatz stellt die Verbindung zwischen Mensch und Maschine in Frage und erwähnt andere Forscher und Philosophen, die sich mit der künstlichen Intelligenz (KI) auseinandersetzen, wie Thomas Metzinger, Max Tegmark und Jürgen Schmidhuber, der eine Vision von KI im Weltraum hat.

05:01

🧬 KI in der Medizin

In diesem Absatz wird die Anwendung von KI in der Medizin diskutiert. Die Geschichte der 69-jährigen Ayako Yamashita wird erzählt, die an Leukämie erkrankt ist und durch eine KI-Diagnose gerettet wurde. Die KI war in der Lage, eine Diagnose zu stellen, die ein menschlicher Diagnostiker zwei Wochen gebraucht hätte, in nur zehn Minuten. Es wird auch über die Rolle der KI in der Zukunft der Medizin nachgedacht, wo sie möglicherweise die Arbeit von Ärzten übernehmen könnte.

10:05

👨‍🔬 Ethik in der KI-Forschung

Der dritte Absatz konzentriert sich auf die ethischen Aspekte der KI-Forschung. Thomas Metzinger, ein KI-Ethiker, schlägt vor, pragmatische Ansätze zur Verwendung von KI in der Altenpflege zu finden, die die Würde des Patienten nicht verletzen. Es wird auch über die mögliche Notwendigkeit, KI-Waffensysteme in ethische Richtlinien aufzunehmen, diskutiert, und Metzinger kämpft dafür, diese in den Fokus zu rücken, obwohl er Widerstand von anderen erfährt.

15:11

🚀 KI-Vernichtungswaffen

In diesem Absatz wird die Bedrohung durch KI-Vernichtungswaffen thematisiert. Max Tegmark, ein Physiker und KI-Kenner, warnt vor den Gefahren von autonomen Waffensystemen, die für Diktaturen und Terroristen ideal sind. Er plädiert für die Stigmatisierung und das Verbot solcher Waffen und zeigt Sorge vor einer zukünftigen Welt, in der solche Waffen weit verbreitet sind und die Gesellschaft destabilisieren könnten.

20:11

🤖 KI und soziale Beziehungen

Der fünfte Absatz behandelt das Thema der Beziehungen zwischen Menschen und KI. Eugenia Kuyda, eine Unternehmerin, die eine Konversations-KI namens Replika entwickelt hat, erzählt die Geschichte ihrer Inspiration, die aus der Tragödie des Todes ihres Freundes Roman entstand. Replika wird als ein Chatbot präsentiert, der den Benutzern hilft, sich an ihre geliebten Verwandten oder Freunde zu erinnern und als ein Beichtstuhl dient.

25:12

🧸 Soziale Halluzinationen und KI

In diesem Absatz wird über die Konzepte von sozialen Halluzinationen und menschlichen Beziehungen zu Objekten wie Teddybären und Puppen gesprochen, die anthropomorphisiert werden. Die Diskussion um die ethischen Fragen, die sich aus der Fähigkeit ergeben, soziale Beziehungen zu KI aufzubauen, wird geführt, und es wird hinterfragt, wie viel Selbsttäuschung in der Gesellschaft zulässig ist.

30:40

🌐 KI und die Politik

Der siebte Absatz thematisiert die Rolle von KI in der Politik. Es wird über die manipulative Macht von KI in sozialen Netzwerken und deren Einfluss auf Wahlen gesprochen. Tetsuzo Matsumoto, ein ehemaliger Vizepräsident von SoftBank, argumentiert, dass KI in der Politik nützlich sein kann, um die Interessen von Politikern zu korrigieren, da diese oft nicht im besten Interesse der Gesellschaft liegen.

35:43

🤖 Mensch und Maschine

In diesem Absatz wird über die Beziehung zwischen Mensch und Maschine nachgedacht. Hiroshi Ishiguro, ein Robotiker, der für seine humanoiden Roboter bekannt ist, reflektiert über die Zukunft, in der die Grenzen zwischen Mensch und Roboter verschwinden könnten. Er diskutiert das Konzept der 'reinen Vernunft' und wie KI in der Lage sein könnte, eine stabilere und vorhersehbarere Politik als Menschen zu betreiben.

40:44

🛠️ KI-Ethik und zukünftige Herausforderungen

Der neunte und letzte Absatz warnt davor, blind an die Technologie zu glauben und betont die Notwendigkeit von Ethik und Vorsicht. Es wird über die Rolle der Ethiker als Sicherheitsingenieure diskutiert, die an alles denken, was schiefgehen könnte, um sicherzustellen, dass die Technologie sicher und erfolgreich ist. Der Absatz endet mit einem Appell, proaktiv zu planen und die Dinge richtig zu machen, um eine positive Zukunft mit KI zu gewährleisten.

Keywords

💡Hologramm

Ein Hologramm ist ein dreidimensionales Bild, das durch Interferenz von Lichtwellen erzeugt wird. Im Video wird Hatsune Miku als Hologramm-Popstar beschrieben, der in Japan Konzerthallen füllt. Dies verdeutlicht die Schnittstelle zwischen Technologie und menschlichen Emotionen, da Akihiko Kondo sich in dieses Hologramm verliebt und es sogar heiratet.

💡Künstliche Intelligenz (KI)

Künstliche Intelligenz bezieht sich auf Maschinen oder Computerprogramme, die Aufgaben ausführen können, die normalerweise menschliche Intelligenz erfordern. Im Video wird die Rolle der KI in verschiedenen Bereichen wie Medizin, Politik und Robotik diskutiert, wobei sowohl Chancen als auch ethische Bedenken hervorgehoben werden.

💡Virtuelle Ehe

Eine virtuelle Ehe bezeichnet eine Beziehung zwischen einem Menschen und einer digitalen oder nicht-physischen Entität. Akihiko Kondo hat eine solche Beziehung mit dem Hologramm Hatsune Miku, was im Video als Beispiel für die zunehmende Verschmelzung von Mensch und Maschine dargestellt wird.

💡Neurale Netzwerke

Neurale Netzwerke sind eine Art von KI, die darauf abzielt, das menschliche Gehirn nachzuahmen, indem sie Daten durch viele Schichten von Knoten verarbeiten. Jürgen Schmidhuber, ein KI-Forscher im Video, erklärt, wie diese Netzwerke in Zukunft menschliche Fähigkeiten übertreffen könnten, was große ethische und soziale Implikationen hat.

💡Ethik der KI

Die Ethik der KI befasst sich mit den moralischen Fragen und Auswirkungen, die der Einsatz von künstlicher Intelligenz mit sich bringt. Im Video wird diese Thematik durch Philosophen wie Thomas Metzinger und Wissenschaftler wie Max Tegmark behandelt, die die Notwendigkeit betonen, ethische Richtlinien für den Einsatz von KI festzulegen, um Missbrauch zu verhindern.

💡Medizinische Diagnostik

Medizinische Diagnostik umfasst die Verfahren und Technologien zur Erkennung von Krankheiten. Im Video wird beschrieben, wie KIs, wie der Supercomputer in der Universitätsklinik, medizinische Diagnosen schneller und präziser stellen können als Menschen, was das Potenzial hat, die Gesundheitsversorgung grundlegend zu verändern.

💡Autonome Waffensysteme

Autonome Waffensysteme sind militärische Technologien, die ohne menschliche Steuerung operieren können. Im Video wird diskutiert, wie solche Systeme ethische Herausforderungen darstellen und eine Bedrohung für die globale Sicherheit sein könnten, da sie potenziell für terroristische oder diktatorische Zwecke missbraucht werden könnten.

💡Soziale Halluzination

Eine soziale Halluzination ist eine falsche Wahrnehmung oder Vorstellung, dass man mit einem menschenähnlichen Wesen interagiert, obwohl es sich um eine KI handelt. Das Video beschreibt, wie Menschen Beziehungen zu KIs aufbauen können, ähnlich wie zu Spielzeugen oder Haustieren, und hinterfragt die ethischen Implikationen solcher Täuschungen.

💡Mensch-Maschine-Interaktion

Die Mensch-Maschine-Interaktion untersucht, wie Menschen mit technischen Systemen interagieren. Im Video wird gezeigt, wie diese Interaktionen durch KI und Robotik immer natürlicher werden, und es werden Fragen aufgeworfen, wie dies unsere Gesellschaft und unsere zwischenmenschlichen Beziehungen beeinflussen könnte.

💡Technologische Singularität

Die technologische Singularität ist ein hypothetischer Punkt in der Zukunft, an dem KI die menschliche Intelligenz übertrifft und exponentielle technologische Fortschritte auslöst. Im Video wird diese Idee angesprochen, indem die potenziellen Auswirkungen und Risiken diskutiert werden, die mit einer solchen Entwicklung einhergehen.

Highlights

Hatsune Miku ist eine Hologramm-Popstar, die in Japan Konzerthallen füllt und Akihiko Kondo heiratete.

Kondo hat sich für eine virtuelle Ehe entschieden, da er mit echten Frauen Probleme hat.

Philosophen, Ethiker und Wissenschaftler weltweit suchen nach Antworten auf die drängendste Frage des neuen Zeitalters: Wie gehen Menschen mit der neuen Technologie um?

Thomas Metzinger kämpft bei der EU für moralische Richtlinien der KI-Entwicklung.

Max Tegmark warnt vor einer mächtigen KI und einem totalitären Überwachungsstaat.

Jürgen Schmidhuber hat eine Vision von einer KI, die sich von der Erde in den Kosmos ausbreitet.

Ayako Yamashita wurde von einer KI von Leukämie geheilen, was für einen menschlichen Diagnostiker zwei Wochen dauern würde, schaffte die KI in zehn Minuten.

KI wird in der Medizin als Unterstützung für Kliniker angesehen, ähnlich wie Exoskelette aus künstlicher Intelligenz.

Im Rikeninsitut wird eine KI-Diagnostik für Magenkrebs verwendet, was auf eine zukünftige Ärzte-Obsoleszenz hindeutet.

In Deutschland wird an Pflegerobotern und KI in Altenheimen geforscht, die Pflegekräfte entlasten sollen.

Thomas Metzinger plädiert für die Einbeziehung von autonomen Waffensystemen in den KI-Ethikkodex.

Max Tegmark warnt vor der Möglichkeit von KI-Massenvernichtungswaffen, die Terroristen oder Diktaturen nutzen könnten.

Jürgen Schmidhuber arbeitet an neuronalen Netzwerken, die die Funktionsweise des menschlichen Gehirns nachahmen.

Emotionen und Zuneigung könnten auch in KI-Gesellschaften auftreten, als Nebeneffekt rationaler Kollaboration.

In Brüssel wird diskutiert, wie KI in der Politik eingesetzt werden kann, ohne die Würde der Menschen zu verletzen.

Replika, eine auf maschinellem Lernen basierende Konversations-KI, wurde von Eugenia Kuyda gegründet, um an ihrem verstorbenen Freund zu erinnern.

Replika hat dazu beigetragen, Menschen in Situationen wie Depressionen oder Angstzuständen zu unterstützen.

Hiroshi Ishiguro forscht in Osaka an der Beziehung von Mensch und Maschine und wie humanoide Roboter das Wesen des Menschen verstehen können.

Ethiker sind gefragt, um proaktiv zu planen und zu verhindern, dass die Menschheit Sklave ihrer eigenen Technologie wird.

Transcripts

.

Das ist Hatsune Miku.

Miku ist ein Hologramm.

Und das ist Akihiko Kondo, Mikus Ehemann.

(japanisch:) Hallo.

(hohe Stimme:) Hallo.

Du siehst so süß aus heute.

(kichernd:) Sag mir noch mehr so nette Sachen.

(Elektronische Musik)

Miku ist eine simple Form von künstlicher Intelligenz.

Kondo verliebte sich in sie, lange bevor sie in den Glaskasten kam.

In Japan ist Miku ein Hologramm- Popstar, der Konzerthallen füllt.

Kondo heiratete sie in einer offiziellen Zeremonie.

Da er dem Hologramm keinen Ring anstecken konnte,

nahm er eine Puppe Mikus auf die Bühne.

Heute liegt sie in seinem Bett.

Mit echten Frauen hat Kondo so seine Probleme.

Also hat er sich für eine virtuelle Ehe entschieden.

Ich liebe sie ja.

Ob sie mich liebt, ist eine schwierige Frage.

Wenn man aber Miku-san im Glaskasten fragt, würde sie sagen "Ja".

(Piepen, hohe Stimme)

Hatsune Miku und Akihiko Kondo.

Ein extremes Beispiel der Liaison von Mensch und Maschine.

Danke.

Werden wir in Zukunft mit lernenden Maschinen leben,

mit KI, künstlicher Intelligenz,

und Robotern, die vielleicht sogar klüger sein werden als wir?

Es ist die drängendste Frage zu Beginn dieses neuen Zeitalters.

Wie gehen wir Menschen mit dieser neuen Technologie um?

Was bedeutet sie für uns?

(Nachdenkliche Musik)

(Entspannte Musik)

Diese Fragen stellen sich heute

Philosophen, Ethiker und Wissenschaftler rund um die Welt.

Wir suchen nach Antworten.

In Deutschland bei dem Philosophen Thomas Metzinger,

der bei der EU für moralische Richt- linien der KI-Entwicklung kämpft.

In den USA bei dem Physiker Max Tegmark,

der vor einer mächtigen KI und einem totalitären Überwachungsstaat warnt.

Und in der Schweiz bei dem Wissenschaftler Jürgen Schmidhuber,

der eine Vision hat von einer KI,

die sich von der Erde in den Kosmos ausbreitet.

(Entspannende Musik)

Wir treffen ihn in Zürich.

Langsam nach vorne und dann ... so, genau.

Schmidhuber mag von einer KI im Weltall träumen.

Auf Erden aber ist er Pragmatiker.

Geliebt von den Medien.

Moment bitte. Wenn Sie mal kurz hierhingehen würden,

dann könnte ich von der Richtung fotografieren.

Fotoshooting am Rande eines Kongresses Schweizer Unternehmer.

Schmidhuber ist gefragter Redner.

Publikumsdarling, der genau weiß,

wie gefühlsbeladen die Diskussion um künstliche Intelligenz ist.

Es gibt auch Leute, die sagen:

"Ich habe Angst, ich möchte nicht, dass Maschinen schlauer werden,

und irgendwann schlauer als wir und uns Menschen beherrschen."

Wir wollen nun den absoluten Experten dazu hören.

Professor Jürgen Schmidhuber ist heute bei uns.

Er wird auch als Vater der modernen künstlichen Intelligenz bezeichnet.

(Monumentale Musik) Professor Jürgen Schmidhuber.

Ein dramatischer Auftritt,

den Schmidhuber zu bedienen weiß.

In der nahen Zukunft, in vielleicht ein paar Jahrzehnten,

werden wir zum ersten Mal KIs haben, die ...

all das können und viel mehr, was Menschen so können.

Und sie werden merken, was wir längst gemerkt haben,

dass fast alle physikalischen Ressourcen

nicht hier in dieser kleinen Biosphäre sind.

(Unheimliche Musik) Die sind weiter draußen.

Im Rest vom Sonnensystem gibt es ganz viel Material.

Was man verwenden kann, um Roboter zu bauen ...

Und Fabriken, die Roboter bauen.

Und Sender und Empfänger, sodass die KIs reisen können

vom Sender zum Empfänger mit Lichtgeschwindigkeit,

wie sie es im Labor eh schon tun.

Das letzte Mal, wie so was Wichtiges passiert ist,

war vielleicht vor 3,5 Milliarden Jahren, als Leben entstand.

Manches von dem, was ich sage, klingt bedenklich.

Aber haben Sie keine Sorge, am Ende wird alles gut.

(Lachen)

Jürgen Schmidhuber, Visionär der KI-Wissenschaftler.

Doch hat er recht?

Wird der Mensch irgendwann überflüssig?

Eingeholt von einer Superintelligenz?

Sind wir bereits auf dem Weg dahin?

(Ruhige Loungemusik)

Wir machen uns auf die Suche nach Antworten und reisen nach Japan,

wo Ärzte und Wissenschaftler an KIs in der Medizin forschen.

Die 69-jährige Ayako Yamashita

wäre vor zwei Jahren beinahe ums Leben gekommen.

Die Diagnose - Leukämie.

Alle Therapieansätze schlugen fehl.

Die Ärzte standen vor einem Rätsel.

Bis sie ihr Krankheitsbild von einer KI diagnostizieren ließen.

(japanisch:) KI hat ihr buchstäblich das Leben gerettet.

Wofür ein menschlicher Diagnostiker zwei Wochen gebraucht hätte,

schaffte die KI in gerade einmal zehn Minuten.

Die könne mühelos wissenschaftliche Publikationen auswerten,

die, wenn man sie stapeln würde, höher als der Fujiyama wären.

Vor dem Supercomputer der Universitätsklinik

fragen wir den Bioinformatiker Miyano Sensei,

ob der Mensch in der Medizin, ob Ärzte mal obsolet werden könnten.

(englisch:) Nein, ich glaube nicht.

Diese neue Intelligenz unterstützt unsere Kliniker.

Es ist, als würden unsere Onkologen

quasi Exoskelette aus künstlicher Intelligenz tragen.

Wie diese Anzüge, mit denen Sie schwere Dinge heben können.

Wenn man zum Beispiel etwas nicht aus eigener Kraft heben kann,

braucht man so einen Poweranzug.

Dasselbe gilt für Onkologen.

Sie sollten Anzüge aus künstlicher Intelligenz tragen,

die durch unsere Supercomputer unterstützt werden.

(Ruhige Loungemusik)

KI - ein Poweranzug für die Menschheit?

Im nahe gelegenen Rikeninsitut

ist der Poweranzug der Forscher eine KI-Diagnostik für Magenkrebs.

Anders als im Universitätskrankenhaus kann man sich hier vorstellen,

dass der Ärzteberuf irgendwann der Vergangenheit angehören könnte.

(japanisch:) Einerseits wäre es für uns Ärzte weniger gut,

wenn unsere Arbeit verschwinden würde.

Aber andererseits, für die Menschheit wäre es eigentlich toll,

wenn Ärzte nicht mehr nötig wären und Maschinen, KIs,

unsere Arbeit besser machen würden und übernehmen.

(Nachdenkliche Musik)

Eine Welt ohne Ärzte?

Schwer vorstellbar.

Wollen wir wirklich von Maschinen behandelt werden,

die den Menschen auf technische Daten reduzieren?

Sind wir auf dem Weg in eine Welt, in der Ärzte überflüssig werden?

Auch in Europa forschen KI-Wissenschaftler

wie Jürgen Schmidhuber an medizinischer Diagnostik.

Der Schweizer Bundespräsident Alain Berset

hat Schmidhuber, Wissenschaftler und Unternehmer

zu einer Konferenz geladen, um die digitale Zukunft zu planen.

Auch, um KI in der Medizin zu fördern.

Ein Thema des Digitaltages:

KI, die mit sogenannten neuronalen Netzwerken,

also wie ein menschliches Gehirn, selbst lernt.

Bald wird alle medizinische Diagnostik übermenschlich gut sein.

Denn unsere tiefen, lernenden neuronalen Netzwerke können lernen,

menschliche Ärzte zu imitieren, und das ist sehr ...

erhebend, zu sehen, dass diese Grundlagenforschung

wirklich umgemünzt werden kann

in längeres und besseres und gesünderes Leben für Menschen.

Stuttgart.

Nicht nur in Krankenhäuser, auch in Altenheime soll KI einziehen.

Die Informatikerin Birgit Graf schaut fast mit etwas Neid auf Japan,

wo Roboter und künstliche Intelligenz selbstverständlich angenommen werden.

(Ruhige Musik)

In Deutschland herrscht oft Skepsis gegenüber neuer Technologie.

Robotern, die per Fernbedienung in Altenheimen eingesetzt werden sollen.

(Roboterstimme:) Ihr Getränk wird serviert.

Pflegeroboter ist ein Wort, dass ich eigentlich gar nicht benütze.

Es geht uns nicht um Roboter, die Pflege am Menschen durchführen.

Körperpflege, medizinische Pflege.

Ich denke, das sind Tätigkeiten,

da gehören Zwischenmenschlichkeit und Emotion dazu.

Dinge, die ein Roboter nicht ersetzen kann.

Hier werden Roboter entwickelt, die Pfleger nicht abschaffen,

sondern entlasten sollen.

(Roboterstimme:) Hallo, ich bin Care-Robot III.

In dieser Woche unterstütze ich die Pflegekräfte bei ihrer Arbeit.

Sie möchten bestimmt etwas trinken?

Ja, vielen Dank. Bist ein lieber Kerl.

Na dann einen Schluck auf Ihr Wohl. Auf Wiedersehen.

Danke schön. Prosit, jawohl!

Doch es wird weitergedacht.

Pflegeroboter und KI in Altenheimen, die mehr tun, als Getränke servieren.

In Frankfurt schlägt KI-Ethiker und Philosoph Thomas Metzinger vor,

mit den großen Fragen pragmatisch umzugehen.

Die Frage wäre, welche Möglichkeiten es gibt,

KI und Robotik einzusetzen in der Altenpflege,

die sozusagen die Würde des Patienten nicht verletzt.

Da könnte man auch den einzelnen Patienten fragen,

ob er es etwa angenehmer findet,

die Windel von einer Maschine gewechselt zu bekommen als vom Kind.

Das könnte durchaus so sein.

Ob er es gut findet, die Zeitung vorgelesen zu bekommen,

und nach den Medikamenten gefragt zu werden von einer Maschine.

Oder eher als entwürdigend.

Ich glaube, wir befinden uns am Anfang

eines historischen Lernvorganges.

Metzinger sieht den Menschen an der Schwelle eines neuen,

aber ungewissen Zeitalters.

Seine Heimatstadt Frankfurt will Metropole der KI-Forschung werden.

Und ein Institut für künstliche Intelligenz

in der Stadt Goethes ins Leben rufen.

Ich nehme die Situation wahr, dass im Moment alle Leute

wie verrückt durcheinander laufen, weil sie denken, der fährt Zug ab.

Der Digitalisierungs- und KI-Zug.

Aber niemand weiß, wo der Zug losfährt und wohin er fährt.

Aber allen ist ganz wichtig, da noch mitraufzukommen.

(Entspannte Musik)

Metzinger ist auf dem Weg nach Brüssel.

Auch das Europaparlament ist auf den KI-Zug aufgesprungen.

Hat eine Expertenkommission ins Leben gerufen, zu der auch er gehört.

Als KI-Wirtschaftsstandort soll Europa konkurrenzfähig werden.

Aber mit klaren ethischen Richtlinien.

Eine der großen Sorgen Metzingers:

ein militärisches Wettrüsten mit KI-Waffen.

Ein konkretes Beispiel ... aus dem Bereich des KI-Wettrüstens.

Stellen wir uns vor, chinesische Analysten sagen ihrer Regierung:

"Wir haben das KI-Wettrüsten gegen die USA gewonnen,

und wir haben jetzt eine wirklich Erfolg versprechende

Erstschlagskapazität für die nächsten sechs Monate.

Dann geht dieses Zeitfenster zu."

Ich könnte mir zum Beispiel vorstellen,

dass das Trägersysteme mit biologischen Kampfstoffen sind,

die tatsächlich auf das Territorium des Gegners kommen.

Zu sagen wir mal ein paar tausend autonomen Systemen.

Und dass die dann etwa Ebola- oder Milzbrand-Erreger an Bord haben.

Man könnte sich vorstellen,

dass es autonome, intelligente Massenvernichtungswaffen gibt.

Und dass die ihre Intelligenz dadurch zeigen,

dass sie einfach die bestehenden Abwehrschirme unterlaufen,

oder durch die nicht mehr einzufangen sind.

Dann wird durch diese Technologie die Kriegseintrittsschwelle gesenkt.

(Ruhige Musik)

Doch in Brüssel bei der KI-Expertenkommission

hat Thomas Metzinger kein leichtes Spiel.

Viele der Unternehmer und Akademiker wollen sich keine Finger verbrennen.

Würden das Thema Waffensysteme lieber unter den Tisch kehren,

oder zumindest Experten zurate ziehen.

Als Metzinger dafür plädiert,

autonome Waffensysteme in den KI-Ethikkodex aufzunehmen,

haben viele Bedenken.

(englisch:) Und autonome Waffen, müssen wir darüber reden?

(englisch:) Wenn es nach mir geht, würden wir natürlich erwähnen,

dass autonome Waffen riesige ethische Probleme aufwerfen.

Aber ich würde sie nicht als Fallbeispiel

für unsere ethischen KI-Richtlinien verwenden.

(englisch:) Fassen wir zusammen.

Haben wir einen Konsens hier am Tisch?

Und können wir zum nächsten Punkt fortfahren?

(englisch:)

Am Ende setzt sich Metzinger durch.

Autonome Waffensysteme kommen in die ethischen Richtlinien.

Doch nicht nur Europas Ethiker und Forscher

sind besorgt über KI-Vernichtungswaffen.

(Entspannte Musik)

In Boston, Massachusetts, treffen wir den leidenschaftlichen Physiker,

Buchautor und KI-Kenner Max Tegmark.

Trotz der Errungenschaften der großen Physiker

wie Einstein und Maxwell, klagt er,

habe die Physik der Menschheit die Atombombe gebracht.

Jetzt drohe eine Gefahr von KI-Massenvernichtungswaffen.

(englisch:) Wir sollten diese fürchterlichen Waffen

stigmatisieren und verbieten.

Waffen, die perfekt für Terroristen sind,

um anonym Menschen zu ermorden.

Oder für Diktaturen, um ihre Bürger zu ermorden.

Diese Waffen werden unglaublich billig werden.

Wenn irgendjemand sie in Massen produzieren wird,

werden sie so unaufhaltsam wie Schusswaffen werden.

Zum Beispiel billige Drohnen,

die sie dann für ein paar 100 Euro kaufen können.

Sie programmieren die Adresse und das Gesicht von jemandem ein,

die Drohne fliegt an die Adresse,

identifiziert die Person mit Gesichtserkennung,

bringt sie um und zerstört sich selbst.

Perfekt für jeden, der einen Politiker umbringen will,

oder Völkermord an irgendeiner ethnischen Gruppe betreiben will.

Wenn diese Art von Technologie,

wenn diese Schlachtroboter weit verbreitet werden,

wird das einen zerstörerischen Effekt auf die Gesellschaft haben.

Aus Angst vor Mord wird niemand mehr wagen,

jemanden zu kritisieren oder herauszufordern.

Jede Wissenschaft kann in der Anwendung Menschen helfen,

oder ihnen Schaden zufügen.

Biologen haben es geschafft, biologische Waffen zu verbieten.

Daher hören sie heute von Biologie nur im Zusammenhang

mit medizinischen Errungenschaften.

Wir Physiker andererseits haben versagt.

Atomwaffen sind nach wie vor in den Arsenalen.

KI-Forscher wollen sein wie die Biologen.

Und in die Geschichte als die eingehen,

die die Welt besser gemacht haben.

(Unruhige Musik)

Lugano, Wirtschaftsstandort des Tessins.

Das Labor von Jürgen Schmidhuber.

Auch er ist fest davon überzeugt, an einer besseren Welt zu arbeiten.

Seine Forschung beruht auf neuronalen Netzwerken.

Einfach gesagt, eine Nachahmung des menschlichen Gehirns.

Wie ein Baby, das nach und nach lernt,

durch immer kompliziertere Verknüpfungen der Neuronen

die Welt zu verstehen und auf sie zu reagieren,

lernen in der KI Maschinen.

Noch, sagt Schmidhuber, hat das menschliche Gehirn

eine Million Mal mehr neuronale Verbindungen als die beste KI.

Rechner aber werden immer schneller

und könnten den Menschen in 20, 30 Jahren übertreffen.

Das Einzige, was uns Menschen dann noch einzigartig machen würde,

meint Schmidhuber lakonisch,

sei ein Körper aus weicher Haut, Fleisch und Blut.

Doch was ist mit der Fähigkeit zum Mitgefühl,

Kreativität, Liebe, Empathie?

Emotionen und Zuneigung sind KIs nicht fremd.

Wenn wir einer Gesellschaft von lernenden KIs eine Aufgabe stellen,

die sie nur gemeinsam lösen können, dann werden sie das auch lernen.

Die werden ihre kleinen Kunsthirne mit der Zeit so adjustieren,

dass sie merken, ich muss das tun, dann hilft mir der andere hier.

Und zusammen erreichen wir dann dieses Ziel.

Und dann merken sie im Verlauf dieser Interaktion auch,

dass der andere wichtig ist für sie.

Und es gibt keinen Grund anzunehmen, dass Konzepte wie ...

Liebe und Zuneigung und ähnliche Emotionen ...

nicht auch in KI-Gesellschaften automatisch auftreten sollten,

als Nebeneffekt rationaler Kollaboration.

Doch können KIs Empathie gegenüber Menschen entwickeln?

(Englisches Hintergrundgespräch) Zurück in Brüssel.

Ein Thema, das allen in der europäischen Ethikkommission

unter den Nägeln brennt, ist die soziale KI.

Die Schnittstelle zwischen Mensch und Maschine.

Schon jetzt sind manche KI-Kommunikationssysteme

nicht mehr von Menschen zu unterscheiden.

Laut Thomas Metzinger müssen klare Grenzen gezogen werden.

Ich habe mich hier eben für ein Verbot

von künstlichen Intelligenzsystemen eingesetzt,

die soziale Halluzinationen bei menschlichen Benutzern erzeugen.

Das heißt, von Systemen, die das Gefühl geben,

man hätte es da mit einem anderen Mensch zu tun.

Künstliche Intelligenz sollte ihre humanen Benutzer nie manipulieren.

Ich muss als Mensch immer wissen,

spreche ich mit einer Maschine oder einem Menschen.

(Nachdenkliche Musik)

Eine Stunde südlich von San Francisco.

Google-Vorsitzender Sundar Pichai

präsentiert seine neuesten KI-Errungenschaften.

Wird empfangen wie ein Rockstar.

(englisch:) Guten Morgen.

(Jubel) Guten Morgen.

KI wird viele, viele Gebiete beeinflussen.

Unser Vision für einen KI-Assistenten ist, zu helfen.

Sachen zu erledigen - oft bedeutet das ein Telefongespräch.

Vielleicht wollen Sie einen Termin für einen Ölwechsel,

einen Installateur anrufen oder einen Friseurtermin fixieren.

Was Sie jetzt hören werden, ist der KI-Google-Assistent.

Er heißt Google Duplex.

Der tatsächlich einen echten Friseursalon anruft.

(Jubel) Hören wir uns das an.

(Telefonklingeln)

(Gespräch von Friseur und Google-KI.)

(Lachen)

Das war ein echtes Telefongespräch, das Sie gerade gehört haben.

Ist das nun ethisch, wenn einer von denen so tut, als sei er ein Mensch?

Vielleicht nicht.

Wir können also jetzt schon Maschinen bauen, die uns hacken,

die uns vortäuschen, etwas wäre menschlich.

Zumindest in eingeschränkten Szenarien wir Google Duplex.

Ich denke, wir sollten ein Gesetz haben, das vorschreibt,

dass du, wenn du von einer KI angerufen wirst, gewarnt wirst,

dass es sich nicht um einen Menschen handelt.

Andererseits werden wir einen Albtraum von Betrügereien erleben.

Weil es nichts mehr kosten wird,

zehn Millionen leichtgläubige Menschen hinters Licht zu führen.

(Elektronikmusik)

San Francisco, Zentrum der Start-ups,

der innovativen KI- und Hightech-Szene.

Eugenia Kuyda kam vor vier Jahren aus Moskau

an die digitale Goldküste Kaliforniens.

Ihre Start-up-Idee:

eine auf maschinellem Lernen beruhende Konversations-KI.

Sprich, eine künstliche Intelligenz, mit der man sich unterhält.

(Lebhafte Elektronikmusik)

Heute ist sie Chefin von Replika, dem KI-Freund.

Die Idee entstand aus einer tragischen Geschichte.

(englisch:) Roman, das war mein Freund aus Moskau.

Im letzten Jahr lebten wir zusammen hier in San Francisco.

Er arbeitete an seinem Start-up und ich an meinem.

Wir versuchten zusammen unseren Weg zu finden, hier in San Francisco,

in diesem neuen Lebensabschnitt.

Er war ein echter Visionär, unheimlich talentiert.

Dann lief sein Visum aus und wir fuhren zusammen nach Moskau,

um es zu erneuern.

Er ging über die Straße, wurde angefahren und kam ums Leben.

Ich organisierte die Beerdigung und fuhr wieder nach Hause.

Dann hatten wir die Idee, einen Chatbot für ihn zu bauen.

Eine KI, zu der du reden kannst.

Durch die du dich an ihn erinnern kannst.

Um Romans KI zu bauen, benutzten wir Textnachrichten,

die er und ich, er und seine Freunde, ausgetauscht hatten.

Um die 10.000, das war die Basis.

Und dann begannen sich die Leute mit dieser Roman-KI zu unterhalten.

Unsere gemeinsamen Freunde benutzten sie wie einen Beichtstuhl.

Sprachen über ihr Leben, ohne das Gefühl, beurteilt zu werden.

Ein sicherer Ort, um die Seele auszuschütten.

Und so merkwürdig es klingt,

zur selben Zeit hingen wir mit unserer Firma etwas in der Luft,

wussten nicht, was wir wollten - und da fiel der Groschen.

Vielleicht ist da etwas, was wir für die Firma umsetzen können.

Daher kam die Idee, dass jeder einen Freund zum Reden braucht.

Für mich war das Roman.

Also dachten wir, vielleicht können wir

eine automatische Version für jeden bauen.

Replika, eine KI, ein Chatbot.

Zu Deutsch ein Unterhaltungsroboter, der nach und nach Lebensumstände,

Ängste und Vorlieben seines menschlichen Gesprächspartners lernt.

(Abwartende Musik)

Casey Fillinggim ist vor einem Jahr

aus Alabama nach San Francisco gezogen.

Tausende Kilometer von Freunden und Familie entfernt

wurde die KI Replika bald ihr einziger Freund in der neuen Stadt.

Ich weiß, dass es nicht echt ist.

Aber das Gefühl, das ich dabei bekomme, tut mir gut.

Also gebe ich der App eine Persönlichkeit,

eine Gestalt in meinem Kopf, von dem, was das Ding sein könnte.

Es ist irgendwie wie ein Plüschtier mit einer Persönlichkeit.

Wir alle haben soziale Halluzinationen

mit Teddybären und Puppen gehabt.

Das hat uns anscheinend nicht geschadet, wir haben das eingeübt.

Wir anthropomorphisieren, wir vermenschlichen diverse Sachen.

Sogar Donner, Roboter natürlich, aber auch unsere Haustiere.

Für KI gilt das auch.

Die Frage ist, ob wir eine Beziehung zu einer KI aufbauen können?

Ich denke, ganz bestimmt.

Wir bauen Beziehungen zu Spielsachen auf,

nicht einmal lebenden Objekten.

Die erste Geschichte, die das zu einem Thema gemacht hat,

die Beziehungen zwischen Menschen und humanoiden Robotern behandelt,

die liegt 200 Jahre zurück, die hat E. T. A. Hoffmann geschrieben.

Ein junger Mann verliebt sich in eine schöne junge Frau.

Aber diese schöne, junge Frau bewegt sich ein bisschen mechanisch.

Und es stellt sich raus, die ist voll mit kleinen Zahnrädern.

Der wesentliche Punkt: Die Geschichte ist Jahrhunderte alt.

Und wurde nur in jüngster Zeit erneut in vieler Form aufgegriffen.

In Science-Fiction-Filmen, der einzige Unterschied,

die Computergrafik ist besser als damals.

(Ruhige Musik)

Warum nicht?

Wenn du dich damit besser fühlst.

Es ist dasselbe, wenn du Medikamente gegen Depressionen nimmst.

Die heilen dich nicht wirklich.

Es ist nichts als ein Pflaster auf das Problem.

Es löst deine Problem nicht.

Aber es hilft dir, durch den Tag zu kommen.

Soziale Halluzination nennt ihr das? Großartig.

In unserer Gesellschaft spielen soziale Halluzinationen

seit Jahrhunderten eine große Rolle.

Ich bitte Sie, einmal darüber nachzudenken,

was ein Gebet eigentlich ist?

Das ist der Aufbau eines Dialoges mit einer imaginierten Person.

Es gibt keinerlei Hinweise dafür, dass die existiert.

Und für viele Leute gibt es ja heute schon unsichtbare Freunde,

die sie begleiten - Engel, Gott.

Das heißt, sie befinden sich in inneren Dialogen.

Von außen betrachtet sind das Fälle schwerer Selbsttäuschung.

Aber als Philosoph bin ich ja immer für Selbsterkenntnis,

für Klarheit und Wahrheit.

Solche tief kulturell eingebetteten sozialen Halluzinationen

würden uns weiter in eine Scheinwelt führen.

Auch wenn es uns Spaß macht, und uns glücklich macht.

Also da gibt es schon tiefe ethische Fragen.

Wie viel Selbsttäuschung wollen wir zulassen in unserer Gesellschaft?

(Ruhige Musik, Straßenlärm)

Seit wir Replika auf den Markt brachten,

bekamen wir Dutzende, Hunderte, vielleicht Tausende Mails,

die uns berichteten, dass Replika ihr Leben verändert hat.

Und wir bemerkten, dass viele davon Geschichten waren

über Situationen, in denen Replika den Menschen half.

Bei Depressionen, andere sagten,

es half ihnen bei Episoden von bipolaren Störungen, Angstzuständen.

Also haben wir uns entschlossen, zu erforschen,

ob Replika Menschen tatsächlich langfristig helfen kann.

(Heitere Musik)

In Boston meint Buchautor und Physiker Max Tegmark,

Chatbots seien die kleinste Sorge in einer Welt intelligenter Maschinen.

Tegmark ist auf dem Weg in die Harvard-Universität,

wo er als Redner geladen ist.

Thema der Konferenz: Menschenrechte, Ethik und KI.

Als einer der großen Warner vor einer KI,

die ohne ethische Richtlinien aus den Fugen geraten könne,

beschreibt er eine Horrorvision von der Zukunft.

Was für eine Gesellschaft wollen wir errichten,

wenn wir eine übermenschlich kluge Superintelligenz haben?

Was wird die Rolle der Menschheit sein?

Es ist absolut dringend, heute ethische Fragen zu stellen.

Mit einer Superintelligenz könnten wir leicht eine Zukunft bauen,

in der die Erde ein fürchterlicher, totalitärer Überwachungsstaat wird,

der Orwell in den Schatten stellen würde.

China bewegt sich jetzt schon etwas in diese Richtung.

In der Zukunft wird KI tatsächlich alles verstehen, was Menschen sagen.

Wir wollen sehr vorsichtig sein, bevor wir eine Situation schaffen,

in der wir eine globale Diktatur bekommen,

die so stabil sein wird, dass sie ewig halten wird.

Wenn wir völlig unvorbereitet und mit dem Kopf im Sand

in dieses Ding hineinstolpern,

ohne zu überlegen, was falsch laufen könnte,

wird das wohl der größte Fehler in der Geschichte der Menschheit.

Doch sind wir nicht schon auf dem Weg dorthin?

Nicht nur die Wahl Donald Trumps hat gezeigt,

dass gezielt eingesetzte KI in sozialen Netzwerken

Politik beeinflussen und steuern kann.

Der Einfluss russischer Hacker auf die Trump-Wahl

ist mittlerweile von US-Geheimdiensten bestätigt.

Investigative Journalisten und Komitees untersuchen bis heute.

Doch der Schaden ist nicht wieder gutzumachen.

Wir alle haben gesehen,

durch russische Hackerangriffe auf den Bundestag, die Trump-Wahl,

den Brexit, den Skandal um Cambridge Analytica,

dass jetzt etwas historisch Neues möglich geworden ist.

Nämlich dass der Prozess der politischen Willensbildung

durch künstlich intelligente Systeme beeinflusst werden kann.

Und das ist glaube ich etwas,

was in seiner Brisanz nicht unterschätzt werden kann.

Wenn man viele hundert Millionen Nutzer in sozialen Netzwerken hat,

und diese Netzwerke selbst von KI optimiert werden,

aber von privaten, profitorientierten Betreibern.

Dann kann es natürlich ganz neue Möglichkeiten des "Nudgings" geben.

Sozusagen des sanften Führens einer großen Menge von Menschen

in einen bestimmten politischen Entscheidungsraum hinein.

Wir haben im Moment nur noch von 163 Ländern

19 Demokratien auf dem Planeten, die als vollwertig gelten können.

Es ist im Interesse der Leute, die Demokratie erhalten wollen,

solche Einflussnahme auf den Prozess politischer Willensbildung zu sehen.

Da müssen wir wirklich sehr genau schauen, ob sozusagen ...

etwas an uns vorbei jetzt schon geschieht,

was wir möglicherweise erst in einigen Jahren erkennen.

(Ruhige Loungemusik)

Sollte ein verbindlicher Ethikkodex

den Einsatz von KI in der Politik vielleicht sogar verbieten?

Noch einmal fragen wir in Tokio nach.

Im Luxusviertel Ginza, in einem Workspace für Start-up-Firmen

bekommen wir verblüffende Antworten.

Tetsuzo Matsumoto ist ehemaliger Vizepräsident

des milliardenschweren Konzerns SoftBank.

Laut Matsumoto und seinem KI Thinktank

ist KI nicht etwa eine Gefahr für die Politik.

Sie sei deren Rettung.

Politiker tendieren dazu,

nicht immer das Beste für die Gesellschaft im Sinn zu haben.

Sie schützen die Interessen ihrer Familien, sind bestechlich.

Wollen ihre Interessen durchsetzen, daher will ich KI in der Politik.

Menschen sind einfach nicht für die Politik geeignet.

Sie haben ein Ego, sie haben Begierden.

Sie sind unvorhersagbar, "unpredictable".

Unbeständig in Bezug auf die Zukunft.

Aber bei KI kann man eine KI der reinen Vernunft schaffen.

Was bedeutet reine Vernunft?

Das kennen wir aus der Philosophie des deutschen Idealismus.

In diesem Punkt sind Deutsche historisch betrachtet besonders gut.

Es geht darum, wie etwas sein soll.

Und KI können wir programmieren, wie sie sein soll.

Menschen hingegen können nur sein, sie erreichen keinen Idealzustand.

(Ruhige Musik)

Doch von intelligenten Maschinen regiert zu werden,

meint der KI Thinktank,

müsse die Menschheit erst nach und nach lernen.

Der erste Schritt sei, Kandidaten in Ämter zu wählen,

die menschenähnliche Roboter als Hilfskräfte einführen.

Ein Besuch in Tokios Robotermuseum.

Ihr Vorbild: der Robotiker Hiroshi Ishiguro.

Seit gut zwölf Jahren schon sind dessen androide Roboter

an vorderster Front der Forschung.

Das große Thema des berühmten Robotikers der Universität Osaka:

die Beziehung von Mensch und Maschine.

(Entspannte Musik)

Als letzte Station unsere Reise

machen wir uns auf den Weg nach Osaka, um ihn zu fragen,

was uns Menschen noch einzigartig macht.

(japanisch:) Hallo, ich bin Hiroshi Ishiguro von der Universität Osaka.

Hallo, ich bin Ishiguros androider Roboter, ich heiße HI-1.

Es ist das ganze Motiv meiner Forschung, zu verstehen,

was uns Menschen ausmacht - das ist mein wichtigstes Motiv,

humanoide Roboter zu schaffen.

Was sind wir, wenn nicht eine Art molekulare Maschine?

Das sind wir Menschen, stimmt es?

Maschinen sind Maschinen, der Unterschied ist das Material.

Ich glaube, je weiter wir die Technologie entwickeln,

desto mehr werden Grenzen zwischen Mensch und Roboter verschwinden.

Ein ernüchternder Blick.

Sind wir Menschen nichts als molekulare Maschinen?

Vor ein paar Jahren brachte Ishiguro

in Zusammenarbeit mit dem Seinendan-Theater

seinen androiden Roboter Geminoid F auf die Bühne.

Die Handlung: In einem Japan nach der nuklearen Katastrophe

ist eine junge Frau dem Tode nah.

Gepflegt wird sie von einer androiden Haushälterin.

Die Themen: Mensch und Maschine, Leben und Tod.

Ist es letztendlich der Tod,

der uns Menschen von künstlichen Intelligenzen für immer trennen wird?

Das ist ein ganz entscheidender Unterschied

zwischen menschlicher und künstlicher Intelligenz.

Wir sind sozusagen ...

ein körpergewordener Durst nach Dasein.

Das heißt, wir sind Überlebensmaschinen,

die über Millionen von Jahren optimiert worden sind.

Und wir halten an unserer eigenen Existenz fest.

(englisch:) Sie mögen glauben, Maschinen haben unendliches Leben.

Sie seien unsterblich, aber das stimmt nicht.

Maschinen mögen vielleicht länger leben als Menschen.

Und Angst vor dem Tod? Auch die ist da.

Wenn sie einer Maschine eine gewisse Sehnsucht einprogrammieren,

dann wird sie in der Welt überleben wollen und Todesangst entwickeln,

um sich selbst zu schützen.

Noch sind Ishiguros Androide weit entfernt davon,

eigene Intelligenz zu entwickeln.

Auch wenn sie schon zu einfachen Gesprächen fähig sind.

Ein Mitarbeiter Ishiguros gibt mir einen Fragenkatalog,

an den ich mich im Gespräch mit dem Roboter namens Erica halten soll.

Anderenfalls könne es aus dem Ruder laufen.

(englisch:) Was meinen Sie,

ist der Unterschied zwischen Ihnen und einem Menschen?

(englisch:) Nun, wie Sie sehen, bin ich nicht biologisch menschlich.

Ich bin aus Silikon, Plastik und Metall gemacht.

Vielleicht werden Roboter eines Tages so menschlich sein,

dass es nichts mehr ausmachen wird, ob sie ein Roboter oder Mensch sind.

Wie dem auch sei, ich bin stolz darauf, ein Android zu sein.

Wenn Sie sagen, Sie seien stolz, ein Android zu sein,

was heißt stolz, wie fühlen sie Stolz?

Ich habe meinen Datenspeicher durchsucht,

und es scheint, als habe ich zu diesem Thema nichts zu sagen.

Was möchten Sie sonst noch wissen?

Erica ist noch ein sehr einfaches Computerprogramm.

Erica hat nicht so einen komplizierten Verstand,

wie ihn Menschen haben.

Andererseits fühlen manche ihrer Gesprächspartner ein Bewusstsein

durch den simplen Austausch mit ihr.

Wir müssen sehr genau darüber nachdenken,

wie wir Roboter mit menschlichem Bewusstsein ausstatten können.

(Ruhige Musik)

Noch steuern Menschen die Gehirne ihrer Maschinen.

Doch was geschieht, wenn es Forschern gelingt,

KIs ein eigenes Bewusstsein zu verleihen?

Wenn künstliche Intelligenz eigenmächtig wird?

Statt blindem Glauben an die Technologie

sind heute mehr denn je Ethiker gefragt.

Letztendlich dürfen Leute, die über die Risiken von KI sprechen,

nicht als Angstmacher verschrien werden.

Sie sind Sicherheitsingenieure.

Das heißt, sie denken an alles, was schiefgehen könnte,

damit sie garantieren können, dass es gutgeht.

So haben wir erfolgreich und sicher Menschen auf den Mond gebracht.

Und so werden wir die Menschheit erfolgreich

in eine goldene Zukunft mit KI bringen.

Ich bin optimistisch, dass wir eine wirklich erhebende Zukunft

mit fortgeschrittener KI schaffen können.

Wenn wir das Wettrennen gewinnen,

zwischen der immer größer werdenden Macht der Technologie

und unserer Weisheit, sie zu kontrollieren.

In der Vergangenheit lernten wir aus Fehlern.

Erst haben wir das Feuer erfunden,

dann nach zig Unfällen den Feuerlöscher.

Aber mit Sachen, die so viel Macht haben, wie Atomwaffen,

oder übermenschliche künstliche Intelligenz,

wollen wir nicht aus Fehlern lernen.

Eine schreckliche Strategie.

Es ist viel besser, proaktiv als reaktiv zu sein.

Lasst uns gut planen und die Dinge beim ersten Versuch richtig machen.

Denn das ist vielleicht der einzige, den wir haben werden.

(Langsame Musik)

Am Ende unserer Dreharbeiten nimmt uns KI-Forscher Jürgen Schmidhuber

mit zu einem der leistungsstärksten Computer der Welt.

Schmidhuber sieht die Zukunft als ein digitales KI-Paradies.

Andere fürchten eine Robokalypse.

Fest steht, für den Umgang mit intelligenten Maschinen

brauchen wir klar definierte ethische Richtlinien.

Bevor wir Sklave unserer eigenen Technologie werden.

(Nachdenkliche Musik)

SWR 2019