Wie ethisch ist KI? - Thilo Hagendorff - Science Slam

Science-Slam.com

27 Aug 202010:35

Summary

TLDRDer Vortrag thematisiert künstliche Intelligenz (KI) und deren Einfluss auf Alltag und Gesellschaft. Der Sprecher, ein Forscher aus dem Bereich KI und Ethik, diskutiert wichtige Werte wie Privatsphäre, Verantwortung, Fairness, Transparenz und Sicherheit in KI-Anwendungen. Er führt Beispiele wie Roboter im Haushalt, KI-gesteuerte Toiletten und Bildanalyse ein, um die Herausforderungen und potenziellen Missbräuche aufzuzeigen. Er betont die Notwendigkeit, KI-Technologien ethisch und sicher zu entwickeln und Anwendungen mit hohem Missbrauchspotenzial sorgfältig zu behandeln.

Takeaways

🤖 KI ist immer präsenter im Alltag und wird in vielen Lebensbereichen eingesetzt.
🔍 Der Sprecher forscht an der Universität Tübingen zu Ethik und Anwendungen von KI.
📈 Wichtige Werte in KI sind Privatsphäre, Verantwortlichkeit, Fairness, Transparenz und Sicherheit.
🤝 Robotik ist ein Bereich, in dem KI oft eingesetzt wird, z.B. in Haushaltsrobotern.
🐶 Ein Beispiel ist der Saugroboter, der mit KI und Bildschätzung arbeitet, um Hundefutter gleichmäßig zu verteilen.
📸 Bildschätzung ist ein zentrales Feld in der KI-Branche, aber sie erfordert eine Menge menschlicher Arbeit für die Datenbeschriftung.
🌐 KI-Systeme können in der öffentlichen Überwachung eingesetzt werden, was zu Problemen wie Diskriminierung führen kann.
🚦 Beispiele für KI-Misserfolge sind rassistische KI-Systeme oder die Fehleinschätzung von Geschlecht bei Bildschätzung.
📝 KI kann auch Texte generieren, was das Risiko von Fake News mit sich bringt.
🔒 Es gibt KI-Anwendungen mit hohem Missbrauchspotential, die sorgfältig untersucht und veröffentlicht werden müssen.
🌐 Die Forschung zielt darauf ab, eine ethische, sichere und sozial akzeptierte KI zu entwickeln.

Q & A

Was ist das Hauptthema des Gesprächs?
-Das Hauptthema des Gesprächs ist die künstliche Intelligenz und ihre Auswirkungen auf das tägliche Leben.
Was ist der Beruf des Sprechers?
-Der Sprecher ist Forscher im Bereich der künstlichen Intelligenz und arbeitet am Ethik-Labor der Universität Tübingen.
Welche Aspekte der künstlichen Intelligenz werden im Gespräch betont?
-Im Gespräch werden Aspekte wie Privatsphäre, Verantwortlichkeit, Fairness, Transparenz und Sicherheit hervorgehoben.
Was ist ein Beispiel für den Einsatz von KI in Alltagsgegenständen?
-Ein Beispiel ist der Saugroboter, der in immer mehr Haushalten eingesetzt wird und mit künstlicher Intelligenz ausgestattet ist.
Was ist ein Beispiel für die Kombination aus biologischer und künstlicher Intelligenz?
-Das Beispiel ist der Hund, der mit dem Saugroboter interagiert, indem er seine Ausscheidungen hinterlässt, die der Roboter gleichmäßig über den Boden verteilt.
Was ist das Ziel der künstlichen Intelligenz in Bezug auf die Bilderkennung?
-Das Ziel ist es, Objekte in Bildern zu erkennen, ohne menschliche Intervention, basierend auf einer Vielzahl von gelabelten Bildern.
Wie werden die Labels für die Bilderkennung erstellt?
-Labels werden entweder durch manuelle Markierung von Bildern oder durch das Outsourcing an Dritte in Entwicklungsländern erstellt.
Was ist ein potenzielles Missbrauchspotential von KI-Systemen?
-Ein potenzielles Missbrauchspotential ist die Automatisierung von Fake News durch Text-Generatoren oder die Erstellung von gefälschten Videos.
Wie können KI-Systeme diskriminierende Entscheidungen treffen?
-KI-Systeme können diskriminierende Entscheidungen treffen, wenn sie auf einer Datenbasis trainiert werden, die bestimmte Muster oder Verteilungen widerspiegelt, die auf Vorurteilen basieren.
Was ist die Herausforderung bei der Forschung zu KI-Systemen mit hohem Missbrauchspotenzial?
-Die Herausforderung besteht darin, die Ergebnisse der Forschung zu veröffentlichen, ohne dass sie für missbräuchliche Zwecke verwendet werden können.
Was ist das Ziel der Forschung des Sprechers?
-Das Ziel der Forschung ist es, eine ethische, sichere, fähige und sozial akzeptierte KI zu entwickeln und anzuwenden.

Outlines

00:00

🤖 Künstliche Intelligenz und ihre ethischen Aspekte

Der Sprecher ist Forscher im Bereich der künstlichen Intelligenz (KI) und diskutiert über die Bedeutung von KI in unserem Alltag. Er arbeitet an der Universität Tübingen und beschäftigt sich mit Ethikrichtlinien, um sicherzustellen, dass KI-Anwendungen bestimmte ethische Mindestanforderungen erfüllen. Er betont die Wichtigkeit von Datenschutz, Verantwortlichkeit, Fairness, Transparenz und Sicherheit. Ein spezifisches Beispiel ist der Einsatz von KI in Haushaltsrobotern, die mit biologischer Intelligenz interagieren und KI-Technologien verwenden. Es wird auch über die Entwicklung von KI-Systemen in Robotern gesprochen, die in der Lage sein sollen, Hundehaufen gleichmäßig in einem Raum zu verteilen. Weiterhin wird die Rolle der Bildkennung in der KI-Branche und die Herausforderungen bei der Automatisierung und dem menschlichen Einfluss auf diese Technologien diskutiert.

05:01

🚦 KI-Erkennung und ihre Auswirkungen auf die Gesellschaft

In diesem Absatz wird über die Anwendung von KI-Technologien im öffentlichen Raum gesprochen, wie zum Beispiel die Verfolgung von Menschen, die bei rot über die Ampel laufen, und die potenzielle Aussetzung von Strafen. Es wird auch über die chinesische Geschäftsmethode gesprochen, bei der das Gesicht einer Frau, die bei rot über die Ampel gelaufen ist, für Werbezwecke verwendet wurde. Es wird auf rassistische KI-Systeme hingewiesen, die bei dunkelhäutigen Menschen schlechter funktionieren als bei hellhäutigen und über die Notwendigkeit gesprochen, algorithmische Diskriminierung zu verhindern. Ein weiterer Aspekt ist die Sprachanalyse und Übersetzungssoftware, die möglicherweise falsche Übersetzungen aufgrund von statistischen Zusammenhängen liefern kann. Schließlich wird die Textsynthese und die Möglichkeit, mit solchen Technologien Fake News zu erstellen, besprochen, und es wird auf die Notwendigkeit hingewiesen, die Forschung in diesem Bereich mit Vorsicht zu betrachten.

10:04

🔒 KI und das Potenzial zur Verletzung von Privatsphäre

Dieser Absatz konzentriert sich auf die Verwendung von KI-Technologien, die das hohe Risiko bergen, zur Verletzung der Privatsphäre zu führen. Es wird über Anwendungen gesprochen, die Fotos von Menschen in nackte Bilder verwandeln können, und wie KI-Systeme dazu verwendet werden können, hochintime Informationen aus völlig unschuldigen Datenspuren zu gewinnen. Es wird auch auf die potenzielle Verwendung von KI in kommerziellen Spielen und die damit verbundenen ethischen Fragen eingegangen. Der Sprecher betont das Ziel der Forschung, eine KI zu entwickeln, die ethisch, sicher und sozial akzeptabel ist.

Mindmap

Keywords

💡Künstliche Intelligenz

Künstliche Intelligenz (KI) ist ein Bereich der Informatik, der sich mit der Entwicklung von Systemen beschäftigt, die ähnliche kognitive Fähigkeiten wie ein Mensch besitzen, wie das Lernen, Problemlösen und Entscheidungsfinden. Im Video wird KI als ein technologischer Fortschritt dargestellt, der in unserem Alltag immer mehr Eingang findet und dabei wichtige ethische Werte wie Privatsphäre, Verantwortlichkeit, Fairness, Transparenz und Sicherheit berücksichtigen muss.

💡Robotik

Robotik bezieht sich auf die Wissenschaft von Maschinen, die physische Arbeit erledigen können, oft mit künstlicher Intelligenz ausgestattet. Im Kontext des Videos werden Roboter als materielle technische Artefakten beschrieben, die in Haushalten zum Beispiel als Saugroboter eingesetzt werden und mit biologischer Intelligenz interagieren können.

💡Datenschutz

Datenschutz ist der Schutz persönlicher Informationen vor unbefugtem Zugriff oder Missbrauch. Im Video wird betont, dass KI-Anwendungen, die in unserem Alltag eingesetzt werden, Datenschutz gewährleisten müssen, um die Privatsphäre der Menschen zu schützen.

💡Verantwortlichkeit

Verantwortlichkeit bezieht sich auf die Fähigkeit, für die Auswirkungen der eigenen Handlungen zu haften. Im Video wird darauf hingewiesen, dass KI-Systeme verantwortungsbewusst entwickelt und eingesetzt werden müssen, um sicherzustellen, dass bei Fehlern oder Missbräuchen die Verantwortung klar zugewiesen werden kann.

💡Fairness

Fairness bedeutet, dass Systeme und Entscheidungen gleich und ungefährdet von Vorurteilen sind. Im Video wird KI als fair angesehen, wenn sie gleiche Chancen für alle bietet und keine Diskriminierung aufgrund von Rasse, Geschlecht oder anderen Faktoren ermöglicht.

💡Transparenz

Transparenz bedeutet, dass die Funktionsweise von Systemen leicht verständlich und nachvollziehbar ist. Im Video wird betont, dass KI-Systeme transparent sein sollten, damit Benutzer verstehen können, wie Entscheidungen getroffen werden und welche Daten verwendet werden.

💡Sicherheit

Sicherheit bezieht sich auf den Schutz von Systemen und Daten vor Schadsoftware, Hackerangriffen und anderen Bedrohungen. Im Video wird die Bedeutung von Sicherheit hervorgehoben, um sicherzustellen, dass KI-Systeme nicht missbraucht werden können und die Integrität der Daten gewahrt bleibt.

💡Biologische Intelligenz

Biologische Intelligenz ist die Fähigkeit von Lebewesen, Informationen zu verarbeiten und zu lernen. Im Video wird die Interaktion zwischen biologischer Intelligenz, wie dem Verhalten eines Hundes, und künstlicher Intelligenz, wie einem Saugroboter, als Beispiel für die Zusammenarbeit beider Formen der Intelligenz genutzt.

💡Bilderkennungssysteme

Bilderkennungssysteme sind KI-Technologien, die es ermöglichen, Objekte, Personen oder Muster in Bildern zu identifizieren. Im Video wird auf die Herausforderungen hingewiesen, die mit der Entwicklung solcher Systeme verbunden sind, wie die Notwendigkeit von Datenlabeling und die potenziellen Missbräuche, wie die Automatisierung von Überwachungssystemen.

💡Crowdsourcing

Crowdsourcing ist die Praxis, die Leistung von einer großen, oft interaktiven Gemeinschaft von Menschen zu nutzen, um eine Aufgabe zu erledigen. Im Video wird darauf hingewiesen, dass Crowdsourcing verwendet wird, um Bilder für KI-Systeme zu labeln, was jedoch oft unter prekären Bedingungen in Entwicklungsländern geschieht.

💡Algorithmische Diskriminierung

Algorithmische Diskriminierung tritt auf, wenn KI-Systeme aufgrund unzureichender oder unangemessenen Datenbasis Entscheidungen treffen, die eine Gruppe gegenüber einer anderen benachteiligen. Im Video wird dies als ein Problem thematisiert, das durch technische und organisatorische Maßnahmen verhindert werden muss.

Highlights

Künstliche Intelligenz (KI) wird immer mehr im Alltag angewandt.

Forschender an der Universität Tübingen beschäftigt sich mit KI-Ethik.

Wichtige Werte in KI-Anwendungen sind Privatheit, Verantwortung, Fairness, Transparenz und Sicherheit.

Robotik ist ein Subfeld der KI, oft mit KI-Software ausgestattet.

Saugroboter und biologische Intelligenz können Zusammenarbeit betreiben.

IRobot kündigt an, ihre Saugroboter mit einer spezifischen Bilderkennungs-Technologie auszustatten.

Stanford University hat eine KI-gesteuerte intelligente Toilette entwickelt, die Kot analysiert.

Bildererkennung ist ein zentrales Feld im aktuellen KI-Boom.

Automatisierung und KI erfordern menschliche Beteiligung, z.B. zur Markierung von Bildern.

Labels sind notwendig, um neuronale Netze zu trainieren.

Es gibt große Mengen an Labels, die erstellt werden müssen, oft durch Crowdsourcing oder Outsourcing.

Bildererkennung kann im öffentlichen Raum zur Überwachung eingesetzt werden.

Ein chinesisches Unternehmen hat ein System entwickelt, das Gesichter auf Busse druckt, die über rot überfahren sind.

Rassistische KI-Systeme können bei der Gesichtserkennung diskriminieren.

Algorithmische Diskriminierung kann durch technische und organisatorische Maßnahmen verhindert werden.

Sprachanalyse und Übersetzungssoftware können statistische Zusammenhänge missverstehen.

Textsynthese oder Textgenerierung kann zu Fake News beitragen.

Forschung mit hohem Missbrauchspotenzial wird oft nicht öffentlich gemacht.

Deepfake-Technologie kann Fotos in gefälschte Videos verwandeln.

Aus Datenspuren können hochintime Informationen gewonnen werden.

Superhumane KI könnte Industrien wie die Zuckerindustrie schädigen.

Ethik, Sicherheit und sozialakzeptierte KI sind Ziele der Forschung.