Wie ethisch ist KI? - Thilo Hagendorff - Science Slam
Summary
TLDRDer Vortrag thematisiert künstliche Intelligenz (KI) und deren Einfluss auf Alltag und Gesellschaft. Der Sprecher, ein Forscher aus dem Bereich KI und Ethik, diskutiert wichtige Werte wie Privatsphäre, Verantwortung, Fairness, Transparenz und Sicherheit in KI-Anwendungen. Er führt Beispiele wie Roboter im Haushalt, KI-gesteuerte Toiletten und Bildanalyse ein, um die Herausforderungen und potenziellen Missbräuche aufzuzeigen. Er betont die Notwendigkeit, KI-Technologien ethisch und sicher zu entwickeln und Anwendungen mit hohem Missbrauchspotenzial sorgfältig zu behandeln.
Takeaways
- 🤖 KI ist immer präsenter im Alltag und wird in vielen Lebensbereichen eingesetzt.
- 🔍 Der Sprecher forscht an der Universität Tübingen zu Ethik und Anwendungen von KI.
- 📈 Wichtige Werte in KI sind Privatsphäre, Verantwortlichkeit, Fairness, Transparenz und Sicherheit.
- 🤝 Robotik ist ein Bereich, in dem KI oft eingesetzt wird, z.B. in Haushaltsrobotern.
- 🐶 Ein Beispiel ist der Saugroboter, der mit KI und Bildschätzung arbeitet, um Hundefutter gleichmäßig zu verteilen.
- 📸 Bildschätzung ist ein zentrales Feld in der KI-Branche, aber sie erfordert eine Menge menschlicher Arbeit für die Datenbeschriftung.
- 🌐 KI-Systeme können in der öffentlichen Überwachung eingesetzt werden, was zu Problemen wie Diskriminierung führen kann.
- 🚦 Beispiele für KI-Misserfolge sind rassistische KI-Systeme oder die Fehleinschätzung von Geschlecht bei Bildschätzung.
- 📝 KI kann auch Texte generieren, was das Risiko von Fake News mit sich bringt.
- 🔒 Es gibt KI-Anwendungen mit hohem Missbrauchspotential, die sorgfältig untersucht und veröffentlicht werden müssen.
- 🌐 Die Forschung zielt darauf ab, eine ethische, sichere und sozial akzeptierte KI zu entwickeln.
Q & A
Was ist das Hauptthema des Gesprächs?
-Das Hauptthema des Gesprächs ist die künstliche Intelligenz und ihre Auswirkungen auf das tägliche Leben.
Was ist der Beruf des Sprechers?
-Der Sprecher ist Forscher im Bereich der künstlichen Intelligenz und arbeitet am Ethik-Labor der Universität Tübingen.
Welche Aspekte der künstlichen Intelligenz werden im Gespräch betont?
-Im Gespräch werden Aspekte wie Privatsphäre, Verantwortlichkeit, Fairness, Transparenz und Sicherheit hervorgehoben.
Was ist ein Beispiel für den Einsatz von KI in Alltagsgegenständen?
-Ein Beispiel ist der Saugroboter, der in immer mehr Haushalten eingesetzt wird und mit künstlicher Intelligenz ausgestattet ist.
Was ist ein Beispiel für die Kombination aus biologischer und künstlicher Intelligenz?
-Das Beispiel ist der Hund, der mit dem Saugroboter interagiert, indem er seine Ausscheidungen hinterlässt, die der Roboter gleichmäßig über den Boden verteilt.
Was ist das Ziel der künstlichen Intelligenz in Bezug auf die Bilderkennung?
-Das Ziel ist es, Objekte in Bildern zu erkennen, ohne menschliche Intervention, basierend auf einer Vielzahl von gelabelten Bildern.
Wie werden die Labels für die Bilderkennung erstellt?
-Labels werden entweder durch manuelle Markierung von Bildern oder durch das Outsourcing an Dritte in Entwicklungsländern erstellt.
Was ist ein potenzielles Missbrauchspotential von KI-Systemen?
-Ein potenzielles Missbrauchspotential ist die Automatisierung von Fake News durch Text-Generatoren oder die Erstellung von gefälschten Videos.
Wie können KI-Systeme diskriminierende Entscheidungen treffen?
-KI-Systeme können diskriminierende Entscheidungen treffen, wenn sie auf einer Datenbasis trainiert werden, die bestimmte Muster oder Verteilungen widerspiegelt, die auf Vorurteilen basieren.
Was ist die Herausforderung bei der Forschung zu KI-Systemen mit hohem Missbrauchspotenzial?
-Die Herausforderung besteht darin, die Ergebnisse der Forschung zu veröffentlichen, ohne dass sie für missbräuchliche Zwecke verwendet werden können.
Was ist das Ziel der Forschung des Sprechers?
-Das Ziel der Forschung ist es, eine ethische, sichere, fähige und sozial akzeptierte KI zu entwickeln und anzuwenden.
Outlines
🤖 Künstliche Intelligenz und ihre ethischen Aspekte
Der Sprecher ist Forscher im Bereich der künstlichen Intelligenz (KI) und diskutiert über die Bedeutung von KI in unserem Alltag. Er arbeitet an der Universität Tübingen und beschäftigt sich mit Ethikrichtlinien, um sicherzustellen, dass KI-Anwendungen bestimmte ethische Mindestanforderungen erfüllen. Er betont die Wichtigkeit von Datenschutz, Verantwortlichkeit, Fairness, Transparenz und Sicherheit. Ein spezifisches Beispiel ist der Einsatz von KI in Haushaltsrobotern, die mit biologischer Intelligenz interagieren und KI-Technologien verwenden. Es wird auch über die Entwicklung von KI-Systemen in Robotern gesprochen, die in der Lage sein sollen, Hundehaufen gleichmäßig in einem Raum zu verteilen. Weiterhin wird die Rolle der Bildkennung in der KI-Branche und die Herausforderungen bei der Automatisierung und dem menschlichen Einfluss auf diese Technologien diskutiert.
🚦 KI-Erkennung und ihre Auswirkungen auf die Gesellschaft
In diesem Absatz wird über die Anwendung von KI-Technologien im öffentlichen Raum gesprochen, wie zum Beispiel die Verfolgung von Menschen, die bei rot über die Ampel laufen, und die potenzielle Aussetzung von Strafen. Es wird auch über die chinesische Geschäftsmethode gesprochen, bei der das Gesicht einer Frau, die bei rot über die Ampel gelaufen ist, für Werbezwecke verwendet wurde. Es wird auf rassistische KI-Systeme hingewiesen, die bei dunkelhäutigen Menschen schlechter funktionieren als bei hellhäutigen und über die Notwendigkeit gesprochen, algorithmische Diskriminierung zu verhindern. Ein weiterer Aspekt ist die Sprachanalyse und Übersetzungssoftware, die möglicherweise falsche Übersetzungen aufgrund von statistischen Zusammenhängen liefern kann. Schließlich wird die Textsynthese und die Möglichkeit, mit solchen Technologien Fake News zu erstellen, besprochen, und es wird auf die Notwendigkeit hingewiesen, die Forschung in diesem Bereich mit Vorsicht zu betrachten.
🔒 KI und das Potenzial zur Verletzung von Privatsphäre
Dieser Absatz konzentriert sich auf die Verwendung von KI-Technologien, die das hohe Risiko bergen, zur Verletzung der Privatsphäre zu führen. Es wird über Anwendungen gesprochen, die Fotos von Menschen in nackte Bilder verwandeln können, und wie KI-Systeme dazu verwendet werden können, hochintime Informationen aus völlig unschuldigen Datenspuren zu gewinnen. Es wird auch auf die potenzielle Verwendung von KI in kommerziellen Spielen und die damit verbundenen ethischen Fragen eingegangen. Der Sprecher betont das Ziel der Forschung, eine KI zu entwickeln, die ethisch, sicher und sozial akzeptabel ist.
Mindmap
Keywords
💡Künstliche Intelligenz
💡Robotik
💡Datenschutz
💡Verantwortlichkeit
💡Fairness
💡Transparenz
💡Sicherheit
💡Biologische Intelligenz
💡Bilderkennungssysteme
💡Crowdsourcing
💡Algorithmische Diskriminierung
Highlights
Künstliche Intelligenz (KI) wird immer mehr im Alltag angewandt.
Forschender an der Universität Tübingen beschäftigt sich mit KI-Ethik.
Wichtige Werte in KI-Anwendungen sind Privatheit, Verantwortung, Fairness, Transparenz und Sicherheit.
Robotik ist ein Subfeld der KI, oft mit KI-Software ausgestattet.
Saugroboter und biologische Intelligenz können Zusammenarbeit betreiben.
IRobot kündigt an, ihre Saugroboter mit einer spezifischen Bilderkennungs-Technologie auszustatten.
Stanford University hat eine KI-gesteuerte intelligente Toilette entwickelt, die Kot analysiert.
Bildererkennung ist ein zentrales Feld im aktuellen KI-Boom.
Automatisierung und KI erfordern menschliche Beteiligung, z.B. zur Markierung von Bildern.
Labels sind notwendig, um neuronale Netze zu trainieren.
Es gibt große Mengen an Labels, die erstellt werden müssen, oft durch Crowdsourcing oder Outsourcing.
Bildererkennung kann im öffentlichen Raum zur Überwachung eingesetzt werden.
Ein chinesisches Unternehmen hat ein System entwickelt, das Gesichter auf Busse druckt, die über rot überfahren sind.
Rassistische KI-Systeme können bei der Gesichtserkennung diskriminieren.
Algorithmische Diskriminierung kann durch technische und organisatorische Maßnahmen verhindert werden.
Sprachanalyse und Übersetzungssoftware können statistische Zusammenhänge missverstehen.
Textsynthese oder Textgenerierung kann zu Fake News beitragen.
Forschung mit hohem Missbrauchspotenzial wird oft nicht öffentlich gemacht.
Deepfake-Technologie kann Fotos in gefälschte Videos verwandeln.
Aus Datenspuren können hochintime Informationen gewonnen werden.
Superhumane KI könnte Industrien wie die Zuckerindustrie schädigen.
Ethik, Sicherheit und sozialakzeptierte KI sind Ziele der Forschung.
Transcripts
ja hallo zusammen schön dass ihr dabei
seid ich will mit euch über ein
topaktuelles thema sprechen nämlich
künstliche intelligenz das ist eine
technologie die kommt immer mehr in
eurem leben in ihrer lebenswelt in eurem
alltag vor
und ich selbst forscher in diesem
bereich amex und philosophie lab an der
universität tübingen und dort schreibe
ich zb aufsätze über k ethik richtlinien
er vergleicht die nach langweilige
statistiken dazu und schau war vor allen
dingen was sind eigentlich so die
wichtigen wert er was muss in ki
anwendungen implementiert werden dass
diese gewissen minimal oder ethischen
minimal anforderungen entsprechen und
man sieht privatheit ist wichtig es ist
wichtig dass verantwortungs beklebt sind
wenn dinge schief gehen mit den systemen
ist es wichtig dass sie fair sind dass
sie transparenz sind dass man
durchschauen kann was passiert dort
eigentlich und sicherheit ist natürlich
auch ein ganz wichtiger wert und dann
gehen wir mal in einen sub fällt etwa
dass der robotik hier geht es also
materielle technische artefakte die
häufig mit künstlich intelligente
software ausgestattet sind und nehmen
wir wieder ein beispiel aus unserem
alltag etwa in saugroboter gibt es in
immer mehr haushalten und kommt auch ab
und zu zusammen mit biologischer
intelligenz vor und diese biologische
intelligenz muss aber um zu
funktionieren ab und zu
hinterlassenschaften erzeugen
und wenn man diese hinterlassenschaften
der biologischen intelligenz kombiniert
mit künstlicher intelligenz
dann kommt es zu sogenannten pop ups es
heißt dieses zweite gerät hat nichts
besseres zu tun als in hundehaufen
möglichst gleichmäßig durch die wohnung
zu verteilen man sieht hier den kleinen
hund wie er sich gerade eben noch in
sicherheit begeben hat bevor er so sein
haufen gleichmäßig eingerieben wird und
weil das eben nicht nur ein mal vorkam
sondern ziemlich häufig an sprecher der
firma irobot die also diese saugroboter
herstellen angekündigt dass sie
demnächst mit einer easy specific image
recognition ausgestattet werden
sein also auf deutsch der bilderkennung
für scheiße
und man mag es kaum glauben aber sowas
gibt es bereits die universität stanford
hat eine smarte toilette entwickelt wo
ja eine ein ki system eine bilderkennung
den eigenen kot analysiert und
informationen darüber in der cloud lake
und die bilderkennung ist eines der
zentralen bereiche des derzeitigen ki
booms und wir haben sie aber mit einer
automatisierung illusion zu tun also wir
denken bilderkennung ist etwas was so
völlig von alleine geht völlig ohne
menschliches zutun
und das stimmt nicht es ist ein bisschen
vergleichbar wie mit dem schach roboter
ja wo auch mensch im inneren sitzt und
die figuren bewegt bei der bilderkennung
ist es so wir menschen sehen ein nashorn
und wissen dann dass es nass an der
computer braucht zehntausende
hunderttausende millionen von bildern
mit nashörnern um zu wissen oder um ein
nashorn erkennen zu können und er
braucht labels dazu in unserem fall
braucht also bilder mit hundehaufen und
labels was nützt mir diesen labels auf
sich ja da kommt eben die menschliche
hand arbeit ins spiel es muss nämlich
auf einem bild erstmal markiert werden
was der pc überhaupt erkennen soll ja
was das es also man muss so reckt engels
um objekte ziehen und nur wenn man
datensatz auf diese weise präpariert hat
dann kann man ihn in ein neuronales netz
geben und die differenz zwischen dem
output des neuronalen netzes und den
labels die dann natürlich in
mathematische sprache sozusagen
übersetzt sind die nutzt man dann im
netz zu optimieren damit es irgendwann
in der lage ist nicht geregelte bilder
also dann wirklich eigenständig in dem
fall hundehaufen zu erkennen jetzt ist
aber die frage wie kommt man denn an
zehntausende hunderttausende millionen
von labels irgendjemand musste ja machen
ja man kann es entweder kraut schossen
wie google das mit diesem recaptcha
system macht was vielleicht einige von
euch kennen da geht es darum bilder zu
labeln die dann für autonome autos
wichtig sind ja aber mit unserem
hundehaufen ist es natürlich
ein bisschen schwierig das irgendwie an
millionen von end nutzerinnen und nutzer
digitaler medien crowdsourcing
deshalb gibt es eine zweite methode
nämlich das outsourcen also man
kontaktiert einfach drittfirmen die
sitzen meistens in entwicklungsländern
also eine sehr prekäre
arbeitsbedingungen wo menschen den
ganzen tag nichts anderes machen als
bilder zu labeln audiodateien zu labeln
und ähnliches wenn die bilderkennung
dann irgendwann mal vernünftig
funktioniert dann kann man die im
öffentlichen raum einsetzen um wunderbar
alles und jeden zu überwachen man kann
zum beispiel schauen gehen menschen bei
rot über die ampel und man kann sie dann
auf großen anzeigetafeln einem public
schelling aussetzen etwa und das ist
auch dieser frau passiert dann hinzu
eine chinesische geschäftsform die hat
sich dann aber gewährten hat gesagt ich
bin hab ich bei rot über die ampel
gelaufen
was war da passiert nun ihr gesicht ist
als werbe abdruck auf einen bus oder auf
bussen abgedruckt gewesen und immer wenn
diese busse über kreuzungen gefallen
sind hat die künstliche intelligenz eben
daraus geschlossen ja diese frau läuft
bei rot über die ampel
also man sieht es geht viel schief gibt
viele weitere beispiele wir haben
rassistische kriegel tag wir haben
rassistische ki gesteuerte
schönheitswettbewerbe wir haben
rassistische jackpots wir haben bild
erkennungssysteme die bei dunkelhäutigen
menschen viel schlechter funktionieren
als bei hellhäutigen menschen die haben
bild erkennungssysteme die männer als
frauen klassifizieren wenn sie in einer
küche stehen
und derlei dinge mehr das beschäftigt
uns viel in der forschung ich habe auch
selbst ein aufsatz dazu beschrieben also
thema ist einfach wie kann man
algorithmische diskriminierung durch
technische und organisatorische
maßnahmen verhindern
kommen noch mal zurück mit dem beispiel
des mannes der als frau klassifiziert
wird von der ki wenn in der küche steht
an dem beispiel sieht man erkennt
statistische zusammenhänge
es gibt leider einfach mehr bilder von
frauen in küchen als von männern in
küchen und apropos statistik stadt sinn
weiterer bereich ist die sprachanalyse
übersetzungssoftware ich gebe den satz
eins anna wacker politischen die ki
übersetztes mit einem meeting in panik
vor land natürlich esse ich kein anwalt
zum mittagessen aber weil eben das wort
avoca mit oder häufiger mit anwalt
übersetzt wird als mit avocado der
statistische zusammenhang also stärker
ist geht die ki davon aus ja ja das ist
die richtige übersetzung
wir haben noch einen weiteren bereich ok
sehr starkes nämlich die text synthese
oder text generierung ich habe hier mal
so eine anwendung genutzt
die zeitungsartikel erstellen kann der
habe ich einfach die überschrift gegeben
thilo hagendorf der exact science slam
und hab dann automatisiert einen artikel
dazu generieren lassen
ich lese man nur die ersten beiden sätze
for the great science slams one of the
biggest and most exciting science mit up
in the world just happened to take place
and a thilo handorf in austrias rest
wird wenn die 1000 plus crouch included
scientist scientists and training super
celebrities die orte personen des
mettinger politischen und so weiter und
so fort
erstaunlich guter text aber natürlich
trotzdem völliger nonsens
man vermutet dass mit solchen text
generatoren automatisiert massenhaft
fake news erstellt werden können weshalb
die forschung dazu teilweise nicht
öffentlich gemacht wird und diesen
komplex habe ich wiederum an als solchen
auch erforscht also wir sprechen hier
über sogenannte vorbild also über wissen
was so missbrauchsanfällig ist dass man
es nur sehr eingeschränkt oder gar nicht
öffentlich machen
was natürlich in der wissenschaft erst
mal problematisch ist denn wir haben ja
die vorstellung dass
forschungsergebnisse öffentlich sein
sollten
aber es gibt eben anwendungen die haben
so ein großes dual use potenzial nennt
man das also ein hohes
missbrauchspotenzial dass die forschung
in diesem bereich auch wenn da gar nicht
irgendwie böse intentionen dahinter
stehen mit vorsicht zu betrachten ist
ich nenne ein paar beispiele vorstellen
im bereich die pigs gehört sicher dazu
also wo es um fotorealistische aber
völlig gefälschte videos geht es geht um
sprachsynthese also ich kann text in die
stimme von anderen menschen verwandeln
und diese menschen dann dinge sagen
lassen die sie in wirklichkeit natürlich
nie gesagt haben
aber das geht um psychiatrie es geht
darum dass sich aus völlig
unverdächtigen datenspuren dich
hinterlasse hoch intime informationen
gewinnen kann ja also ob ich drogen
nehme meine sexuelle und politische
orientierung beim ob meine eltern
geschieden sind und so weiter und so
fort wie gesagt aus das kann ich aus
völlig unverdächtigen datenspuren kann
ich solche dinge mit recht hoher akkurat
haid pro babbel ist ish herauslesen
es geht um super humane ki die in
kommerziellen spielen die
dahinterliegende industrie kaputt machen
könnte was jetzt empfiehlt der
zuckerindustrie vielleicht nicht das
schlimmste wäre trotzdem ist es auch ein
beispiel für so genannte verletzter oder
es geht um anwendungen die fotos von
menschen kleidung in nackt bilder
verwandeln können und ähnliches es geht
immer um verschiedene machine learning
verfahren die da im hintergrund stehen
und die aber eben dieses hohe
missbrauchspotenzial haben lange rede
kurzer sinn das sind der dass das ziel
unserer forschung ist dass wir eine
ethische eine sichere einer fähre und
eine sozial akzeptierte entwickeln
erforschen anwenden können und damit
bedanke ich mich für die aufmerksamkeit
Посмотреть больше похожих видео
Vom ABC zu AI: KI in Schule und Unterricht
KI und unsere Gesellschaft | Die Welt der KI entdecken 11
Was ist KI? | Die Welt der KI entdecken 01
Künstliche Intelligenz – die neue Generation I Prof. Dr. Peter Buxmann I Keynote
Künstliche Intelligenz: Unsere neue Superkraft? | Idee 3D | ARTE
Aerospace & AI - Airbus’ responsible and human-centric approach to AI | #aidatasummit24
5.0 / 5 (0 votes)