re:publica 2017 - Felix Stalder: Die Algorithmen, die wir brauchen
Summary
TLDRDer Vortrag diskutiert politische Aspekte von Algorithmen, die weit über technische Anweisungen hinausgehen. Es geht um die Erfassung von Daten, Modellierung komplexer Situationen und die Einbettung in Institutionen. Der Sprecher betont, dass Algorithmen nicht autonom, sondern in gesellschaftlichen Kontexten eingebettet sind. Er fordert mehr Transparenz und Kontrolle, um algorithmische Systeme im Interesse aller zu nutzen und negative Auswirkungen zu vermeiden. Zudem thematisiert er die EU-Datenschutzgrundverordnung als Mittel zur Förderung von Transparenz.
Takeaways
- 🤖 Algorithmen sind politische Konzepte, die nicht nur technische Anweisungen umfassen, sondern auch Daten, Modelle, Codierungen und Institutionen beinhalten.
- 🧠 Die Menschheit ist in jedem Schritt involviert, was die Vorstellung von autonomen Systemen, die außer Kontrolle geraten, ad absurdum führt.
- 🔍 Suchanfragen wie 'jailbreak my iPhone' auf Google führen zu Ergebnissen, die möglicherweise nicht die beabsichtigte Antwort sind, was zeigt, dass Algorithmen in bestimmten Grenzen operieren.
- 📱 Wenn man Siri fragt, ob sie das iPhone jailbreaken kann, zeigt dies, dass intelligente Systeme in spezifischen Programmen eingebettet sind und bestimmte Aktionen nicht unterstützen.
- 🔒 Die EU-Datenschutzgrundverordnung bietet neue Mittel zur Regulierung algorithmischer Systeme, insbesondere durch die Verpflichtung, bei automatischer Entscheidungsfindung über die involvierte Logik und die Auswirkungen aufzuklären.
- 🏭 Bei der Steuerung von Maschinen, die mit Menschen interagieren, ist die Nutzerposition oft schwächer, da sie keine klaren Kriterien haben, um die Systemausgaben zu bewerten.
- 🌐 Für Systeme, die die Welt für uns produzieren, ohne direkt mit uns zu interagieren, wie z.B. den Facebook Newsfeed, gibt es keine Möglichkeit, die Ergebnisse zu vergleichen oder zu beeinflussen.
- 🏙️ Smart City-Anwendungen, die oft im Hintergrund autonom ablaufen, erfordern eine Überwachung, um sicherzustellen, dass sie im Interesse aller eingesetzt werden.
- 🌳 Intelligente Systeme können helfen, ein anderes Verhältnis zur Natur zu entwickeln, indem sie uns helfen, unsere Verbindung mit der Umwelt zu verstehen und zu schätzen.
- 📈 Algorithmen sollten nicht nur auf individuellen Unterschieden und Wettbewerb basieren, sondern auch auf gemeinsamen Interessen und kollektiven Problemen.
- 🛑 Transparenz und Offenheit bei Algorithmen sind entscheidend, um sicherzustellen, dass die Systeme verständlich und nachvollziehbar sind und dass sie im Einklang mit gesellschaftlichen Werten stehen.
Q & A
Was versteht der Sprecher unter 'Algorithmen' in politischer Hinsicht?
-Der Sprecher versteht unter 'Algorithmen' nicht nur die technischen, codierten Anweisungen, sondern auch die Daten, die Modelle, die Codierung, Institutionen, Programme und Praktiken, in die diese Systeme eingebettet sind.
Was sind die Hauptbestandteile, die der Sprecher bei der Diskussion von Algorithmen berücksichtigt?
-Die Hauptbestandteile sind Daten, Modelle, Codierung im engeren Sinne, Institutionen, Programme und Praktiken.
Wie sieht der Sprecher die Beteiligung von Menschen an Algorithmen?
-Der Sprecher betont, dass Menschen an allen Stellen der Algorithmen - bei den Daten, Modellen, der Codierung und den Institutionen - involviert sind und die Vorstellung von autonomen Systemen, die aus der Kontrolle geraten, für ihn falsch ist.
Was ist das Beispiel, das der Sprecher gibt, um die Funktionsweise von Algorithmen zu veranschaulichen?
-Der Sprecher nutzt das Beispiel der Google-Suche nach 'jailbreak my iPhone' und vergleicht es mit der Antwort des iPhone-Assistenten Siri, um zu zeigen, dass Algorithmen in bestimmten Grenzen operieren, die für sie gesetzt wurden.
Was zeigt der Sprecher mit dem Beispiel der Google-Suche nach 'jailbreak my iPhone'?
-Er zeigt, dass Algorithmen in gewissen Grenzen operieren und dass sie nicht dazu ermutigen, gegen die Regeln zu verstoßen, wie im Beispiel der iPhone-Entsperrung.
Welche Rolle spielen Institutionen bei der Einbettung von Algorithmen in das Gesellschaftssystem?
-Institutionen sind Teil der Systeme, in die Algorithmen eingebettet sind und bestimmen, innerhalb welcher Grenzen diese Algorithmen operieren und welche Handlungen sie ausführen oder unterstützen.
Was ist das Hauptproblem, das der Sprecher mit der heutigen Nutzung von Algorithmen anprangert?
-Der Sprecher kritisiert, dass Algorithmen oft nur auf individuelle Wettbewerbsfähigkeit und Konkurrenz ausgerichtet sind, anstatt auf das Gemeinwohl und kollektive Probleme wie Umweltverschmutzung.
Wie können Algorithmen nach Auffassung des Sprechers besser genutzt werden?
-Algorithmen sollten genutzt werden, um das Gemeinwohl zu fördern, z.B. durch die Identifizierung von kollektiven Problemen wie Luftverschmutzung oder der Schaffung von Gemeinschaftsräumen.
Was ist die Bedeutung der neuen EU-Datenschutzgrundverordnung (DSGVO) für Algorithmen?
-Die DSGVO bringt neue Mittel zur Transparenz und Auskunftspflicht für automatisierte Entscheidungsfindungsverfahren, was bedeutet, dass Betroffene über die involvierte Logik und die Auswirkungen solcher Verfahren informiert werden müssen.
Wie kann die DSGVO dazu beitragen, die Auswirkungen von Algorithmen zu kontrollieren?
-Durch die Verpflichtung, aussagekräftige Informationen über die Logik und Auswirkungen von automatisierten Entscheidungsverfahren zu geben, können die Betroffenen besser verstehen, wie Algorithmen Entscheidungen treffen und gegebenenfalls dagegen vorgehen.
Was sind die drei Klassen von Problemen, die der Sprecher in Bezug auf Algorithmen und ihre Auswirkungen auf die Gesellschaft identifiziert?
-Die drei Klassen sind: Maschinen, die Maschinen steuern; Maschinen, die mit Menschen integriert sind; und Maschinen, die die Welt für uns produzieren und kontinuierlich ablaufen.
Outlines
📈 Einführung in die politischen Aspekte von Algorithmen
Der Sprecher erläutert, dass Algorithmen nicht nur technische Anweisungen umfassen, sondern auch Daten, Modelle und Institutionen beinhalten. Algorithmen sind in Systeme eingebettet, in denen Menschen beteiligt sind. Autonome Systeme sind nicht wirklich autonom, sondern operieren innerhalb von vorgegebenen Grenzen, wie das Beispiel von Siri und Google zeigt. Der Fokus liegt darauf, dass algorithmische Systeme innerhalb bestimmter Rahmenbedingungen arbeiten, die von Menschen festgelegt wurden.
🔋 Intelligente Energiesysteme und ihre gesellschaftliche Bedeutung
Intelligente Energiesysteme ermöglichen eine komplexe und adaptive Steuerung von Energie, wobei jeder Akteur sowohl Sender als auch Empfänger sein kann. Solche Systeme erweitern die Handlungsmöglichkeiten und stellen gesellschaftliche Macht dar. Es ist wichtig, diese Macht so zu steuern, dass sie zur Lösung komplexer Probleme beiträgt, ohne neue Machtkonzentrationen zu schaffen. Der Übergang zu intelligenten, dezentralen Energiesystemen ist notwendig, um umweltschädliche und demokratiefeindliche Infrastrukturen zu überwinden.
🔍 Herausforderungen bei maschinellen Interaktionen und politischen Implikationen
Die Interaktion zwischen Maschinen und Menschen ist komplex und oft intransparent. Nutzer haben keine klaren Kriterien, um die Handlungen von Systemen zu beurteilen, was den Vergleich zwischen verschiedenen Systemen erschwert. Dies ist besonders problematisch bei Systemen, die autonom arbeiten und die Welt für uns formen, wie der Facebook-Newsfeed. Politische Maßnahmen sind notwendig, um sicherzustellen, dass diese Systeme im Interesse der Gesellschaft eingesetzt werden.
🏙️ Lokale und offene Systeme als Schlüssel zur gesellschaftlichen Kontrolle
Um die Kontrolle über intelligente Systeme zu behalten, müssen sie lokal angesiedelt und offen gestaltet sein. Systeme sollten in der Jurisdiktion betrieben werden, in der die betroffenen Menschen leben. Offenheit bezüglich des Codes und der Daten erleichtert es, die Systeme lokal zu verankern und gegen zentralisierte Machtstrukturen vorzugehen. Es ist wichtig, die Möglichkeiten und Grenzen dieser Systeme zu verstehen, um sie effektiv regulieren zu können.
🤝 Gemeinsame Handlungsmöglichkeiten durch intelligente Systeme
Intelligente Systeme sollten dazu beitragen, gemeinsame Probleme zu lösen und kollektives Handeln zu fördern. Sie könnten uns helfen, Umweltprobleme zu erkennen und öffentliche Räume besser zu nutzen. Der Fokus sollte darauf liegen, das Gemeinsame zwischen Menschen zu betonen, anstatt individuelle Unterschiede zu verstärken. Solche Systeme könnten auch die Teilnahme an demokratischen Prozessen erleichtern und so die gesellschaftliche Teilhabe erweitern.
🌍 Neue Beziehung zur Natur durch technologische Integration
Ein Beispiel für die Nutzung intelligenter Systeme zur Verbindung mit der Natur ist die Überwachung von Tieren wie Haien mittels Sensoren. Diese Systeme ermöglichen es, detaillierte Daten zu sammeln und komplexe Formen des Zusammenlebens zu fördern. Die Integration solcher Technologien kann helfen, neue Zugänge zu ökologischen und gesellschaftlichen Herausforderungen zu finden und eine nachhaltigere Interaktion mit der Natur zu entwickeln.
Mindmap
Keywords
💡Algorithmen
💡Daten
💡Modelle
💡Codierung
💡Institutionen
💡Transparenz
💡Datenschutz
💡Intelligente Systeme
💡Handlungsmöglichkeiten
💡Politische Einordnung
Highlights
Algorithmen sind politische Konzepte, die nicht nur technische Anweisungen, sondern auch Daten, Modelle, Codierungen und Institutionen umfassen.
Intelligente Systeme sind eingebettet in spezifische Programme und nicht autonom.
Beispiel für die Grenzen von Algorithmen: Google und Siri weigern sich, Anleitungen für das Jailbreaken von iPhones zu liefern.
Algorithmen sind in bestimmten Grenzen eingefasst, die für sie gesetzt wurden.
Die EU-Datenschutzgrundverordnung bietet neue Mittel zur Regulierung algorithmischer Systeme durch Informationspflichten.
Algorithmen sind wichtig für die Bewältigung komplexer Probleme in der Gesellschaft.
Intelligente Systeme können helfen, neue Handlungswerkzeuge für die Steuerung von Problemen zu schaffen.
Smart Grids als Beispiel für intelligente Systeme, die die Dynamik von Energienetzen verbessern können.
Die Bedeutung von Transparenz und Offenheit bei der Regulierung algorithmischer Systeme.
Lokale Systeme sind besser für die politische Partizipation und Einflussnahme.
Die Notwendigkeit, algorithmische Systeme zu verstehen, um sie im Interesse aller einzusetzen.
Die Herausforderung der Integration von Maschinen in den Alltag, die mit Menschen interagieren.
Die Komplexität von Systemen, die die Welt für uns produzieren, ohne direkt mit uns zu interagieren.
Die Bedeutung von Feedback-Mechanismen, um sicherzustellen, dass Algorithmen fair und transparent sind.
Die Notwendigkeit, algorithmische Systeme auf ihre Fähigkeit zur Lösung von kollektiven Problemen auszurichten.
Die Rolle von Algorithmen bei der Schaffung neuer Beziehungen innerhalb der Gesellschaft und der politischen Aushandlung.
Die Herausforderung, algorithmische Systeme zu regulieren, ohne in eine dystopische Überwachungsgesellschaft abzurutschen.
Die Bedeutung von Transparenz und Offenheit im Code und bei den Daten für die politische Kontrolle von Algorithmen.
Die Diskussion um die Auswirkungen von Algorithmen auf die Gesellschaft und die Notwendigkeit, sie im politischen Diskurs zu integrieren.
Transcripts
[Musik]
[Applaus]
[Musik]
hallo schön gut nachmittag wenn ich von
algorithmen sprecher dann geht es mir um
einen politischen begriff von
algorithmen der nicht nur den
technischen teil der codierten
anweisungen umfasst sondern viel
umfassender ist also da geht es
einerseits um die daten aus um welche
ausschnitte der welt werden erfasst und
wie
da geht es um die modelle das heißt wie
werden komplexe oftmals mehrdeutige
situationen und ziele übersetzt in einer
sprache die dann modelliert werden kann
da geht es natürlich um die codierung im
engeren sinne also das was die techniker
unter algorithmen verstehen und dann
gibt es aber auch noch um institutionen
um programme und praktiken in die diese
systeme eingebettet sind
an all diesen stellen den daten der
modellen der codierung den institutionen
sind menschen involviert sind also die
vorstellung von autonomen systemen da
irgendwie vor sich selbst irgendwie aus
unserer kontrolle entgleiten die halte
ich für falsch
auch die intelligenten systeme zeigen
dass sie eben eingebettet sind ganz
spezifischer programm den
programmatischen es gebe ein kleines
beispiel wenn sie jetzt google fragen
hauke jailbreak my iphone dann kriegen
sie auch obersten linke jailbreak said
to jailbreak iphones hc f der nächste
link ist sein
der complete zu finishen finish iphone
jailbreak guide also ungefähr die dinge
die man erwarten würde wenn sie jetzt
dieselbe frage ihrem iphone auf
attestiere stellen
kriegen sie als antwort kann dokumente
nun das ist keine und hier zeigt sich
doch eindeutig dass die diese
intelligenten systeme immer in gewissen
grenzen operieren an diese grenzen die
wurden für sie gesetzt und eindeutig
soll siri eben nicht sie dazu ermutigen
ihr iphone zu von serien zu befreien
das jetzt keine spezifische apfel
problems und allgemeines problem alles
alter systeme sind ihnen finden die
lösungen die die größe aus teilweise
autonom finden aber sie finden diese
lösungen immer nur innerhalb eines
raumes da ihnen zugewiesen wurde
wenn sie jetzt etwa google fragen zu
zuversicht mein personal data von google
dann ist der erste link der eintrag in
googles eigenen blog google siebziger
data safe nicht unbedingt das was sie
erwartet haben zu dieser frage
die vorhin angesprochenen mehr die
mentalität von algorithmen also
datenmodelle codierungen institutionen
ist insofern wichtig weil sie
vielfältige handlungsmöglichkeiten
eröffnet wenn ein problem nicht auf
einer ebene angelangt angegangen werden
kann etwa weil der code nicht zugänglich
ist dann sind immer noch die anderen
dimensionen vorhanden auf dem man
versuchen kann einfluss zu nehmen
man muss also nicht immer zugang zum
code haben können man muss auch nicht
immer den code lesen können um ihn zu
regulieren
das ist insofern wichtig weil wir
brauchen algorithmischen systeme wir
brauchen neue handlungs werkzeuge um die
komplexen probleme die unsere
gesellschaft immer stärker prägen
steuern zu können
auch wenn sich aktuell natürlich die
schlechten nachrichten häufen und der
überwachungs kapitalismus überhand zu
nehmen droht so können wir nicht zurück
wir brauchen intelligente systeme
wir brauchen viel intelligentere systeme
aber wir brauchen bessere brauchen viel
bessere
niemand will bei aller kritik an
suchmaschinen filter platten leben
ernsthaft zurück in die welt der zettel
kataloge
das ist nicht nur absolut und praktisch
und würde viele dinge verunmöglichen
sondern auch die vorstellung dass es ein
dass ein zentrales komitee entscheidet
was in den titel kosten soll und was
nicht ist hochgradig unattraktiv
ebenfalls klar ist dass wir weg wollen
von umweltzerstörenden und demokratie
schädigen zentralisierten
infrastrukturen ganz besonders im
energiebereich
dann brauchen wir intelligente anlage
die staub eines relativ primitiven
podcast modell ist ein sender eine große
energie station viele empfänger viele
endverbraucher ein intelligenter
komplexeres many to many modell in dem
jeder einsender und jeder empfänger von
energie sein kann ermöglichen aber
rastete viel komplexer werfen nur
braunkohle zu verbrennen und
intelligente adaptive systeme was wir
jetzt hier besonders interessiert ist
dass algorithmische systeme die
handlungsfähigkeit erweitern und damit
immer auch eine grundlage
gesellschaftliche macht darstellen
wie können wir diese macht steuern wie
können wir diese macht lenken so dass
sie uns erlaubt die probleme anzugehen
auf der höhe der komplexität auf der sie
sich stellen ohne dass wird damit völlig
neue konzentrationen von macht auslösen
es geht letztlich darum ob wir in einer
freiheitlichen oder in einer autoritären
gesellschaft leben werden die
infrastrukturen spielen hier eine große
rolle
der zeitpunkt das zu diskutieren ist
günstigen moment weil zum einen haben
sich algorithmus systeme auch wenn man
die presse
diese aufgeregt immer darüber berichtet
einen anderen eindruck vermittelt es
müssen systeme sind in deutschland und
im post rexit europa noch nicht sehr
verbreitet in den usa england etwa
werden 60 prozent aller großen
unternehmen lassen die
bewerbungsunterlagen wenn sie in den job
als es dennoch gibt was die job
ausschreiben lassen die eintreffenden
bewerbungsunterlagen zuerst aus einer
algorithmische vorsortierung laufen
bevor sie überhaupt jemals ein mensch
liest in deutschland sind das knapp
sechs prozent erst automatische
gesichtserkennung die
überwachungskameras mit
polizeidatenbanken ab kreis gibt es in
deutschland erst rund sieben flughäfen
das heißt es sind hier noch relativ am
anfang eines problems und es besteht die
möglichkeit richtlinie zu setzen bevor
die probleme tatsächlich weit verbreitet
sind
dazu kommt dass die neue eu datenschutz
grund verordnung gibt uns neue mittel in
der hand an die hand in der
auseinandersetzung diese systeme artikel
12 13 17 legen fest dass müsstet ihr bei
automatischer entscheidungsfindung
aussagekräftige informationen über die
involvierte logik sowie die tragweite
und den englisch und die angestrebten
auswirkung einer derartigen verbreitung
für die betroffenen personen erklärt
werden müssen
der zentrale begriff ist hier
aussagekräftig wobei was er genau
bedeutet werden die gesicht die gerichte
festlegen müssen aber die ausrede aber
das ist zu komplex das können wir nicht
erklären dessen proprietär zumindest
nach der idee dieses gesetzes gilt dann
nicht mehr
wir werden das sehen wenn es in einem
jahr dann eu-weit in kraft tritt ob es
hier eine möglichkeit gibt über diese
auskunftspflicht neue transparenz zu
schaffen und dies notwendig weil wir
diese gedanken
diese algorithmen diese diese systeme
einlegen müssen und das positive ziele
ausrichten wenn wir uns überlegen wie
wir das machen kommen wollen oder können
haben wir das problem dass er viel über
das meer sprechen extrem weit ist immer
so ein bisschen zu strukturieren
einzugrenzen schlage ich vor sind drei
klassen zu unterteilen
sie werfen jeweils unterschiedlich
schwierige probleme auf fangen wir mit
dem relativ einfachen problem an mit
maschinen die maschinen steuern
hier geht es um komplexe infrastrukturen
den handeln für die nutzer und
nutzerinnen relativ klar sichtbar ist
nehmen wir etwa von angesprochene
intelligente energienetze das wohl für
die sowohl die einspeisung wie auch die
entnahme von strom dynamisch regeln für
den nutzer ist die komplexität im
hintergrund abläuft relativ egal
dann kann keiner kann problemlos sehen
ob strom der als den schalter an macht
wie viele bezahlt und ob der strom den
er selber produziert abgenommen wurden
auch politisch bewegen wir uns hier in
relativ konventionellen bereich und es
geht nur darum die eckwerte eines
solchen systems festzulegen etwa in
bezug auf die preise oder den
datenschutz und wie das system sich dann
selber regeln können wir getrost sagen
dem system selbst überlassen wir sind
hier auch noch in einem relativ klaren
politischen problem aber wenn wir uns
sehen viele von ihnen nämlich an werden
die kommt die kontroverse um den smart
meter verfolgt zu haben dann sieht man
dass auch so ein vermeintlich klares
problemfeld in der praxis extrem
schwierig ist bei der einfluss des
lobbyings auf die politischen
entscheidungen so groß geworden ist und
die meisten politiker sich mit der
politik der technologie überhaupt nicht
auskennen aber dass es eine kontroverse
gibt dass es möglich ist dieses mal mit
einmal aufzuschreiben und zu merken dass
er gar nicht so smart ist das ist noch
ein gutes zeichen das zeigt dass aus
einem verständlichen problemfeld sind
komplexer ist es schon bei maschinen die
mit menschen integrieren ich denke hier
an alle diese systeme die erst dann in
gang kommen wenn menschen mit ihnen
interagieren etwa indem sie auf google
oder sonst irgendwo eine suchabfrage
stellt hiermit das problem dass es
oftmals unklar ist wie diese systeme
agieren und wie wir ihren output
bemessen sollen
im unterschied zu systemen wie den eben
erwähnten smart grids ist die nutzer
position schwächer weil er dass sie
überhaupt keine klaren zitieren verfügt
die die handlungen des systems zu
beurteilen
und es ist oft auch objektiv gesehen
dann ist möglich zu sagen was es hier
die ideale handlung knappen system gut
funktioniert umso wichtiger wäre es
verschiedene systeme vergleichen zu
können
es ist absolut unmöglich zu sagen was
die bestmögliche suchabfrage ist das
können wir nicht wissen wir kennen den
problem dem problem spacer zusagen nicht
und wir haben wir können nicht sagen ob
eine eine suche jetzt wirklich unsere
frage beantwortet oder nicht
aber es ist relativ einfach zu sagen und
suchmaschinen besser versucht maschine
be
das heißt wenn wir eine blackbox nicht
öffnen können
so müssen wir denn wenigstens in der
lage seien verschiedene black boxes
miteinander zu vergleichen
das genau ist aber das problem bei
maschinen dient bedienen wir schon gar
nicht mehr interagieren sondern die die
welt für uns produzieren
das sind eben systeme die nicht auf
unser interaktion warten nicht auf mit
uns sozusagen direkt interagieren
anderem hund im hintergrund einfach
kontinuierlich ablaufen und die welt
hervorbringen so wie wir sie dann
vorfinden und in der wir uns dann
orientieren müssen
hier gibt es keine
vergleichsmöglichkeiten
hier sind wir einfach mit resultaten
konfrontiert von denen überhaupt nicht
wissen inwieweit überhaupt vorbereitet
durch algorithmische systeme bearbeitet
worden
relativ offen offensichtliches beispiel
ist der facebook newsfeed der natürlich
wie wir alle wissen nicht auf eine
suchanfrage wartet sondern einfach
forciert was wir zu sehen bekommen wir
haben nach überhaupt keine möglichkeiten
hier eine andere suchen oder eine andere
sortierung zu machen weil es keinen
vergleichbaren kvb gibt viele smart city
applikationen die die stadt mit sensoren
erfassen sollen eben auch in ähnlicher
weise im hintergrund ablaufen am besten
noch autonom und so dass die benutzer
milli mit ihnen
und agieren wie wissen oftmals überhaupt
nicht ob sie überhaupt agieren ob die
systeme überhaupt irgendwas machen und
wenn sie irgendwas machen was sie da
machen dem unterschied einer der höchst
unterschiedlichen situationen muss man
mehrere maßnahmen ergreifen also
zumindest mal in die richtung denken um
sicherzustellen dass die neuen
handlungsmöglichkeiten dieses systeme im
interesse aller eingesetzt werden weil
was wir brauchen ist eine infrastruktur
für individuelle und kollektive frauen
die in komplexen situationen
dafür brauchen sie mindestens drei
eigenschaften die sie heute meistens
nicht haben
lokaler systeme sind ganz allgemein
gesprochen desto besser ist die chance
politisch aus gesellschaft auf die
einfluss zu nehmen als eine faustregel
könnte man sagen systeme sollten in der
jurisdiktion angesiedelt sein in der
auch die menschen leben die von ihnen
betroffen sind
das ist auch ein grund warum wir uns
gegen schiedsgerichte platziert werden
müssen was sie genau dieses prinzip
ausholen offenheit sowohl was den code
aber auch was die daten betrifft macht
es einfacher prozesse lokal anzusiedeln
und zentralistische konzentrationen die
im moment sozusagen dieser branche an
diesem bereich regen dem etwas zu gegen
zu setzen
diese betonung auf lokalen auf offen ist
auch was im moment die aktuelle
stadtregierung von barcelona
technologische souveränität nennt und es
ist etwas das ich glaube ganz ganz
grundsätzlich ist wenn wir irgend eine
chance haben wollen als gesellschaft auf
dieser systeme 1 zu werden müssen wir
sie in den bereich bringen den wir auch
gestalten können über parlamente über
gesetzgebungen andere bereiche
oftmals ist es wichtiger zu wissen nicht
was ein sowie ein system eine
entscheidung im einzelfall zustande
gekommen ist das luft lässt sich in
dynamischen und selbst lernen systemen
oft sehr schlecht sagen aber es ist
wichtiger da deshalb zu wissen was ein
system grundsätzlich kann
wir müssen die umrisse des möglichkeit
raum kennen in denen dann ein internet
intelligentes system selbstständig die
lösung sucht
finden wir etwa auch der glaube dass sie
sich weigert mir in gewissen fällen
auskunft zu geben
ich muss dafür nicht wissen wie sie ihre
funktioniert das muss einfach sehen dass
das hier vom von apple oder wer immer
das system konzipiert gewisse grenzen
gesetzt werden über die das system nicht
hinauskam nicht hinausgehen darf auch
wenn es im grunde einfach wer die
passende information zu finden
hier können sie neue europäische
datenschutz grund verordnung folgte die
gerichte stark auslegen und falls es
wirklich diese auskunftspflicht braucht
diese relevant wird von großem nutzen
sein um eben den möglichkeit frauen sind
die systeme besser kennen zu werden
ein ganz wichtiger punkt ist dass diese
systeme die müssen falls offizier war
sein
das heißt es muss möglich sein zu sehen
dass diese intelligenten systeme
objektiv wie die anleihen sind falsch
entschieden haben und entsprechende
korrekturen einzufordern
sonst besteht die gefahr dass falsche
annahme sich verfestigen
man denke nur etwa daran wie die erhöhte
polizeipräsenz die durch verdeckte
politik in gewissen gegenden eingeführt
werden kann
fast zwangsläufig dazu führt dass eine
höhere zahl von straftaten festgestellt
worden
das heißt nicht dass die
mehr straftaten begangen werden können
aber es sind dies mehr polizeipräsenz
mehr straftaten feststellen kann und
damit zu einer selbst validierung eines
systems führt oder ein anderer grund
warum systeme voll sein müssen ist dass
die gefahr besteht dass sie
diskriminierung einzelner dass solche
systeme zunimmt es reicht aber nicht
einfach nur feststellen zu können dass
ein system falsch liegt sondern man muss
es müssen auch mittel bereitstellen
gestellt werden etwa ein bereits durch
schadenersatz gegen diskriminierung und
falsche systeme vorzugehen
sonst bleiben die kosten immer nur auf
der seite der betroffenen aber nie
sozusagen auf der seite der täter hängen
das ist jetzt aber zunächst einmal dinge
die wir die wir wollen von von
algorithmischen systemen die wir die wir
haben
aber eigentlich ist das viel größere
problem dass es notwendig ist dass wir
diese ziele also dass wir diese
handlungs potenziale die in diesen
systemen drinstecken auf andere ziele
ausgerichtet werden
die meisten systeme heute sind geprägt
durch ganz klassisches neoliberales
denken das heißt sie betonen die
unterschiede zwischen den menschen
sie setzen auf vergleichbarkeit und
konkurrenz indem sie rankings erstellen
bei denen es immer besser ist möglichst
weit oben zu stehen und sich relativ zu
anderen zu verbessern wir brauchen aber
dagegen viel mehr systeme die das
gemeinsame zwischen den menschen
hervorheben die uns erlauben als gruppe
zu handeln und nicht mehr einfach nur
aus einzelnen deren einzeltaten dann
hinter ihrem rücken irgendwie aggregiert
werden anstatt endlos die individuelle
gesundheit zu optimieren durch
irgendwelche fitness und ähnliches
sollten uns intelligente systeme helfen
kollektive probleme die
luftverschmutzung oder fein stadt zu
erkennen oder neue plätze zu schaffen an
denen wir zusammen kommen können
beispielsweise denken sie an die vielen
ungenutzten räume beispiel öffentlichen
verwaltung wo ganze gebäude ganze
straßenzüge
nach 18 uhr einfach leer stehen oder wir
können wir können uns systemen überlegen
die partizipation potting als ein
öffentlich verhandeln von budgetposten
erlauben
das ist nun keine idee die gene rhino s
aber intelligente können systeme können
und helfen wesentlich die hürden zu
senken um an solchen systemen
teilzunehmen und damit den kreis derer
die gemeinsam handeln können zu
erweitern
der vielleicht größte projekt bei dem
uns intelligente systeme helfen können
wer ein anderes verhältnis der natur zu
entwickeln also auf etwas das nicht mehr
einfach nur da draußen ist sondern etwas
mit dem wir auf vielfältige komplexe
weiter verbunden sind lassen sie mich in
einem konkreten beispiel aufhören was
wir hier sehen ist die spur eine freies
von der über ein jahr von der westküste
floridas in die mitte des atlantiks über
mehr als 8000 kilometer
dieses tracking wird möglich weil das
tier mit einem sensor ausgestattet wurde
diese erlaubt aber nicht nur
positionsdaten zu erheben sondern auch
alle andern eine reihe von anderen
körperdaten eine art fit für haie und
das alleine bewirkt von vielen dh das
tier der hai ist nicht mehr ein anonymes
rettungswesen sondern es trinkt er
street uns als ein individuum gegenüber
stellen sie sich vor dass all diese
daten
mit automatisierter text generierung
software verbunden wird
da kam es dabei in echtzeit erzählen wie
es ihm geht
komplexe formen des zusammenlebens
werden denkbar
wir wissen wann der hai der alten stadt
das ist natürlich kein rein technisches
problem und technische systeme freie zu
kranken wirklich ausreichen aber sie
sind notwendig und komplexere formen der
weltsicht und des handelns in der welt
überhaupt denkbar zu machen
da fehlten ihm wenn wir die dystopische
visionen des überwachungs kapitalismus
verhindern wollen aber dennoch nicht auf
neue zugänge zu uns zu drängenden
problemen verzichten wollen dann müssen
wir diese algorithmischen systeme zuerst
als politischer systeme verstehen auch
systeme der macht und der aushandlung
neuer beziehungen innerhalb der
gesellschaft und diese
auseinandersetzung um die politische
einordnung dieses systeme entscheidet
sich nicht auf der ebene des todes danke
[Musik]
vielen dank felix klare wir haben noch
zeit für umgesetzt mit minuten für zwei
schrauben 23 fragen ich sehe schon die
erste hand sehr schön
hallo vielen dank der mieter mehrfach
auf die dsgv repariert oder referenziert
vielmehr tschuldigung ich weine sowie an
gesagt ja es gäbe die normen 12 13 14
das sind ja nur informationspflichten
werden die automatisierte
einzelentscheidungen 22 geregelt ist so
also lange rede kurzer sinn es hieß ja
von ihm aus ja die bsg v würde sozusagen
da an der stelle helfen
aufgrund der transparenz regelungen aber
grundsätzlich ja immer noch so die dsgv
wenig zu algorithmen etat therapie
überhaupt war nur im rahmen der
automatisierten einzelentscheidung und
dies grundsätzlich verboten
also da würde ich gerne machen ihnen
sozusagen die konter einschätzung
bekommen oder fragen sie das verstanden
haben aus dem was sie gesagt haben nicht
so richtig rein machen also der der
punkt dass sie nicht damit hinaus wollte
ist das eben eine neue auskunftspflicht
gibt und diese auskunftspflichten
aussagekräftig sein muss in dem sinne
dass sie dass sie in einer sprache die
für denjenigen der die auskunft verlangt
erklärt wieso etwas vorgeht und was die
ziele sind die mit diesen
automatisierten entscheidungsverfahren
verfolgt werden also das dass man
einerseits sind nicht geht nicht um eine
deren offenlegung des kurses hat einen
anderen sinn dieser diese algorithmen
tüv oder so sondern nur darum eine
einschätzung machen zu können was diese
maschine mit meinen daten und damit
sozusagen ihr gegenüber macht jetzt ist
die frage wird sein dass nämlich
anwender fragen der gerichte sein auf
was genau so zu sagen dass angewendet
werden kann und was aussagekräftig
dann in der praxis tatsächlich bedeutet
aber das müssen wir schauen dass werden
die ersten sozusagen musterprozesse
zeigen aber ich glaube hier wird
zumindest eine eine neue art von ausfuhr
von von auskunftspflichten geht nicht
nur einfach heißt wir hier sind sie 200
seiten daten die die firma die wir dann
eventuell ausgedruckt einem zur
verfügung stellen wie das facebook ja
immer mal wieder gemacht hat es gibt
noch eine frage hier komme lange simon
piratenpartei hallo die diese dieses
spannungsfeld zwischen individuell
weiter die sie vorhin angesprochen haben
diese individuellen daten die ihnen
ranking gehen und community data was im
rahmen von big data eben die hilfreichen
und nützlichen daten sein können haben
sie das gefühl oder eine einschätzung
wie weiter jetzt mit diskurs schon
beginnend ob das verständnis da schon
wächst oder ob da jetzt gerade in
deutschland in österreich vielleicht das
noch auf einem eher sowohl gesellschaft
als auch politik er am nullpunkt sitzt
ich habe schon das ist ein gewisses
verständnis entwickelt das ist sicher
ein prozess der am anfang steht aber
nicht sie sind nicht am nullpunkt sehen
ich glaube dass das problem spielt sich
dann eher wenn es darum geht tatsächlich
etwas zu machen weil es ja nicht nur
darum geht es wenn wir sagen wir wollen
diese daten veröffentlichen
auch in relativ konventionellen open
data projekten ja nicht nur ein
technischer aktuellen welchen in welchem
format jetzt geöffnet werden sondern es
einerseits ist ein interner umbau der
verwaltung dass diese daten überhaupt so
erhoben werden oder so versuche gestellt
werden und dann noch viel schwieriger
ist es sie ja einfach hinfahren
veränderte feilten bürgern die damit
sozusagen nicht mehr die die bittsteller
sind die sozusagen um jedes einzelne
blatt kämpfen müssen
für auskunft sondern die die
automatisiert zugriff erhalten können um
selber mit den daten dann handeln zu
können
und da glaube ich fehlt der politische
wille da sind wir noch er bei null wie
beim bei der reinen verständnis frage ok
ich glaubte etwas müssen leider haben
wir dann noch einmal
[Applaus]
[Musik]
Weitere ähnliche Videos ansehen
5.0 / 5 (0 votes)