re:publica 2017 - Felix Stalder: Die Algorithmen, die wir brauchen

Summary

Der Vortrag diskutiert politische Aspekte von Algorithmen, die weit über technische Anweisungen hinausgehen. Es geht um die Erfassung von Daten, Modellierung komplexer Situationen und die Einbettung in Institutionen. Der Sprecher betont, dass Algorithmen nicht autonom, sondern in gesellschaftlichen Kontexten eingebettet sind. Er fordert mehr Transparenz und Kontrolle, um algorithmische Systeme im Interesse aller zu nutzen und negative Auswirkungen zu vermeiden. Zudem thematisiert er die EU-Datenschutzgrundverordnung als Mittel zur Förderung von Transparenz.

Takeaways

• 🤖 Algorithmen sind politische Konzepte, die nicht nur technische Anweisungen umfassen, sondern auch Daten, Modelle, Codierungen und Institutionen beinhalten.
• 🧠 Die Menschheit ist in jedem Schritt involviert, was die Vorstellung von autonomen Systemen, die außer Kontrolle geraten, ad absurdum führt.
• 🔍 Suchanfragen wie 'jailbreak my iPhone' auf Google führen zu Ergebnissen, die möglicherweise nicht die beabsichtigte Antwort sind, was zeigt, dass Algorithmen in bestimmten Grenzen operieren.
• 📱 Wenn man Siri fragt, ob sie das iPhone jailbreaken kann, zeigt dies, dass intelligente Systeme in spezifischen Programmen eingebettet sind und bestimmte Aktionen nicht unterstützen.
• 🔒 Die EU-Datenschutzgrundverordnung bietet neue Mittel zur Regulierung algorithmischer Systeme, insbesondere durch die Verpflichtung, bei automatischer Entscheidungsfindung über die involvierte Logik und die Auswirkungen aufzuklären.
• 🏭 Bei der Steuerung von Maschinen, die mit Menschen interagieren, ist die Nutzerposition oft schwächer, da sie keine klaren Kriterien haben, um die Systemausgaben zu bewerten.
• 🌐 Für Systeme, die die Welt für uns produzieren, ohne direkt mit uns zu interagieren, wie z.B. den Facebook Newsfeed, gibt es keine Möglichkeit, die Ergebnisse zu vergleichen oder zu beeinflussen.
• 🏙️ Smart City-Anwendungen, die oft im Hintergrund autonom ablaufen, erfordern eine Überwachung, um sicherzustellen, dass sie im Interesse aller eingesetzt werden.
• 🌳 Intelligente Systeme können helfen, ein anderes Verhältnis zur Natur zu entwickeln, indem sie uns helfen, unsere Verbindung mit der Umwelt zu verstehen und zu schätzen.
• 📈 Algorithmen sollten nicht nur auf individuellen Unterschieden und Wettbewerb basieren, sondern auch auf gemeinsamen Interessen und kollektiven Problemen.
• 🛑 Transparenz und Offenheit bei Algorithmen sind entscheidend, um sicherzustellen, dass die Systeme verständlich und nachvollziehbar sind und dass sie im Einklang mit gesellschaftlichen Werten stehen.

Q & A

Was versteht der Sprecher unter 'Algorithmen' in politischer Hinsicht?

Der Sprecher versteht unter 'Algorithmen' nicht nur die technischen, codierten Anweisungen, sondern auch die Daten, die Modelle, die Codierung, Institutionen, Programme und Praktiken, in die diese Systeme eingebettet sind.

Was sind die Hauptbestandteile, die der Sprecher bei der Diskussion von Algorithmen berücksichtigt?

Die Hauptbestandteile sind Daten, Modelle, Codierung im engeren Sinne, Institutionen, Programme und Praktiken.

Wie sieht der Sprecher die Beteiligung von Menschen an Algorithmen?

Der Sprecher betont, dass Menschen an allen Stellen der Algorithmen - bei den Daten, Modellen, der Codierung und den Institutionen - involviert sind und die Vorstellung von autonomen Systemen, die aus der Kontrolle geraten, für ihn falsch ist.

Was ist das Beispiel, das der Sprecher gibt, um die Funktionsweise von Algorithmen zu veranschaulichen?

Der Sprecher nutzt das Beispiel der Google-Suche nach 'jailbreak my iPhone' und vergleicht es mit der Antwort des iPhone-Assistenten Siri, um zu zeigen, dass Algorithmen in bestimmten Grenzen operieren, die für sie gesetzt wurden.

Was zeigt der Sprecher mit dem Beispiel der Google-Suche nach 'jailbreak my iPhone'?

Er zeigt, dass Algorithmen in gewissen Grenzen operieren und dass sie nicht dazu ermutigen, gegen die Regeln zu verstoßen, wie im Beispiel der iPhone-Entsperrung.

Welche Rolle spielen Institutionen bei der Einbettung von Algorithmen in das Gesellschaftssystem?

Institutionen sind Teil der Systeme, in die Algorithmen eingebettet sind und bestimmen, innerhalb welcher Grenzen diese Algorithmen operieren und welche Handlungen sie ausführen oder unterstützen.

Was ist das Hauptproblem, das der Sprecher mit der heutigen Nutzung von Algorithmen anprangert?

Der Sprecher kritisiert, dass Algorithmen oft nur auf individuelle Wettbewerbsfähigkeit und Konkurrenz ausgerichtet sind, anstatt auf das Gemeinwohl und kollektive Probleme wie Umweltverschmutzung.

Wie können Algorithmen nach Auffassung des Sprechers besser genutzt werden?

Algorithmen sollten genutzt werden, um das Gemeinwohl zu fördern, z.B. durch die Identifizierung von kollektiven Problemen wie Luftverschmutzung oder der Schaffung von Gemeinschaftsräumen.

Was ist die Bedeutung der neuen EU-Datenschutzgrundverordnung (DSGVO) für Algorithmen?

Die DSGVO bringt neue Mittel zur Transparenz und Auskunftspflicht für automatisierte Entscheidungsfindungsverfahren, was bedeutet, dass Betroffene über die involvierte Logik und die Auswirkungen solcher Verfahren informiert werden müssen.

Wie kann die DSGVO dazu beitragen, die Auswirkungen von Algorithmen zu kontrollieren?

Durch die Verpflichtung, aussagekräftige Informationen über die Logik und Auswirkungen von automatisierten Entscheidungsverfahren zu geben, können die Betroffenen besser verstehen, wie Algorithmen Entscheidungen treffen und gegebenenfalls dagegen vorgehen.

Was sind die drei Klassen von Problemen, die der Sprecher in Bezug auf Algorithmen und ihre Auswirkungen auf die Gesellschaft identifiziert?

Die drei Klassen sind: Maschinen, die Maschinen steuern; Maschinen, die mit Menschen integriert sind; und Maschinen, die die Welt für uns produzieren und kontinuierlich ablaufen.

Outlines

00:00

📈 Einführung in die politischen Aspekte von Algorithmen

Der Sprecher erläutert, dass Algorithmen nicht nur technische Anweisungen umfassen, sondern auch Daten, Modelle und Institutionen beinhalten. Algorithmen sind in Systeme eingebettet, in denen Menschen beteiligt sind. Autonome Systeme sind nicht wirklich autonom, sondern operieren innerhalb von vorgegebenen Grenzen, wie das Beispiel von Siri und Google zeigt. Der Fokus liegt darauf, dass algorithmische Systeme innerhalb bestimmter Rahmenbedingungen arbeiten, die von Menschen festgelegt wurden.

05:00

🔋 Intelligente Energiesysteme und ihre gesellschaftliche Bedeutung

Intelligente Energiesysteme ermöglichen eine komplexe und adaptive Steuerung von Energie, wobei jeder Akteur sowohl Sender als auch Empfänger sein kann. Solche Systeme erweitern die Handlungsmöglichkeiten und stellen gesellschaftliche Macht dar. Es ist wichtig, diese Macht so zu steuern, dass sie zur Lösung komplexer Probleme beiträgt, ohne neue Machtkonzentrationen zu schaffen. Der Übergang zu intelligenten, dezentralen Energiesystemen ist notwendig, um umweltschädliche und demokratiefeindliche Infrastrukturen zu überwinden.

10:02

🔍 Herausforderungen bei maschinellen Interaktionen und politischen Implikationen

Die Interaktion zwischen Maschinen und Menschen ist komplex und oft intransparent. Nutzer haben keine klaren Kriterien, um die Handlungen von Systemen zu beurteilen, was den Vergleich zwischen verschiedenen Systemen erschwert. Dies ist besonders problematisch bei Systemen, die autonom arbeiten und die Welt für uns formen, wie der Facebook-Newsfeed. Politische Maßnahmen sind notwendig, um sicherzustellen, dass diese Systeme im Interesse der Gesellschaft eingesetzt werden.

15:02

🏙️ Lokale und offene Systeme als Schlüssel zur gesellschaftlichen Kontrolle

Um die Kontrolle über intelligente Systeme zu behalten, müssen sie lokal angesiedelt und offen gestaltet sein. Systeme sollten in der Jurisdiktion betrieben werden, in der die betroffenen Menschen leben. Offenheit bezüglich des Codes und der Daten erleichtert es, die Systeme lokal zu verankern und gegen zentralisierte Machtstrukturen vorzugehen. Es ist wichtig, die Möglichkeiten und Grenzen dieser Systeme zu verstehen, um sie effektiv regulieren zu können.

20:04

🤝 Gemeinsame Handlungsmöglichkeiten durch intelligente Systeme

Intelligente Systeme sollten dazu beitragen, gemeinsame Probleme zu lösen und kollektives Handeln zu fördern. Sie könnten uns helfen, Umweltprobleme zu erkennen und öffentliche Räume besser zu nutzen. Der Fokus sollte darauf liegen, das Gemeinsame zwischen Menschen zu betonen, anstatt individuelle Unterschiede zu verstärken. Solche Systeme könnten auch die Teilnahme an demokratischen Prozessen erleichtern und so die gesellschaftliche Teilhabe erweitern.

25:07

🌍 Neue Beziehung zur Natur durch technologische Integration

Ein Beispiel für die Nutzung intelligenter Systeme zur Verbindung mit der Natur ist die Überwachung von Tieren wie Haien mittels Sensoren. Diese Systeme ermöglichen es, detaillierte Daten zu sammeln und komplexe Formen des Zusammenlebens zu fördern. Die Integration solcher Technologien kann helfen, neue Zugänge zu ökologischen und gesellschaftlichen Herausforderungen zu finden und eine nachhaltigere Interaktion mit der Natur zu entwickeln.

Keywords

💡Algorithmen

Algorithmen sind in diesem Video als politische und technische Konzepte vorgestellt, die nicht nur die codierten Anweisungen umfassen, sondern auch die Daten, Modelle, Codierungen und Institutionen einschließen. Sie sind zentral für das Verständnis der视频中锘敲矗?die视频中讨论了算法如何影响社会结构和个人自由。例如, der Sprecher erwähnt, dass Algorithmen oft in den Kontext von Überwachungskapitalismus eingebettet sind und wie sie zur Lösung komplexer Probleme eingesetzt werden können, ohne neue Machtkonzentrationen zu erzeugen.

💡Daten

Daten sind in diesem Video als Ausgangspunkt für Algorithmen dargestellt, wobei es um die Auswahl der Weltausschnitte geht, die erfasst werden. Daten sind essentiell für die Funktionsweise von Algorithmen und sind mit der Frage verbunden, wie sie gesammelt, verarbeitet und genutzt werden. Im Video wird diskutiert, dass die Auswahl und Verarbeitung von Daten eine große Rolle bei der Bestimmung der Ergebnisse von Algorithmen spielen, wie im Beispiel von Google-Suchanfragen gezeigt wird.

💡Modelle

Modelle beziehen sich auf die Art und Weise, wie komplexe, oft mehrdeutige Situationen und Ziele in eine Form übersetzt werden, die von Algorithmen verarbeitet werden können. Im Video wird betont, dass Modelle eine Schlüsselrolle bei der Interpretation von Daten spielen und wie sie die Grundlage für die Codierung von Algorithmen sind. Die Diskussion um Modelle zeigt, wie sie die Realität abbilden und wie sie in Algorithmen kodiert werden, um Entscheidungen zu treffen.

💡Codierung

Codierung im engeren Sinne bezieht sich auf die technische Umsetzung von Modellen in Algorithmen, wie von Technikern verstanden. Im Video wird erwähnt, dass Codierung ein entscheidender Schritt ist, um die Modelle in eine von Maschinen verarbeitbare Sprache zu übersetzen. Die Codierung ist auch mit der Diskussion über die Transparenz und Verständlichkeit von Algorithmen verbunden, da sie die Grundlage für die Entscheidungen bildet, die Algorithmen treffen.

💡Institutionen

Institutionen werden in diesem Video als Teil des Konzepts der Algorithmen dargestellt, einschließlich der Programme und Praktiken, in denen diese Systeme eingebettet sind. Institutionen haben Einfluss auf die Gestaltung und den Einsatz von Algorithmen, wie im Kontext der Datenschutz-Grundverordnung (DSGVO) erörtert wird. Sie sind dafür verantwortlich, Regeln und Rahmenbedingungen für den Einsatz von Algorithmen zu schaffen und zu überwachen.

💡Transparenz

Transparenz ist ein zentrales Thema im Video, das sich mit der Notwendigkeit auseinandersetzt, Algorithmen verständlich und nachvollziehbar zu machen. Im Kontext der DSGVO werden klare Informationen über die involvierte Logik und die Auswirkungen von automatisierten Entscheidungsverfahren gefordert. Transparenz ist entscheidend, um die Kontrolle und Verantwortung von Algorithmen sicherzustellen, wie im Beispiel der Google-Suchanfrage nach 'Jailbreak my iPhone' gezeigt wird.

💡Datenschutz

Datenschutz ist ein wichtiges Thema im Video, das sich auf die Verantwortung von Algorithmen bezieht, bei der Verarbeitung persönlicher Daten. Die DSGVO wird als ein Instrument zur Sicherstellung des Datenschutzes in der Diskussion über Algorithmen erwähnt. Datenschutz ist ein Aspekt, der bei der Gestaltung und Nutzung von Algorithmen berücksichtigt werden muss, um die Rechte und Privatsphäre der betroffenen Personen zu schützen.

💡Intelligente Systeme

Intelligente Systeme werden im Video als Algorithmen mit eingebetteter Intelligenz beschrieben, die in spezifischen Programmen eingesetzt werden. Sie sind in der Lage, komplexe Aufgaben zu lösen, aber immer noch innerhalb der Grenzen, die für sie gesetzt wurden. Im Video wird betont, dass intelligente Systeme nicht autonom sind, sondern in einer bestimmten Struktur eingebettet sind, wie im Beispiel von Siri, der nicht dazu ermutigt wird, iPhones zu entsperren.

💡Handlungsmöglichkeiten

Handlungsmöglichkeiten beziehen sich auf die Fähigkeit von Algorithmen, in komplexen Situationen Lösungen zu finden, auch wenn der Code nicht zugänglich ist. Im Video wird erwähnt, dass es wichtig ist, die verschiedenen Dimensionen von Algorithmen zu verstehen und zu nutzen, um Einfluss auf sie zu nehmen. Handlungsmöglichkeiten erweitern die Möglichkeiten, wie Algorithmen in der Gesellschaft eingesetzt und reguliert werden können.

💡Politische Einordnung

Politische Einordnung bezieht sich auf den Prozess, Algorithmen in den politischen Diskurs und die politische Gestaltung einzubinden. Im Video wird diskutiert, wie Algorithmen als politische Systeme verstanden werden müssen, um ihre Auswirkungen auf die Gesellschaft zu steuern und zu lenken. Politische Einordnung ist entscheidend, um sicherzustellen, dass Algorithmen im Interesse aller eingesetzt werden und nicht zu neuen Machtkonzentrationen führen.

Highlights

Algorithmen sind politische Konzepte, die nicht nur technische Anweisungen, sondern auch Daten, Modelle, Codierungen und Institutionen umfassen.

Intelligente Systeme sind eingebettet in spezifische Programme und nicht autonom.

Beispiel für die Grenzen von Algorithmen: Google und Siri weigern sich, Anleitungen für das Jailbreaken von iPhones zu liefern.

Algorithmen sind in bestimmten Grenzen eingefasst, die für sie gesetzt wurden.

Die EU-Datenschutzgrundverordnung bietet neue Mittel zur Regulierung algorithmischer Systeme durch Informationspflichten.

Algorithmen sind wichtig für die Bewältigung komplexer Probleme in der Gesellschaft.

Intelligente Systeme können helfen, neue Handlungswerkzeuge für die Steuerung von Problemen zu schaffen.

Smart Grids als Beispiel für intelligente Systeme, die die Dynamik von Energienetzen verbessern können.

Die Bedeutung von Transparenz und Offenheit bei der Regulierung algorithmischer Systeme.

Lokale Systeme sind besser für die politische Partizipation und Einflussnahme.

Die Notwendigkeit, algorithmische Systeme zu verstehen, um sie im Interesse aller einzusetzen.

Die Herausforderung der Integration von Maschinen in den Alltag, die mit Menschen interagieren.

Die Komplexität von Systemen, die die Welt für uns produzieren, ohne direkt mit uns zu interagieren.

Die Bedeutung von Feedback-Mechanismen, um sicherzustellen, dass Algorithmen fair und transparent sind.

Die Notwendigkeit, algorithmische Systeme auf ihre Fähigkeit zur Lösung von kollektiven Problemen auszurichten.

Die Rolle von Algorithmen bei der Schaffung neuer Beziehungen innerhalb der Gesellschaft und der politischen Aushandlung.

Die Herausforderung, algorithmische Systeme zu regulieren, ohne in eine dystopische Überwachungsgesellschaft abzurutschen.

Die Bedeutung von Transparenz und Offenheit im Code und bei den Daten für die politische Kontrolle von Algorithmen.

Die Diskussion um die Auswirkungen von Algorithmen auf die Gesellschaft und die Notwendigkeit, sie im politischen Diskurs zu integrieren.

Transcripts

[Musik]

[Applaus]

[Musik]

hallo schön gut nachmittag wenn ich von

algorithmen sprecher dann geht es mir um

einen politischen begriff von

algorithmen der nicht nur den

technischen teil der codierten

anweisungen umfasst sondern viel

umfassender ist also da geht es

einerseits um die daten aus um welche

ausschnitte der welt werden erfasst und

wie

da geht es um die modelle das heißt wie

werden komplexe oftmals mehrdeutige

situationen und ziele übersetzt in einer

sprache die dann modelliert werden kann

da geht es natürlich um die codierung im

engeren sinne also das was die techniker

unter algorithmen verstehen und dann

gibt es aber auch noch um institutionen

um programme und praktiken in die diese

systeme eingebettet sind

an all diesen stellen den daten der

modellen der codierung den institutionen

sind menschen involviert sind also die

vorstellung von autonomen systemen da

irgendwie vor sich selbst irgendwie aus

unserer kontrolle entgleiten die halte

ich für falsch

auch die intelligenten systeme zeigen

dass sie eben eingebettet sind ganz

spezifischer programm den

programmatischen es gebe ein kleines

beispiel wenn sie jetzt google fragen

hauke jailbreak my iphone dann kriegen

sie auch obersten linke jailbreak said

to jailbreak iphones hc f der nächste

link ist sein

der complete zu finishen finish iphone

jailbreak guide also ungefähr die dinge

die man erwarten würde wenn sie jetzt

dieselbe frage ihrem iphone auf

attestiere stellen

kriegen sie als antwort kann dokumente

nun das ist keine und hier zeigt sich

doch eindeutig dass die diese

intelligenten systeme immer in gewissen

grenzen operieren an diese grenzen die

wurden für sie gesetzt und eindeutig

soll siri eben nicht sie dazu ermutigen

ihr iphone zu von serien zu befreien

das jetzt keine spezifische apfel

problems und allgemeines problem alles

alter systeme sind ihnen finden die

lösungen die die größe aus teilweise

autonom finden aber sie finden diese

lösungen immer nur innerhalb eines

raumes da ihnen zugewiesen wurde

wenn sie jetzt etwa google fragen zu

zuversicht mein personal data von google

dann ist der erste link der eintrag in

googles eigenen blog google siebziger

data safe nicht unbedingt das was sie

erwartet haben zu dieser frage

die vorhin angesprochenen mehr die

mentalität von algorithmen also

datenmodelle codierungen institutionen

ist insofern wichtig weil sie

vielfältige handlungsmöglichkeiten

eröffnet wenn ein problem nicht auf

einer ebene angelangt angegangen werden

kann etwa weil der code nicht zugänglich

ist dann sind immer noch die anderen

dimensionen vorhanden auf dem man

versuchen kann einfluss zu nehmen

man muss also nicht immer zugang zum

code haben können man muss auch nicht

immer den code lesen können um ihn zu

regulieren

das ist insofern wichtig weil wir

brauchen algorithmischen systeme wir

brauchen neue handlungs werkzeuge um die

komplexen probleme die unsere

gesellschaft immer stärker prägen

steuern zu können

auch wenn sich aktuell natürlich die

schlechten nachrichten häufen und der

überwachungs kapitalismus überhand zu

nehmen droht so können wir nicht zurück

wir brauchen intelligente systeme

wir brauchen viel intelligentere systeme

aber wir brauchen bessere brauchen viel

bessere

niemand will bei aller kritik an

suchmaschinen filter platten leben

ernsthaft zurück in die welt der zettel

kataloge

das ist nicht nur absolut und praktisch

und würde viele dinge verunmöglichen

sondern auch die vorstellung dass es ein

dass ein zentrales komitee entscheidet

was in den titel kosten soll und was

nicht ist hochgradig unattraktiv

ebenfalls klar ist dass wir weg wollen

von umweltzerstörenden und demokratie

schädigen zentralisierten

infrastrukturen ganz besonders im

energiebereich

dann brauchen wir intelligente anlage

die staub eines relativ primitiven

podcast modell ist ein sender eine große

energie station viele empfänger viele

endverbraucher ein intelligenter

komplexeres many to many modell in dem

jeder einsender und jeder empfänger von

energie sein kann ermöglichen aber

rastete viel komplexer werfen nur

braunkohle zu verbrennen und

intelligente adaptive systeme was wir

jetzt hier besonders interessiert ist

dass algorithmische systeme die

handlungsfähigkeit erweitern und damit

immer auch eine grundlage

gesellschaftliche macht darstellen

wie können wir diese macht steuern wie

können wir diese macht lenken so dass

sie uns erlaubt die probleme anzugehen

auf der höhe der komplexität auf der sie

sich stellen ohne dass wird damit völlig

neue konzentrationen von macht auslösen

es geht letztlich darum ob wir in einer

freiheitlichen oder in einer autoritären

gesellschaft leben werden die

infrastrukturen spielen hier eine große

rolle

der zeitpunkt das zu diskutieren ist

günstigen moment weil zum einen haben

sich algorithmus systeme auch wenn man

die presse

diese aufgeregt immer darüber berichtet

einen anderen eindruck vermittelt es

müssen systeme sind in deutschland und

im post rexit europa noch nicht sehr

verbreitet in den usa england etwa

werden 60 prozent aller großen

unternehmen lassen die

bewerbungsunterlagen wenn sie in den job

als es dennoch gibt was die job

ausschreiben lassen die eintreffenden

bewerbungsunterlagen zuerst aus einer

algorithmische vorsortierung laufen

bevor sie überhaupt jemals ein mensch

liest in deutschland sind das knapp

sechs prozent erst automatische

gesichtserkennung die

überwachungskameras mit

polizeidatenbanken ab kreis gibt es in

deutschland erst rund sieben flughäfen

das heißt es sind hier noch relativ am

anfang eines problems und es besteht die

möglichkeit richtlinie zu setzen bevor

die probleme tatsächlich weit verbreitet

sind

dazu kommt dass die neue eu datenschutz

grund verordnung gibt uns neue mittel in

der hand an die hand in der

auseinandersetzung diese systeme artikel

12 13 17 legen fest dass müsstet ihr bei

automatischer entscheidungsfindung

aussagekräftige informationen über die

involvierte logik sowie die tragweite

und den englisch und die angestrebten

auswirkung einer derartigen verbreitung

für die betroffenen personen erklärt

werden müssen

der zentrale begriff ist hier

aussagekräftig wobei was er genau

bedeutet werden die gesicht die gerichte

festlegen müssen aber die ausrede aber

das ist zu komplex das können wir nicht

erklären dessen proprietär zumindest

nach der idee dieses gesetzes gilt dann

nicht mehr

wir werden das sehen wenn es in einem

jahr dann eu-weit in kraft tritt ob es

hier eine möglichkeit gibt über diese

auskunftspflicht neue transparenz zu

schaffen und dies notwendig weil wir

diese gedanken

diese algorithmen diese diese systeme

einlegen müssen und das positive ziele

ausrichten wenn wir uns überlegen wie

wir das machen kommen wollen oder können

haben wir das problem dass er viel über

das meer sprechen extrem weit ist immer

so ein bisschen zu strukturieren

einzugrenzen schlage ich vor sind drei

klassen zu unterteilen

sie werfen jeweils unterschiedlich

schwierige probleme auf fangen wir mit

dem relativ einfachen problem an mit

maschinen die maschinen steuern

hier geht es um komplexe infrastrukturen

den handeln für die nutzer und

nutzerinnen relativ klar sichtbar ist

nehmen wir etwa von angesprochene

intelligente energienetze das wohl für

die sowohl die einspeisung wie auch die

entnahme von strom dynamisch regeln für

den nutzer ist die komplexität im

hintergrund abläuft relativ egal

dann kann keiner kann problemlos sehen

ob strom der als den schalter an macht

wie viele bezahlt und ob der strom den

er selber produziert abgenommen wurden

auch politisch bewegen wir uns hier in

relativ konventionellen bereich und es

geht nur darum die eckwerte eines

solchen systems festzulegen etwa in

bezug auf die preise oder den

datenschutz und wie das system sich dann

selber regeln können wir getrost sagen

dem system selbst überlassen wir sind

hier auch noch in einem relativ klaren

politischen problem aber wenn wir uns

sehen viele von ihnen nämlich an werden

die kommt die kontroverse um den smart

meter verfolgt zu haben dann sieht man

dass auch so ein vermeintlich klares

problemfeld in der praxis extrem

schwierig ist bei der einfluss des

lobbyings auf die politischen

entscheidungen so groß geworden ist und

die meisten politiker sich mit der

politik der technologie überhaupt nicht

auskennen aber dass es eine kontroverse

gibt dass es möglich ist dieses mal mit

einmal aufzuschreiben und zu merken dass

er gar nicht so smart ist das ist noch

ein gutes zeichen das zeigt dass aus

einem verständlichen problemfeld sind

komplexer ist es schon bei maschinen die

mit menschen integrieren ich denke hier

an alle diese systeme die erst dann in

gang kommen wenn menschen mit ihnen

interagieren etwa indem sie auf google

oder sonst irgendwo eine suchabfrage

stellt hiermit das problem dass es

oftmals unklar ist wie diese systeme

agieren und wie wir ihren output

bemessen sollen

im unterschied zu systemen wie den eben

erwähnten smart grids ist die nutzer

position schwächer weil er dass sie

überhaupt keine klaren zitieren verfügt

die die handlungen des systems zu

beurteilen

und es ist oft auch objektiv gesehen

dann ist möglich zu sagen was es hier

die ideale handlung knappen system gut

funktioniert umso wichtiger wäre es

verschiedene systeme vergleichen zu

können

es ist absolut unmöglich zu sagen was

die bestmögliche suchabfrage ist das

können wir nicht wissen wir kennen den

problem dem problem spacer zusagen nicht

und wir haben wir können nicht sagen ob

eine eine suche jetzt wirklich unsere

frage beantwortet oder nicht

aber es ist relativ einfach zu sagen und

suchmaschinen besser versucht maschine

be

das heißt wenn wir eine blackbox nicht

öffnen können

so müssen wir denn wenigstens in der

lage seien verschiedene black boxes

miteinander zu vergleichen

das genau ist aber das problem bei

maschinen dient bedienen wir schon gar

nicht mehr interagieren sondern die die

welt für uns produzieren

das sind eben systeme die nicht auf

unser interaktion warten nicht auf mit

uns sozusagen direkt interagieren

anderem hund im hintergrund einfach

kontinuierlich ablaufen und die welt

hervorbringen so wie wir sie dann

vorfinden und in der wir uns dann

orientieren müssen

hier gibt es keine

vergleichsmöglichkeiten

hier sind wir einfach mit resultaten

konfrontiert von denen überhaupt nicht

wissen inwieweit überhaupt vorbereitet

durch algorithmische systeme bearbeitet

worden

relativ offen offensichtliches beispiel

ist der facebook newsfeed der natürlich

wie wir alle wissen nicht auf eine

suchanfrage wartet sondern einfach

forciert was wir zu sehen bekommen wir

haben nach überhaupt keine möglichkeiten

hier eine andere suchen oder eine andere

sortierung zu machen weil es keinen

vergleichbaren kvb gibt viele smart city

applikationen die die stadt mit sensoren

erfassen sollen eben auch in ähnlicher

weise im hintergrund ablaufen am besten

noch autonom und so dass die benutzer

milli mit ihnen

und agieren wie wissen oftmals überhaupt

nicht ob sie überhaupt agieren ob die

systeme überhaupt irgendwas machen und

wenn sie irgendwas machen was sie da

machen dem unterschied einer der höchst

unterschiedlichen situationen muss man

mehrere maßnahmen ergreifen also

zumindest mal in die richtung denken um

sicherzustellen dass die neuen

handlungsmöglichkeiten dieses systeme im

interesse aller eingesetzt werden weil

was wir brauchen ist eine infrastruktur

für individuelle und kollektive frauen

die in komplexen situationen

dafür brauchen sie mindestens drei

eigenschaften die sie heute meistens

nicht haben

lokaler systeme sind ganz allgemein

gesprochen desto besser ist die chance

politisch aus gesellschaft auf die

einfluss zu nehmen als eine faustregel

könnte man sagen systeme sollten in der

jurisdiktion angesiedelt sein in der

auch die menschen leben die von ihnen

betroffen sind

das ist auch ein grund warum wir uns

gegen schiedsgerichte platziert werden

müssen was sie genau dieses prinzip

ausholen offenheit sowohl was den code

aber auch was die daten betrifft macht

es einfacher prozesse lokal anzusiedeln

und zentralistische konzentrationen die

im moment sozusagen dieser branche an

diesem bereich regen dem etwas zu gegen

zu setzen

diese betonung auf lokalen auf offen ist

auch was im moment die aktuelle

stadtregierung von barcelona

technologische souveränität nennt und es

ist etwas das ich glaube ganz ganz

grundsätzlich ist wenn wir irgend eine

chance haben wollen als gesellschaft auf

dieser systeme 1 zu werden müssen wir

sie in den bereich bringen den wir auch

gestalten können über parlamente über

gesetzgebungen andere bereiche

oftmals ist es wichtiger zu wissen nicht

was ein sowie ein system eine

entscheidung im einzelfall zustande

gekommen ist das luft lässt sich in

dynamischen und selbst lernen systemen

oft sehr schlecht sagen aber es ist

wichtiger da deshalb zu wissen was ein

system grundsätzlich kann

wir müssen die umrisse des möglichkeit

raum kennen in denen dann ein internet

intelligentes system selbstständig die

lösung sucht

finden wir etwa auch der glaube dass sie

sich weigert mir in gewissen fällen

auskunft zu geben

ich muss dafür nicht wissen wie sie ihre

funktioniert das muss einfach sehen dass

das hier vom von apple oder wer immer

das system konzipiert gewisse grenzen

gesetzt werden über die das system nicht

hinauskam nicht hinausgehen darf auch

wenn es im grunde einfach wer die

passende information zu finden

hier können sie neue europäische

datenschutz grund verordnung folgte die

gerichte stark auslegen und falls es

wirklich diese auskunftspflicht braucht

diese relevant wird von großem nutzen

sein um eben den möglichkeit frauen sind

die systeme besser kennen zu werden

ein ganz wichtiger punkt ist dass diese

systeme die müssen falls offizier war

sein

das heißt es muss möglich sein zu sehen

dass diese intelligenten systeme

objektiv wie die anleihen sind falsch

entschieden haben und entsprechende

korrekturen einzufordern

sonst besteht die gefahr dass falsche

annahme sich verfestigen

man denke nur etwa daran wie die erhöhte

polizeipräsenz die durch verdeckte

politik in gewissen gegenden eingeführt

werden kann

fast zwangsläufig dazu führt dass eine

höhere zahl von straftaten festgestellt

worden

das heißt nicht dass die

mehr straftaten begangen werden können

aber es sind dies mehr polizeipräsenz

mehr straftaten feststellen kann und

damit zu einer selbst validierung eines

systems führt oder ein anderer grund

warum systeme voll sein müssen ist dass

die gefahr besteht dass sie

diskriminierung einzelner dass solche

systeme zunimmt es reicht aber nicht

einfach nur feststellen zu können dass

ein system falsch liegt sondern man muss

es müssen auch mittel bereitstellen

gestellt werden etwa ein bereits durch

schadenersatz gegen diskriminierung und

falsche systeme vorzugehen

sonst bleiben die kosten immer nur auf

der seite der betroffenen aber nie

sozusagen auf der seite der täter hängen

das ist jetzt aber zunächst einmal dinge

die wir die wir wollen von von

algorithmischen systemen die wir die wir

haben

aber eigentlich ist das viel größere

problem dass es notwendig ist dass wir

diese ziele also dass wir diese

handlungs potenziale die in diesen

systemen drinstecken auf andere ziele

ausgerichtet werden

die meisten systeme heute sind geprägt

durch ganz klassisches neoliberales

denken das heißt sie betonen die

unterschiede zwischen den menschen

sie setzen auf vergleichbarkeit und

konkurrenz indem sie rankings erstellen

bei denen es immer besser ist möglichst

weit oben zu stehen und sich relativ zu

anderen zu verbessern wir brauchen aber

dagegen viel mehr systeme die das

gemeinsame zwischen den menschen

hervorheben die uns erlauben als gruppe

zu handeln und nicht mehr einfach nur

aus einzelnen deren einzeltaten dann

hinter ihrem rücken irgendwie aggregiert

werden anstatt endlos die individuelle

gesundheit zu optimieren durch

irgendwelche fitness und ähnliches

sollten uns intelligente systeme helfen

kollektive probleme die

luftverschmutzung oder fein stadt zu

erkennen oder neue plätze zu schaffen an

denen wir zusammen kommen können

beispielsweise denken sie an die vielen

ungenutzten räume beispiel öffentlichen

verwaltung wo ganze gebäude ganze

straßenzüge

nach 18 uhr einfach leer stehen oder wir

können wir können uns systemen überlegen

die partizipation potting als ein

öffentlich verhandeln von budgetposten

erlauben

das ist nun keine idee die gene rhino s

aber intelligente können systeme können

und helfen wesentlich die hürden zu

senken um an solchen systemen

teilzunehmen und damit den kreis derer

die gemeinsam handeln können zu

erweitern

der vielleicht größte projekt bei dem

uns intelligente systeme helfen können

wer ein anderes verhältnis der natur zu

entwickeln also auf etwas das nicht mehr

einfach nur da draußen ist sondern etwas

mit dem wir auf vielfältige komplexe

weiter verbunden sind lassen sie mich in

einem konkreten beispiel aufhören was

wir hier sehen ist die spur eine freies

von der über ein jahr von der westküste

floridas in die mitte des atlantiks über

mehr als 8000 kilometer

dieses tracking wird möglich weil das

tier mit einem sensor ausgestattet wurde

diese erlaubt aber nicht nur

positionsdaten zu erheben sondern auch

alle andern eine reihe von anderen

körperdaten eine art fit für haie und

das alleine bewirkt von vielen dh das

tier der hai ist nicht mehr ein anonymes

rettungswesen sondern es trinkt er

street uns als ein individuum gegenüber

stellen sie sich vor dass all diese

daten

mit automatisierter text generierung

software verbunden wird

da kam es dabei in echtzeit erzählen wie

es ihm geht

komplexe formen des zusammenlebens

werden denkbar

wir wissen wann der hai der alten stadt

das ist natürlich kein rein technisches

problem und technische systeme freie zu

kranken wirklich ausreichen aber sie

sind notwendig und komplexere formen der

weltsicht und des handelns in der welt

überhaupt denkbar zu machen

da fehlten ihm wenn wir die dystopische

visionen des überwachungs kapitalismus

verhindern wollen aber dennoch nicht auf

neue zugänge zu uns zu drängenden

problemen verzichten wollen dann müssen

wir diese algorithmischen systeme zuerst

als politischer systeme verstehen auch

systeme der macht und der aushandlung

neuer beziehungen innerhalb der

gesellschaft und diese

auseinandersetzung um die politische

einordnung dieses systeme entscheidet

sich nicht auf der ebene des todes danke

[Musik]

vielen dank felix klare wir haben noch

zeit für umgesetzt mit minuten für zwei

schrauben 23 fragen ich sehe schon die

erste hand sehr schön

hallo vielen dank der mieter mehrfach

auf die dsgv repariert oder referenziert

vielmehr tschuldigung ich weine sowie an

gesagt ja es gäbe die normen 12 13 14

das sind ja nur informationspflichten

werden die automatisierte

einzelentscheidungen 22 geregelt ist so

also lange rede kurzer sinn es hieß ja

von ihm aus ja die bsg v würde sozusagen

da an der stelle helfen

aufgrund der transparenz regelungen aber

grundsätzlich ja immer noch so die dsgv

wenig zu algorithmen etat therapie

überhaupt war nur im rahmen der

automatisierten einzelentscheidung und

dies grundsätzlich verboten

also da würde ich gerne machen ihnen

sozusagen die konter einschätzung

bekommen oder fragen sie das verstanden

haben aus dem was sie gesagt haben nicht

so richtig rein machen also der der

punkt dass sie nicht damit hinaus wollte

ist das eben eine neue auskunftspflicht

gibt und diese auskunftspflichten

aussagekräftig sein muss in dem sinne

dass sie dass sie in einer sprache die

für denjenigen der die auskunft verlangt

erklärt wieso etwas vorgeht und was die

ziele sind die mit diesen

automatisierten entscheidungsverfahren

verfolgt werden also das dass man

einerseits sind nicht geht nicht um eine

deren offenlegung des kurses hat einen

anderen sinn dieser diese algorithmen

tüv oder so sondern nur darum eine

einschätzung machen zu können was diese

maschine mit meinen daten und damit

sozusagen ihr gegenüber macht jetzt ist

die frage wird sein dass nämlich

anwender fragen der gerichte sein auf

was genau so zu sagen dass angewendet

werden kann und was aussagekräftig

dann in der praxis tatsächlich bedeutet

aber das müssen wir schauen dass werden

die ersten sozusagen musterprozesse

zeigen aber ich glaube hier wird

zumindest eine eine neue art von ausfuhr

von von auskunftspflichten geht nicht

nur einfach heißt wir hier sind sie 200

seiten daten die die firma die wir dann

eventuell ausgedruckt einem zur

verfügung stellen wie das facebook ja

immer mal wieder gemacht hat es gibt

noch eine frage hier komme lange simon

piratenpartei hallo die diese dieses

spannungsfeld zwischen individuell

weiter die sie vorhin angesprochen haben

diese individuellen daten die ihnen

ranking gehen und community data was im

rahmen von big data eben die hilfreichen

und nützlichen daten sein können haben

sie das gefühl oder eine einschätzung

wie weiter jetzt mit diskurs schon

beginnend ob das verständnis da schon

wächst oder ob da jetzt gerade in

deutschland in österreich vielleicht das

noch auf einem eher sowohl gesellschaft

als auch politik er am nullpunkt sitzt

ich habe schon das ist ein gewisses

verständnis entwickelt das ist sicher

ein prozess der am anfang steht aber

nicht sie sind nicht am nullpunkt sehen

ich glaube dass das problem spielt sich

dann eher wenn es darum geht tatsächlich

etwas zu machen weil es ja nicht nur

darum geht es wenn wir sagen wir wollen

diese daten veröffentlichen

auch in relativ konventionellen open

data projekten ja nicht nur ein

technischer aktuellen welchen in welchem

format jetzt geöffnet werden sondern es

einerseits ist ein interner umbau der

verwaltung dass diese daten überhaupt so

erhoben werden oder so versuche gestellt

werden und dann noch viel schwieriger

ist es sie ja einfach hinfahren

veränderte feilten bürgern die damit

sozusagen nicht mehr die die bittsteller

sind die sozusagen um jedes einzelne

blatt kämpfen müssen

für auskunft sondern die die

automatisiert zugriff erhalten können um

selber mit den daten dann handeln zu

können

und da glaube ich fehlt der politische

wille da sind wir noch er bei null wie

beim bei der reinen verständnis frage ok

ich glaubte etwas müssen leider haben

wir dann noch einmal

[Applaus]

[Musik]