re:publica 2017 - Felix Stalder: Die Algorithmen, die wir brauchen

Summary

Der Vortrag diskutiert politische Aspekte von Algorithmen, die weit über technische Anweisungen hinausgehen. Es geht um die Erfassung von Daten, Modellierung komplexer Situationen und die Einbettung in Institutionen. Der Sprecher betont, dass Algorithmen nicht autonom, sondern in gesellschaftlichen Kontexten eingebettet sind. Er fordert mehr Transparenz und Kontrolle, um algorithmische Systeme im Interesse aller zu nutzen und negative Auswirkungen zu vermeiden. Zudem thematisiert er die EU-Datenschutzgrundverordnung als Mittel zur Förderung von Transparenz.

Takeaways

• 🤖 Algorithmen sind politische Konzepte, die nicht nur technische Anweisungen umfassen, sondern auch Daten, Modelle, Codierungen und Institutionen beinhalten.
• 🧠 Die Menschheit ist in jedem Schritt involviert, was die Vorstellung von autonomen Systemen, die außer Kontrolle geraten, ad absurdum führt.
• 🔍 Suchanfragen wie 'jailbreak my iPhone' auf Google führen zu Ergebnissen, die möglicherweise nicht die beabsichtigte Antwort sind, was zeigt, dass Algorithmen in bestimmten Grenzen operieren.
• 📱 Wenn man Siri fragt, ob sie das iPhone jailbreaken kann, zeigt dies, dass intelligente Systeme in spezifischen Programmen eingebettet sind und bestimmte Aktionen nicht unterstützen.
• 🔒 Die EU-Datenschutzgrundverordnung bietet neue Mittel zur Regulierung algorithmischer Systeme, insbesondere durch die Verpflichtung, bei automatischer Entscheidungsfindung über die involvierte Logik und die Auswirkungen aufzuklären.
• 🏭 Bei der Steuerung von Maschinen, die mit Menschen interagieren, ist die Nutzerposition oft schwächer, da sie keine klaren Kriterien haben, um die Systemausgaben zu bewerten.
• 🌐 Für Systeme, die die Welt für uns produzieren, ohne direkt mit uns zu interagieren, wie z.B. den Facebook Newsfeed, gibt es keine Möglichkeit, die Ergebnisse zu vergleichen oder zu beeinflussen.
• 🏙️ Smart City-Anwendungen, die oft im Hintergrund autonom ablaufen, erfordern eine Überwachung, um sicherzustellen, dass sie im Interesse aller eingesetzt werden.
• 🌳 Intelligente Systeme können helfen, ein anderes Verhältnis zur Natur zu entwickeln, indem sie uns helfen, unsere Verbindung mit der Umwelt zu verstehen und zu schätzen.
• 📈 Algorithmen sollten nicht nur auf individuellen Unterschieden und Wettbewerb basieren, sondern auch auf gemeinsamen Interessen und kollektiven Problemen.
• 🛑 Transparenz und Offenheit bei Algorithmen sind entscheidend, um sicherzustellen, dass die Systeme verständlich und nachvollziehbar sind und dass sie im Einklang mit gesellschaftlichen Werten stehen.

Q & A

Was versteht der Sprecher unter 'Algorithmen' in politischer Hinsicht?

Der Sprecher versteht unter 'Algorithmen' nicht nur die technischen, codierten Anweisungen, sondern auch die Daten, die Modelle, die Codierung, Institutionen, Programme und Praktiken, in die diese Systeme eingebettet sind.

Was sind die Hauptbestandteile, die der Sprecher bei der Diskussion von Algorithmen berücksichtigt?

Die Hauptbestandteile sind Daten, Modelle, Codierung im engeren Sinne, Institutionen, Programme und Praktiken.

Wie sieht der Sprecher die Beteiligung von Menschen an Algorithmen?

Der Sprecher betont, dass Menschen an allen Stellen der Algorithmen - bei den Daten, Modellen, der Codierung und den Institutionen - involviert sind und die Vorstellung von autonomen Systemen, die aus der Kontrolle geraten, für ihn falsch ist.

Was ist das Beispiel, das der Sprecher gibt, um die Funktionsweise von Algorithmen zu veranschaulichen?

Der Sprecher nutzt das Beispiel der Google-Suche nach 'jailbreak my iPhone' und vergleicht es mit der Antwort des iPhone-Assistenten Siri, um zu zeigen, dass Algorithmen in bestimmten Grenzen operieren, die für sie gesetzt wurden.

Was zeigt der Sprecher mit dem Beispiel der Google-Suche nach 'jailbreak my iPhone'?

Er zeigt, dass Algorithmen in gewissen Grenzen operieren und dass sie nicht dazu ermutigen, gegen die Regeln zu verstoßen, wie im Beispiel der iPhone-Entsperrung.

Welche Rolle spielen Institutionen bei der Einbettung von Algorithmen in das Gesellschaftssystem?

Institutionen sind Teil der Systeme, in die Algorithmen eingebettet sind und bestimmen, innerhalb welcher Grenzen diese Algorithmen operieren und welche Handlungen sie ausführen oder unterstützen.

Was ist das Hauptproblem, das der Sprecher mit der heutigen Nutzung von Algorithmen anprangert?

Der Sprecher kritisiert, dass Algorithmen oft nur auf individuelle Wettbewerbsfähigkeit und Konkurrenz ausgerichtet sind, anstatt auf das Gemeinwohl und kollektive Probleme wie Umweltverschmutzung.

Wie können Algorithmen nach Auffassung des Sprechers besser genutzt werden?

Algorithmen sollten genutzt werden, um das Gemeinwohl zu fördern, z.B. durch die Identifizierung von kollektiven Problemen wie Luftverschmutzung oder der Schaffung von Gemeinschaftsräumen.

Was ist die Bedeutung der neuen EU-Datenschutzgrundverordnung (DSGVO) für Algorithmen?

Die DSGVO bringt neue Mittel zur Transparenz und Auskunftspflicht für automatisierte Entscheidungsfindungsverfahren, was bedeutet, dass Betroffene über die involvierte Logik und die Auswirkungen solcher Verfahren informiert werden müssen.

Wie kann die DSGVO dazu beitragen, die Auswirkungen von Algorithmen zu kontrollieren?

Durch die Verpflichtung, aussagekräftige Informationen über die Logik und Auswirkungen von automatisierten Entscheidungsverfahren zu geben, können die Betroffenen besser verstehen, wie Algorithmen Entscheidungen treffen und gegebenenfalls dagegen vorgehen.

Was sind die drei Klassen von Problemen, die der Sprecher in Bezug auf Algorithmen und ihre Auswirkungen auf die Gesellschaft identifiziert?

Die drei Klassen sind: Maschinen, die Maschinen steuern; Maschinen, die mit Menschen integriert sind; und Maschinen, die die Welt für uns produzieren und kontinuierlich ablaufen.