Is AI a Scam? We Ask Prof. Emily Bender, Author of “The AI Con”

Summary

In diesem Interview mit Emily Bender, Expertin für Computerlinguistik, wird die Diskussion über die wahre Natur von KI und ihren sozialen Auswirkungen geführt. Bender argumentiert, dass die heutigen KI-Systeme, wie große Sprachmodelle, keine echte Intelligenz besitzen, sondern lediglich Marketinginstrumente sind, die eine falsche Wahrnehmung erzeugen. Sie kritisiert auch die Ausbeutung von Arbeitskräften im Globalen Süden und warnt vor den potenziellen Risiken, die mit dem überhasteten Einsatz von KI in kritischen Infrastrukturen verbunden sind. Der Gesprächspartner fordert eine kritische Auseinandersetzung mit den Versprechungen der Tech-Mogule und beleuchtet die ethischen Fragen hinter der Technologie.

Takeaways

• 😀 Emily Bender kritisiert die Vorstellung, dass KI wirklich intelligent ist, und argumentiert, dass KI-Systeme lediglich Sprachmuster nachahmen, ohne echte Intention oder Bewusstsein.
• 😀 Die aktuelle KI, insbesondere große Sprachmodelle (LLMs), haben keine echte Kognition oder Absicht. Sie geben nur vor, menschlich zu sein, indem sie auf große Datenmengen zurückgreifen.
• 😀 Emily hebt hervor, dass viele der Arbeiten, die KI-Modelle 'lernen' lassen, von Menschen durchgeführt werden, oft unter ausbeuterischen Bedingungen, insbesondere in Ländern des Globalen Südens.
• 😀 Sie warnt vor der Gefahr, dass die Werbung für KI als universelle Lösung übertrieben und von finanziellen Interessen geprägt ist. Das Versprechen, dass KI alle gesellschaftlichen Probleme lösen wird, ist unrealistisch.
• 😀 Emily lehnt die Vorstellung ab, dass KI eine existenzielle Bedrohung darstellt. Sie hält die 'Doomsday'-Szenarien, die von führenden KI-Forschern verbreitet werden, für übertrieben und spekulativ.
• 😀 KI-Technologien könnten zu einer gesellschaftlichen Isolierung führen, da sie zwischenmenschliche Interaktionen ersetzen könnten, anstatt Menschen zu verbinden.
• 😀 Bender kritisiert die mangelnde Transparenz bei der KI-Forschung, insbesondere bei den Daten, die für das Training verwendet werden. Sie fordert eine offenere wissenschaftliche Debatte und Zugang zu den Trainingsdaten.
• 😀 Sie erklärt, dass das Bild von KI als eigenständiger, denkender Entität ein Produkt der menschlichen Interpretation von Sprache ist, was zu Missverständnissen über ihre Fähigkeiten führt.
• 😀 In Bezug auf den Arbeitsmarkt warnt Emily, dass KI eher bestehende Arbeitsplätze verschlechtern wird, anstatt sie zu ersetzen. Die Rolle von KI wird oft auf 'billige Arbeitskräfte' reduziert, die Arbeiten ohne echte Verantwortung durchführen.
• 😀 Emily zeigt auf, dass die Umweltkosten der KI-Entwicklung, wie der hohe Energieverbrauch von Rechenzentren, nicht unterschätzt werden dürfen, da sie den Klimawandel verschärfen könnten.
• 😀 Sie sieht einige positive Anwendungen für KI, wie etwa Rechtschreibprüfung oder automatische Transkription, betont jedoch, dass KI nie den menschlichen Faktor in professionellen Bereichen wie Übersetzungen ersetzen sollte.

Q & A

Was ist die zentrale Kritik von Emily Bender an der aktuellen Vorstellung von Künstlicher Intelligenz?

Emily Bender kritisiert, dass der Begriff 'Künstliche Intelligenz' oft als Marketingbegriff verwendet wird, der eine falsche Vorstellung von einer 'göttlichen' oder überlegenen Entität vermittelt. Sie argumentiert, dass KI-Systeme, insbesondere große Sprachmodelle, keine echte Intelligenz besitzen und lediglich so gestaltet sind, dass sie menschliches Verhalten nachahmen, insbesondere die Verwendung von Sprache.

Warum bezeichnet Emily Bender die Forschung von Unternehmen wie Anthropic und DeepMind als 'Fanfiction'?

Emily Bender bezeichnet die Forschung von Unternehmen wie Anthropic und DeepMind als 'Fanfiction', weil diese Unternehmen in ihren Prognosen und Modellen oft spekulative, nicht wissenschaftlich fundierte Zukunftsszenarien entwickeln, die sich mehr an einem fiktiven Narrativ orientieren als an realen, überprüfbaren wissenschaftlichen Erkenntnissen.

Welche Bedenken äußert Bender bezüglich der Arbeitsbedingungen von Menschen, die mit KI-Systemen arbeiten?

Bender kritisiert, dass die Entwicklung von KI und deren 'Training' oft mit der Ausbeutung von Arbeitskräften in der Globalen Südhalbkugel verbunden ist. Diese Arbeiter müssen teils unter extremen Bedingungen arbeiten, um KI-Systeme zu trainieren oder unangemessene Inhalte zu filtern, was ihre psychische Gesundheit und ihr soziales Wohlbefinden gefährdet.

Warum hält Bender die Vorstellung, dass KI ein existenzielles Risiko darstellt, für übertrieben?

Bender hält die Vorstellung, dass KI ein existenzielles Risiko darstellt, für übertrieben, da die aktuellen Systeme weder über echtes Bewusstsein noch über eine echte Entscheidungsfähigkeit verfügen. Sie betont, dass die Risiken eher durch die falsche Anwendung von KI und deren Missbrauch durch Menschen entstehen, nicht durch die Technologie selbst.

Was meint Emily Bender mit der 'Slopification' des Internets und der Arbeitswelt?

Mit der 'Slopification' bezieht sich Bender auf die Verschlechterung der Qualität von Arbeit und Online-Inhalten durch den Einsatz von KI. Sie erklärt, dass KI-Modelle oft fehlerhafte oder minderwertige Inhalte erzeugen, die dann von Menschen korrigiert oder bereinigt werden müssen, wodurch die Arbeit von Menschen degradiert und entwertet wird.

Wie beurteilt Bender die Auswirkungen von KI auf Arbeitsplätze und Karrieren?

Bender sieht KI als eine Technologie, die Arbeitsplätze nicht ersetzen, sondern die Art der Arbeit verändern wird. Sie warnt davor, dass die Menschen, die ursprünglich als Einsteiger oder Praktikanten in einem Berufsfeld tätig waren, nun durch KI-Modelle ersetzt werden könnten, wodurch eine wertvolle Karriereentwicklung und Ausbildung verloren geht.

Was ist Benders Sicht auf die Behauptung, dass KI 'Verständnis' oder 'Bewusstsein' zeigt?

Bender lehnt die Vorstellung ab, dass KI-Modelle wie große Sprachmodelle ein echtes Verständnis oder Bewusstsein besitzen. Sie erklärt, dass diese Systeme lediglich Muster in Sprache und Text erkennen und wiedergeben, ohne tatsächlich über Konzepte oder Intentionen zu verfügen.

Wie erklärt Bender die Fähigkeit von KI, Text zu produzieren, der 'introspektive' oder 'selbstreflexive' Eigenschaften zeigt?

Bender erklärt, dass KI-Modelle oft Text produzieren, der introspektive oder selbstreflexive Eigenschaften zu haben scheint, weil sie auf Trainingsdaten zugreifen, die solche sprachlichen Muster enthalten. Sie betont jedoch, dass dies keine echte Introspektion ist, sondern nur eine Nachahmung menschlicher Sprache.

Welche positiven Einsatzmöglichkeiten von KI sieht Bender?

Bender erkennt einige nützliche Anwendungen von KI, wie etwa in der automatischen Rechtschreibprüfung oder der Transkription von Texten. Sie betont jedoch, dass KI-Systeme wie Sprachmodelle keine vollständigen Ersatzlösungen für spezialisierte menschliche Arbeit darstellen sollten, insbesondere in Bereichen, in denen Präzision und menschliches Urteilsvermögen erforderlich sind.

Warum glaubt Bender, dass die Existenz von KI keine 'unaufhaltsame' Richtung hat?

Bender widerspricht der Vorstellung, dass KI eine unaufhaltsame Entwicklung in Richtung eines allmächtigen AGI (Artificial General Intelligence) ist. Sie argumentiert, dass die Zukunft von KI offen ist und dass es viele Menschen gibt, die lieber alternative, menschzentrierte Technologien entwickeln würden, anstatt sich auf die weitere Entwicklung von KI zu konzentrieren.