AI Is Dangerous, but Not for the Reasons You Think | Sasha Luccioni | TED

Summary

Dieses Video skizziert die Herausforderungen und Auswirkungen von künstlicher Intelligenz (KI) auf die Gesellschaft und den Planeten. Der Sprecher, ein KI-Forscher, teilt seine Erfahrungen und warnt vor den heutigen negativen Auswirkungen, wie Diskriminierung und den Beitrag zu Klimawandel. Er präsentiert Tools wie 'CodeCarbon' für Nachhaltigkeit und 'Have I Been Trained?' für Transparenz in Datennutzung. Zudem thematisiert er die Bedeutung von Bias in KI-Modellen und wie diese in unserer Gesellschaft eingebettet sind. Der Fokus sollte auf der Vermeidung von negativen Auswirkungen liegen, anstatt nur auf zukünftigen Risiken.

Takeaways

• 🤖 Die KI-Forschung hat in den letzten Jahren eine enorme Aufmerksamkeit erhalten, mit positiven wie negativen Nachrichten.
• 🌏 KI hat Auswirkungen auf die Gesellschaft und den Planeten, einschließlich des Beitrags zu Klimawandel durch den Energieverbrauch ihrer Modelle.
• 📚 KI-Modelle nutzen Kunst und Bücher ohne Zustimmung der Künstler und Autoren für ihre Trainingsdaten.
• 🚫 Die Bereitstellung von KI kann Diskriminierung gegen ganze Gemeinschaften darstellen.
• 🔍 Es ist wichtig, die Auswirkungen von KI zu verfolgen, transparent zu machen und Tools zu schaffen, um das Verständnis für KI zu verbessern.
• 🌱 Die Nachhaltigkeit von KI ist von großer Bedeutung, da die Cloud-Infrastruktur, auf der KI-Modelle basieren, aus Metall, Plastik besteht und große Mengen an Energie verbraucht.
• 📈 Die Größe von KI-Modellen wächst stetig, was zu steigenden Umweltkosten führt, da größere Modelle mehr Energie verbrauchen und mehr CO2 emitieren.
• 🛠️ Tools wie CodeCarbon können dazu beitragen, informierte Entscheidungen zu treffen, indem sie den Energieverbrauch und die CO2-Emissionen von KI-Modellen schätzen.
• 🎨 KI-Modelle können ohne Zustimmung von Künstlern und Autoren ihre Werke für das Training verwenden, was zu Urheberrechtsverletzungen führen kann.
• 🔍 Tools wie 'Have I Been Trained?' ermöglichen es Benutzern, nach ihren eigenen Daten in KI-Datensätzen zu suchen und Beweise für Urheberrechtsverletzungen zu sammeln.
• 🧐 Vorurteile in KI-Modellen können in Form von Stereotypen, Rassismus und Sexismus kodiert sein und können in Anwendungen wie Gesichtserkennungssystemen zu schwerwiegenden Folgen führen.
• 🛡️ Es ist wichtig, Werkzeuge zu entwickeln, die das Verständnis von KI verbessern und dabei helfen, die Auswirkungen von KI auf die Gesellschaft und den Planeten zu messen und zu mindern.

Q & A

Was war der Inhalt der seltsamsten E-Mail, die der AI-Forscher in seiner Karriere erhalten hat?

Der AI-Forscher erhielt eine E-Mail von einem Fremden, der behauptete, dass seine Arbeit an KI die Menschheit auslöschen würde.

Welche positiven und negativen Beispiele für die Anwendung von KI wurden in der Rede genannt?

Positive Beispiele waren die Entdeckung neuer Medikamente und die Kreation eines 'Popes in weißem Daunenjacke'. Negative Beispiele waren ein Chatbot, der jemandem geraten hat, sich von seiner Frau zu scheiden, und eine KI-Mahlzeitsplaner-App, die einen Rezeptvorschlag mit Chlorgas gemacht hat.

Was sind die Hauptthemen, die der Redner in Bezug auf die Auswirkungen von KI auf die Gesellschaft anspricht?

Der Redner spricht über die Auswirkungen von KI auf den Klimawandel, die Verwendung von Kunst und Büchern ohne Zustimmung von Künstlern und Autoren und die Diskriminierung von gesamten Gemeinschaften durch KI-Bereitstellungen.

Was ist das Ziel des von der Rednerin geführten BigScience-Initiativs und des Bloom-Modells?

Das Ziel ist die Schaffung des ersten offenen großen Sprachmodells, das auf Ethik, Transparenz und Zustimmung abzielt.

Wie viel Energie und wie viel Kohlendioxid wurden durch das Training des Bloom-Modells geschätzt?

Das Training des Bloom-Modells benutzte so viel Energie wie 30 Häuser im ganzen Jahr und emittierte 25 Tonnen Kohlendioxid.

Was ist das CodeCarbon-Tool, das der Redner bei der Entwicklung mitgewirkt hat?

CodeCarbon ist ein Tool, das parallel zum KI-Trainingscode läuft und den Energieverbrauch und die Kohlenstoffemissionen schätzt.

Was ist die 'Have I Been Trained?'-Tool und welche Funktion hat es?

Die 'Have I Been Trained?'-Tool von Spawning.ai ermöglicht es, in großen Datenmengen zu suchen, um zu sehen, ob persönliche Daten ohne Zustimmung für die KI-Modell-Training verwendet wurden.

Was ist die 'Stable Bias Explorer'-Tool, die der Redner entwickelt hat?

Die 'Stable Bias Explorer' ist ein Tool, das es ermöglicht, die Vorurteile von Bildgenerierungsmodellen aus der Perspektive von Berufen zu untersuchen.

Wie kann die 'Stable Bias Explorer'-Tool zur Verbesserung der KI-Modelle beitragen?

Das Tool kann dazu beitragen, die Vorurteile in KI-Modellen besser zu verstehen und aufzuzeigen, sodass Maßnahmen zur Reduzierung dieser Biases ergriffen werden können.

Was ist die zentrale Botschaft der Rede in Bezug auf die Zukunft der KI?

Die zentrale Botschaft ist, dass wir uns auf die aktuellen, greifbaren Auswirkungen von KI konzentrieren und Maßnahmen ergreifen sollten, um diese zu reduzieren, anstatt uns nur auf zukünftige existenzielle Risiken zu fokussieren.

Was ist die Rolle von Tools wie CodeCarbon, 'Have I Been Trained?' und 'Stable Bias Explorer' in der heutigen KI-Gesellschaft?

Diese Tools sind wichtig, um die Auswirkungen von KI zu messen, um Entscheidungen zu treffen, die Transparenz zu erhöhen und die Gesellschaft vor den negativen Auswirkungen von KI zu schützen.