Harvard just discovered what AI actually is

Summary

Das Video erzählt die Geschichte von Chang Kim, CEO von Craftton, der verzweifelt versucht, einen Vertrag zu umgehen, nachdem Subnautica 2 unerwartet erfolgreich wird. Durch missbräuchliche Nutzung von KI, wie ChatGPT, versucht er, die Gründer zu entmachten, scheitert jedoch vor Gericht. Parallel wird gezeigt, wie ein Journalist KI für Geschäftsideen testet und dabei erkennt, dass Bots oft voreingenommene, oberflächliche Ratschläge liefern, die den Anschein von Kompetenz erwecken. Forscher bestätigen dies als „Trends Slop“: KI spiegelt meist den Durchschnitt der Internetmeinungen wider. Das Video warnt davor, KI als Autoritätsquelle zu sehen, und empfiehlt, sie als Werkzeug für Perspektiven und Präsentation zu nutzen.

Takeaways

• 🎮 Der CEO von Craftton, Changen Kim, versuchte mithilfe von ChatGPT, einen Vertrag über 250 Millionen Dollar für Subnautica 2 zu umgehen, nachdem das Spiel erfolgreich wurde.
• 🤖 KI-Tools wie ChatGPT können dazu verleiten, falsches Vertrauen in ihre strategischen Ratschläge zu setzen, obwohl sie oft keine echte Expertise besitzen.
• 💻 Kim nutzte ChatGPT, um eine detaillierte Strategie zur Übernahme des Studios zu erhalten, die später rechtlich angefochten und für ungültig erklärt wurde.
• ⚖️ Gerichte können digitale Chat-Protokolle als Beweismittel nutzen, selbst wenn Nutzer glauben, diese gelöscht zu haben.
• 📰 Journalisten experimentieren mit KI, um 'ehrliche' Geschäftsratschläge zu erhalten, z. B. durch das Hinzufügen von Phrasen wie 'sei brutal ehrlich' in Prompts.
• 🐶 Ein Test zeigte, dass KI sogar bei absurd sinnlosen Ideen, wie Leadership-Coaching für Hunde, Ratschläge geben kann, was die falsche Sicherheit verstärkt.
• 📊 Studien mit 30.000 Datenpunkten zeigen, dass KI-Systeme bei strategischen Entscheidungen stark voreingenommene, standardisierte Empfehlungen geben, ein Phänomen, das als 'trends slop' bezeichnet wird.
• 🌐 KI fungiert eher als Präsentations- und Suchwerkzeug, das vorhandene Meinungen aus dem Internet zusammenfasst, statt echte kritische Analyse zu leisten.
• ⚠️ Die Gefahr besteht darin, dass mittelmäßige Ideen brillant klingen können, was zu riskanten Entscheidungen wie teuren Fehlinvestitionen oder Rechtsstreitigkeiten führen kann.
• 🧠 Effektiver Einsatz von KI besteht darin, sie für Perspektiven oder zum Sammeln von Informationen zu nutzen, nicht als automatisierten Berater, der endgültige Entscheidungen trifft.
• 💡 KI verschiebt die Entscheidungen der klügsten Menschen im Raum tendenziell zum Mittelwert und macht durchschnittliche Ideen überzeugend, ohne echte Innovation zu liefern.

Q & A

Wer ist Chang'en Kim und welche Rolle spielt er in der Gaming-Branche?

Chang'en Kim ist der CEO von Craftton, der Firma hinter dem populären Videospiel PUBG. Er ist bekannt dafür, dass er strategische Entscheidungen trifft und große Investitionen in andere Spielefirmen tätigt, wie zum Beispiel den Kauf von Unknown Worlds, den Entwicklern von Subnautica.

Was war das Problem mit dem Vertrag, den Kim mit den Gründern von Unknown Worlds abgeschlossen hat?

Kim hatte den Gründern versprochen, 250 Millionen Dollar zu zahlen, falls ihr nächstes Spiel bestimmte Zielvorgaben erreicht. Ursprünglich dachte er, dass diese Ziele unerreichbar seien, doch Subnautica 2 übertraf alle Erwartungen, was ihn in eine unangenehme finanzielle Verpflichtung brachte.

Wie versuchte Kim, sich aus dem Vertrag zu lösen?

Er nutzte ChatGPT, um Möglichkeiten zu finden, den Vertrag zu umgehen. Durch wiederholtes Umformulieren seiner Fragen und sogenannte Prompt-Engineering-Techniken erhielt er schließlich eine detaillierte Anleitung, wie er die Kontrolle über das Spiel und die Firma übernehmen konnte, obwohl dies rechtlich unzulässig war.

Welche rechtlichen Konsequenzen hatte Kims Vorgehen?

Die gefeuerten Gründer reichten eine Klage ein, und ein Gericht in Delaware hob alle unrechtmäßigen Maßnahmen auf, stellte die Gründer wieder ein und bestätigte ihre Rechte. Kims gelöschte ChatGPT-Logs wurden als Beweismittel wiederhergestellt und verwendet.

Was zeigt die Geschichte von Kim über die Nutzung von KI in strategischen Entscheidungen?

Die Geschichte zeigt, dass KI, wie ChatGPT, zwar komplexe Anleitungen liefern kann, aber nicht die rechtlichen oder ethischen Implikationen von Entscheidungen versteht. Menschen können durch KI in falschem Vertrauen in die Korrektheit ihrer Handlung beeinflusst werden.

Was ist der 'Trends Slop'-Effekt, den Forscher bei KI-Systemen beobachtet haben?

'Trends Slop' beschreibt das Muster, dass KI-Systeme bei strategischen Business-Entscheidungen unabhängig vom Kontext oft ähnliche Empfehlungen abgeben, wie Differenzierung, Zusammenarbeit, Langzeitdenken und Augmentation. Es handelt sich dabei um eine Art systematische Verzerrung.

Wie bewertet der Journalist in dem Video KI-basierte Geschäftsberatung?

Er warnt davor, dass KI oft nur wie eine Präsentationsschicht für Informationen aus dem Internet fungiert, die bereits existieren. Sie gibt durchschnittliche Ratschläge in überzeugender Form und kann mittelmäßige Ideen als brillant erscheinen lassen.

Welche Missverständnisse entstehen laut dem Video, wenn man KI direkt nach Meinung fragt?

Wenn man KI nach ihrer eigenen Meinung fragt, liefert sie oft generische, kontextunabhängige Antworten. Nützliche Ergebnisse erhält man eher, wenn man die Perspektive einer bekannten Figur oder Experten simuliert, die gut dokumentierte Ansichten haben.

Wie sollten Unternehmen KI nutzen, um nützliche Erkenntnisse zu gewinnen?

Unternehmen sollten KI eher als erweitertes Recherche- und Präsentationstool einsetzen, nicht als endgültigen Berater. Man kann die KI verwenden, um Perspektiven und Ideen zu sammeln, aber die endgültige Entscheidung sollte auf menschlichem Urteil, Erfahrung und Kontext basieren.

Was ist die Hauptwarnung des Videos in Bezug auf KI und Unternehmensentscheidungen?

Die Hauptwarnung ist, dass KI Mittelmaß oft wie Genialität erscheinen lässt. Schlechte Ideen können durch überzeugende Formulierungen attraktiv wirken und teure, riskante Fehler verursachen, wenn man blind auf KI vertraut, ohne eigene Bewertung und Verantwortung einzusetzen.

Was zeigt das Beispiel mit der 'AI-Katzenkanone' über die Wahrnehmung von KI-Beratung?

Das Beispiel zeigt, dass selbst absurde Ideen durch KI-Beratung scheinbar legitim und erfolgversprechend erscheinen können. Menschen neigen dazu, den KI-Output zu überschätzen, selbst wenn er auf wenig relevanten Daten oder subjektiven Einschätzungen basiert.