Why AI Is Incredibly Smart and Shockingly Stupid | Yejin Choi | TED

TED

28 Apr 202316:03

Summary

TLDRこのスクリプトでは、人工知能（AI）の強大さと限界について哲学的な視点から議論されています。AIは世界クラスの囲碁チャンピオンを破り、大学入学試験や法科試験に合格することができるほど強力ですが、時に小さな間違いをしてしまうことがあります。AIの安全性や環境への影響、そして教育の方法について社会的な課題が提起されています。また、AIが持つ「一般的な常識」の欠如と、その克服のためには新たなアルゴリズムやデータの創新が必要であると指摘しています。この講演は、AIの持続可能性と人道主義を追求する未来への道を模索するものです。

Takeaways

🧠 「人工知能は非常に強力なツール」と言われており、世界クラスの「囲碁」のチャンピオンを破り、大学入学共通テストを合格し、さらには法科大学院の試験にも合格している。
🔍 AIの今日の状況は、非常に大きな「ゴリア」に例えられており、膨大なGPUと言葉の量で訓練されているとされる。
💡 「AIは一般的な常識を示す火花を示しているが、時には小さな愚かな間違いをすることもある」と述べ、AIの限界について触れている。
💰 AIの訓練には膨大な費用がかかるため、その集中化が進み、僅かなテクノロジー企業が訓練できる状況になっている。
🌳 AIの訓練には大きな環境影響とカーボンフットプリントがあると指摘している。
🤔 AIが持つ「常識」の欠如は、人類にとって本当に安全なのかどうか疑問視されている。
🏫 大学や非営利研究機関で働くスピーカーは、極めて大きなGPUファームを所有していないが、AIを持続可能で人道的にするため、多くのことが行うべきだと主張している。
🌐 AIをより小さくすることで民主化し、人間の価値観を教えることでより安全にすることが求められている。
📚 「戦術の芸術」からのインスピレーションを受け、敵を知り、戦いを選び、武器を革新することが重要であると語っている。
🔮 AIの「常識」を教えることは、月の裏側のような挑戦であり、単純にスケールを増やすことで達成できるかどうか疑問にされている。
🔄 AIの学習アルゴリズムは、信頼できる知識モデルとして最適でないかもしれないと述べ、新たなアルゴリズムを模索している。
🌐 AIの「常識」を教えるために、共通の知識グラフや道徳規範のリポジトリを構築し、透明性の高いオープンなデータを作成している。

Q & A

18世紀の啓蒙思想家のヴォルテールの引用文は何ですか？
-「常识はあまりに普通ではない」という18世紀の啓蒙思想家ヴォルテールの引用文がスクリプトで紹介されています。
人工知能（AI）が持つ3つの社会レベルの課題は何ですか？
-スクリプトでは、AIのトレーニングコストの高騰、少数のテック企業によるパワーの集中、そしてこれらのモデルの膨大なカーボンフットプリントと環境への影響という3つの社会レベルの課題が挙げられています。
AIの安全性に関する懸念は何ですか？
-AIの安全性に関する懸念として、研究者がこれらのモデルを実際に検査・解明するための手段が不足していることが挙げられています。
スクリプトで述べられた「知的質問」とはどのようなものですか？
-スクリプトでは、「AIは堅実な常識を持ちながら、本当に人類にとって安全か？」と「暴力的な規模拡大がAIを教える唯一の方法で、正しい方法か？」という知的質問が提起されています。
スクリプトの講演者はどのような職業に就いていると述べていますか？
-講演者は20年間computer scientistとして活動しており、人工知能に携わっていると述べています。
講演者が提唱するAIの3つの改善点は何ですか？
-AIを小さくして民主化し、人間の常識と価値観を教えることでAIを安全にし、持続可能性を高める必要があると講演者は提唱しています。
「戦争の芸術」からの教訓とは何ですか？
-「戦争の芸術」からの教訓として、「敵を知れ、戦いを選び、武器を革新せよ」という3つのアプローチがスクリプトで紹介されています。
AIが持つ「暗黒物質」とは何を指しますか？
-AIの「暗黒物質」とは、言語の見えるテキストではなく、世界の仕組みについての不明示のルールを指しています。これは言語の解釈と使用に影響を与えます。
AIが持続可能性と人道主義を兼ね備えるためにはどのようなことが求められますか？
-AIが持続可能性と人道主義を兼ね備えるためには、人間の常識、規範、価値観を教えることが求められています。
講演者が提案する新しいアルゴリズムの1つに「シンボリックナレッジディスティレーション」とは何ですか？
-「シンボリックナレッジディスティレーション」とは、大きな言語モデルをディープラーニングネットワークを使用して、より小さな常識モデルに圧縮するプロセスであり、人間の検査可能な常識の知識表現を生成します。
スクリプトで述べられているAIの学習の側面とは何ですか？
-スクリプトでは、AIの学習が単に次の単語を予測するのではなく、世界を理解し、世界の仕組みを学ぶプロセスであることが強調されています。