松田語録：イリア・サツケバーがOpenAIを退社
Summary
TLDRこのスクリプトでは、人工知能の進化とそれに伴う倫理的アライメントの重要性が議論されています。イリアスケーバーがオープンエアから離れると話題にされ、彼の辞任がAIの将来に与える影響について多くの議論を呼び起こしました。さらに、AIの次のステップとしてGPT5やGPT6の開発が示され、それらが人間を超える知能を持つ可能性について触れられています。スクリプトは、AIの進歩とそれに伴う政治的・倫理的な問題を絡めて、今後の方向性についての懸念と期待を探求しています。
Takeaways
- 📜 スクリプトはイリアスケーバーがオープンエアから辞任したことを話題にしています。
- 🔍 コメント欄からの要望を受け、その件について深い解説が行われています。
- 🤔 サムアルトマンの言動が話題になり、イリアスケーバーとの意見の相違が示されています。
- 👥 スーパーアライメントグループから複数のメンバーが辞任しており、それが大きな問題視されています。
- 🧩 アライメントの重要性が強調されており、人工知能が人間価値観に沿うように教育する必要があるとされています。
- 📉 イリアスケーバーの離脱が、プロジェクトの将来に懸念を呼び起こしています。
- 🚀 人工知能の進化は急速であり、次のステップとしてGPT5やGPT6が期待されています。
- 🧠 AIの開発においては、アライメントと呼ばれる人工知能の教育と方向性が重要な役割を果たしていると示唆されています。
- 🌐 AI技術の発展は国際的な競争であり、アメリカがその中心となっていると議論されています。
- 🛡️ アメリカ議会によるAI技術の規制に関する動きがあり、国家安全保障上の懸念が示されています。
Q & A
イリアスケーバーがオープンエアから辞任した理由は何ですか？
-イリアスケーバーは、スーパーアライメントという研究プロジェクトにおいて、人間とAIの価値観をどのようにアライメントさせるかという問題に関心を持っていましたが、その取り組みが中止されたことから辞任したと思われます。
イリアスケーバーの辞任に関連して何人が退職しましたか？
-イリアスケーバーの辞任に伴い、合計5人がスーパーアライメントグループから退職しました。
サマルトマンはイリアスケーバーの辞任についてどのように述べていますか？
-サマルトマンはイリアスケーバーの辞任について、彼の戦略やアライメントに関する考え方を評価しており、イリアスケーバーが非常に良い人であり、悪いことばかり書いていないという印象を示しています。
AIの開発においてアライメントがなぜ重要だと考えるのですか？
-AIの開発においてアライメントは、AIが人間と同じ価値観を持つように教育されるため非常に重要です。これにより、AIは有害な行動を避け、人間と協調して働くことができます。
イリアスケーバーが辞任した後のオープンAIの動向はどうなるでしょうか？
-イリアスケーバーが辞任した後のオープンAIの動向は不透明ですが、彼の影響力は大きいと予想されており、今後のAI技術の発展に大きな影響を与える可能性があります。
AIの進化について、人間と機械の知能の比較はどのようなものですか？
-人間と機械の知能を比較すると、人間は少ないデータで学習し、省エネルギーで経済的な知能を持っているとされています。一方、機械は大きなデータセットを必要とし、よりエネルギーを消費する傾向があります。
AIの進化において、人間が追い抜かれる分野はありますか？
-現在のAIは特定の分野では人間を超える能力を有していますが、数学や論理などの分野ではまだ人間を追い抜いていないとされています。
AIの分野における「アライメント」とは何を意味しますか？
-「アライメント」とは、AIの目標と人間が持つ価値観や目的が一致するように教育やプログラムを行うことを指します。これにより、AIは人間にとって有益な行動をとるようになります。
AI技術の発展において、政治的な問題がどの程度影響していると思いますか？
-AI技術の発展においては、政治的な問題が大きな影響を与えると予想されます。特に、AI技術の輸出規制や国家安全保障に関する議論がその一例です。
イリアスケーバーの辞任がAI技術の将来にどのような影響を与えると予想されますか？
-イリアスケーバーの辞任は、AI技術の将来において、アライメントに関する研究の進展やAIの安全確保に関する議論に影響を与える可能性があります。
AI技術の将来について、どのような展望が示唆されていますか？
-AI技術の将来については、人間とAIの協調性やアライメントの重要性が強調されており、AIが人間生活に積極的に貢献する未来が示唆されています。
Outlines
😀 サーアートマンの退職とAIアライメントの重要性
イリアスケーバーがオープンエアをやめるというニュースに触発し、コメント欄で要望があったことから、サアルトマンのメールを読んだ感想を語る。サアルトマンの文章は非常にポジティブで、イリアを愛しているように見受けられるが、実際にはそうではないと説明。また、AIのアライメントについて、スーパーアライメントの研究が重要で、イリアが辞めたことでそのグループが半分減ったと話題に。AIの進化と共にアライメントがますます重要になってくるという印象を受けた。
🤖 AIの進化と人間との関係
GPT5の登場に伴い、前のバージョンを使いながらアラインするという考え方を説明。人間とAIの知能の比較を通じて、AIが人間を超える可能性を探求。また、AI開発においてアライメントがどんどん重要になってきていると感じる。ハルシネーションや差別的な発言を避けることが困難であり、アライメントの重要性が強調されている。AIのテストにおいて人間を超える結果が出ているが、数学などはまだ人間が優れていると語る。
🧐 AIアーキテクチャーの討論と人間知能への影響
AIアーキテクチャーについて議論し、人間と機械知能の比較を行った。人間は省エネルギーで小さなデータで学習できるという利点があると述べ、一方で機械知能は力強いが大きさが異なると説明。トランスフォーマーアーキテクチャーについても触れ、言語モデルが超高次元空間で文章を表現し、その空間から新しい文章を生成するプロセスについて語る。また、知能とは何か、人間知能と機械知能の重なりと相違点を探求し、人間にはできないが機械にはできる機能の存在についても言及する。
🚀 AIの進化と危険性についての意見
AIの進化とそれに伴う危険性についての議論を繰り広げ、小林さんやヤルカの意見を取り上げ、現在のAIアーキテクチャーで何ができるか、また何ができないかについて述べる。人間的なAIと機械的なAIの概念を持ち上げ、どちらが安全であるか、またどちらが達成可能かについて語る。また、AIが人間を支配する可能性や、科学技術の発展とその影響についても触れる。
🌐 AIの将来性と政治的問題
イリアスケーバーが競馬からやめる理由や今後の動向について語り合う。AIの将来性とそれに伴う政治的問題、特にアメリカの国家戦略とそれに伴う法的な問題を探求。また、AI技術の進歩によって世界を支配できるかどうかという問題に触れ、現在のAI技術がどの程度進んでいるかについても議論する。最後に、AIのアライメントが非常に重要であるという結論を出す。
Mindmap
Keywords
💡イリアスケーバー
💡アライメント
💡イースト戦略
💡GPT
💡スーパーアライメントグループ
💡AIの道徳性
💡ハルシネーション
💡人工知能の進化
💡AIの規制
💡人工知能の安全性
Highlights
イリアスケーバーがオープンエアを辞めたと話題に上がっている。
イリアスケーバーの辞任に伴い、アイクイットという人物も辞任した。
過去にリークした2人が首にされ、さらに1人が辞任しているという情報。
イリアスケーバーが辞任した理由は、イースト戦略と意見の相違があったとされる。
イリアスケーバーがアライメントの協力を主張していたこと。
イリアスケーバーとサマルトマンの意見の相違が昨年の大騒ぎの原因だったと分析されている。
イリアスケーバーの辞任がAI開発のアライメントに大きな問題をもたらす可能性がある。
ラメントがリーダーとして選ばれ、イリアスケーバーの後を継ぐ可能性がある。
ラメントはAI関連の100人選出されており、アライメントの権威と呼ばれている。
イリアスケーバーが辞任した後、ラメントもすぐに辞任する旨を表明した。
AIの開発においてアライメントがますます重要になるという見方がある。
AIの学習において、人間とは異なる次元の空間での表現が用いられていると説明されている。
AIの進化において、人間を超える知能を持つAIの開発が進んでいるとされている。
AIのテストにおいて、人間を超える性能を持つAIが存在するという報告がある。
AIのアーキテクチャーについての議論が、安全と危険の観点から行われている。
AIの開発において、人間的なAIと機械的なAIの議論が存在する。
AIの開発において、人間知能と機械知能の重なりと相違が議論されている。
AIの開発において、政治的問題が生じる可能性があるという見方がある。
AIの開発において、アメリカが重要な役割を果たしているとされている。
AIの開発において、競争が激化し、誰が先んじて勝つかが注目されている。
AIの開発において、技術的な進歩と政治的問題が絡み合っているという指摘がある。
Transcripts
00:00はいイリアスケーバーがオープンエアやめ
00:02たというですね
00:03あこれもねコメント欄にそれ取り上げて
00:07欲しいという要望があったしああやめでね
00:11これに関してあのまサアルトマンのあの
00:16メールみたいなものを読んだのといから
00:19それの解説がね40分ものね長大な解説が
00:23あってこれは結構重大な話だって話があっ
00:26てまずねサアルトマンの文章を読んだ時の
00:29私の受けた印象これはねあの言葉がもう
00:34サムアルトマンのいい人戦略ああうん
00:38つまりあのイリアさば私はねイリアを愛し
00:42てるみたいなこと書いてるわけじゃない
00:44ですかで悪いこと一言も書いてないのよね
00:47ああはあはあで非常にいいことばっかり
00:49書いてあってで最後にあの次に変わった人
00:53ねイデアサケバがチーフサインえなな
00:58なんかでしょでで次に変った人もまた
01:01ベタ褒めにしてるとまこれいい人戦略の
01:05全開だなというのをまず1つの印象です
01:08ああはは
01:09はまこれはあのだからイスト戦略を取れば
01:13偉くなるというそういう話じゃなくてなぜ
01:16ならばあのイースト戦略と極端に逆のこと
01:20やってるのがイーロンマスクとんからあの
01:23ジョブスですよねああはあはああの
01:27まあままままヒト戦略とは言わないけどま
01:32字を出してるわけうんいやまその点が1て
01:35ねでもう1つはねその長大な解説っていう
01:38のはこれは結構重大な話だとというのはね
01:41アライメントってあるじゃないですか
01:43スーパーアライメントつまりあの次の
01:47ね特にあのasi超知能ができた時にこれ
01:52がま悪いことしないように人間の価値と
01:55そういうようにするにはどうするばこの
01:57研究をねオープンエアがやってわけじゃ
02:00ないですかでそれのトップがイリアサケバ
02:02なんですよね
02:04ああで彼が辞めたと同時にですね彼を補佐
02:08してたもう1人がねアイクイットっていう
02:10のを出したのねうんやめたんですああはい
02:13はいはいはいでそれからね前にねその
02:17グループの2人が首になってんのうんああ
02:20これ例のあのねあのあの事件の時にリーク
02:23したとかいうのでうんでもう1人もねやめ
02:26てるねだからね多分合計ねそののスーパー
02:30アライメントグループの5人が辞めてん
02:33だってうんでそのペーパーがあってね論文
02:36があってですねその著者のね半分がやめて
02:40んだって
02:41[音楽]
02:42ああだからねオープンAIのまこの
02:47アライメントこのアライメントを協力に
02:50主張してたのがイリアサケバですや
02:53うんうんででそれがいやだからあのね
02:56大騒ぎ去年の大騒ぎも結局はそのこの辺の
03:01方針に関するイリアサケバとサマルトマの
03:04意見の差ちうものじゃないかとまいろんな
03:07意見あるけどねうんうんでで犬サケバが
03:11まあまあそういうにやめてでその
03:14アライメントのグループが半分がいなく
03:16なったということはね一体これがどうなる
03:19んだっていううんえ大きな問題だっわけ
03:24ですよえジャンレイクシっていう人ですね
03:27そうそうそうラメントのまリーダーという
03:31かうんああはあはあはいそそのやめたやめ
03:35たってことその人がま後うようにもすぐ
03:37ですよねイリアがやめるって言ってから数
03:39時間後にもうXかなXかなんかにうんも
03:43やめるって出したそうででこの人はなんか
03:46去年えっとタイムのハレAIとかまai
03:52関連の100人の人みたいなにも選ばれ
03:54てるらしくておああスパアラインメントま
03:57アライメントのま権威なわけです
04:01で去年のそのインタビューを見ると去年
04:04から4年間かけてこのスーパーアライメン
04:06トっての完成させるって言ってたんでうん
04:09うんもう半ばにしてやめちゃったという
04:12ことは今後どうなるんだろうってことがね
04:16心配ですよねこのライメンとでもやめて
04:19しまうのかそれとも誰か引き継ぐのかその
04:22いやもちろん次の人が出てきた
04:25サマとに示したわけうんでその人もだ言う
04:30のだってまサマルとまはそのいい人戦略の
04:34文章に書いてあるわけようんまじゃ続ける
04:37のなは続けるともちろん続けるでしょうん
04:40続けるけどまそのイリアさけばほどのねだ
04:44からさ丸とがジアスだ天才だて言ってる
04:47じゃないですかうん天才がいなくて大丈夫
04:49なんかって話ねああで具体的にねどうやる
04:52かっちゅう話もねまそのYouTubeで
04:54言うてまこれはまYouTubeで言うて
04:57たっちゅうでそのオープンエアの文章に
04:59書いてあるんやけど次のねま例えばGPT
05:03え6が出るとするじゃないですかうんで
05:06こいつをねアラインするためにGPT51
05:09つ前のやつを使うんだってうんうんだから
05:14人間がね申しててももうねキリがないし
05:17向こうの方が知能が高いんだからうん知能
05:21の低い人間がもねできないとでだから1
05:26世代ま今で言うならGPT4にGPT5を
05:31訓練させるとああほうはほでGPT5に
05:35GTP6を訓練させてそういう風にして
05:38うんでまあ今GPT4は人間と比べて
05:41まあまあコンパラぐらいだけどGPT5に
05:44なると多分人間よりも上でしょうねうんだ
05:48から次のGPT6はかに上だからだから5
05:53に監督させるってことですよねうんま親が
05:56こう育てて子供が親を追い越ししていく
06:00みたいな感じうんうんうんうんうんうん
06:02うんうんそうですごいだから名親の考えは
06:04投資されつつそれを超えた優れた知能が
06:08できるとうんうんうんなんでしょうかね
06:11それでま他の方法がないっていうことなん
06:14でしょうねきっとねうんうんうんうんね
06:18アラインメントに関してねアラインメント
06:21が本当どんどん重要になってきてる感じが
06:23ありますねこのAI開発においてうんうん
06:26うんまどんどんそのなんてか学習はさせ
06:28られるんだけど
06:30やっぱりあのまそハルシネーションである
06:32とかあれは人間にとって害悪的な答えを
06:35出してくるっていこと
06:37はどうしても避けられないんだっていうね
06:40ような記事が出ていてつまりアライメント
06:42にかかっているみたいな感じのこと言って
06:45たんででもこれすごい手間がかかることな
06:47んですよねきっとこのアライメントってあ
06:51ねそのね危険だって言った時にいろんな
06:55側面があってですねつまり今ねおっしゃっ
06:58たあのなんだディープフェイクをやるとか
07:04あるいはま差別的なことを言うとかそう
07:07いうレベルの話とねうんからまバイオ
07:11ショックさんなんかが気にして人間滅ぼす
07:14みたいなねうんエグジステンスリスクか
07:18そういうのと一応ね分けんといかんわけね
07:21でそっち側の方が今強烈ですよねうんでで
07:27向こうの知能はねあの
07:31圧倒的に人間大きくなると思う僕はね
07:34いろんな意見があってで今日の勉強会でま
07:372000えっとAIレポート2024って
07:40いうのをま呼んだんだけどまそれは
07:432023年までのま報告ですよねまそれも
07:48ねあの横軸に時間とって縦軸にまいろんな
07:53テストAIに対するテストというのやって
07:56で人間レベルていうのはこうあった時にで
07:58いろんなものこう追い抜いてってるわけ
08:01ですよでまだねあの人間の方があの
08:05追い抜いてないのがあんねそれはあの数学
08:08とか論理数学的っちうのでそれねグラフ見
08:11てたらね追い抜いたやつてこんな感じで
08:13すっこう追い抜いてったんけど今まだダメ
08:16あの追い抜けてないのがね数学なんかがね
08:19こんな感じね
08:20うんものすごい急に上がってってやうんだ
08:24からまだしたって安心しててもねこれがね
08:27こんなんだったらねまだまだね5年先とか
08:3110年先とかいうことがあるけどこれだ
08:33からねあと1年とかそんなんですよねそう
08:36するとねうんもう今までのテストはね
08:39ほとんど全部人間を超えると思うわけうん
08:42で今問題になってのはそういうテストじゃ
08:44なくてもっと難しいテストねを考えてる
08:47らしいけどね
08:50うんただねそれなんと言ったって僕はね
08:54時間の問題だと思うよだただここはね人に
08:57よって意見が別れてですねあの今の
09:02あのこれまさっきのねあの雑談の時もやっ
09:06たけどあの今のアーキテクチャーであの
09:11長知のあれagiに行くのかとで行かない
09:15という立場もあるけどこれが僕もさっき何
09:18度も繰り返すけど今のアーキテクチャーと
09:20いう言い方はやね飛行機なアキちゃねでで
09:25人間の方が優れてるよと赤ちゃんはね
09:27はるかに少ないコーパスで学習するとかね
09:30脳はものすごいねエネルギー少なくて20
09:33Wでやっていけるよとだからねあの機械
09:36よりもね優れてんだって言うけこれはま
09:39さきも言ったけどさ人間は例えばねあのえ
09:43スズメみたいなもんであってねスズメと
09:46飛行機を比較してねでスズメの方が優れ
09:49てるよってねそこらにね枝に止まる電線に
09:52止まるじゃないかってね機械飛行機止まれ
09:55ないじゃないかっていう風な議論と同じで
09:58でスはすごいね小さなエネルギーで飛ぶよ
10:01とねだけど飛行機ってものすごいねあの
10:05あの燃料食うじゃないかとだからダメじゃ
10:07ないかちゅう議論と僕は同じだと思うんや
10:10でうんうんだから飛ぶということに特化し
10:13て考えればねね進めよる飛行機のがはるか
10:17に圧倒的に高性能ねだから機械調知能
10:20ちゅうものと人間の知能を考えた時人間の
10:22知能方がはるからね省エネでそれからあの
10:26小さなデータで育てられるとねでだから
10:30経済的だってでそれはねすめと同じだって
10:33僕は言いたわけやところがあの機械知能の
10:36は馬力で来るわけ馬力ででもの飛行機が
10:41ものすごい大きいねでどんな小さな飛行機
10:44だって進めたらあと的にね大きさが違う
10:46わけよで馬力も違うわけですようんうんだ
10:50からねだから数の方がね経済的だよって
10:52言ったってね始まらんじゃないかというの
10:54が僕の意見ですよでだからだから今のアテ
10:58チまトランスフォーマー
11:00トランスフォーマーとは悲しも言えない
11:01けどねというなマンバみたいなもんもある
11:04しだけどね今の飽きてきちゃねここ僕ね
11:07一番よくわかんないのは今のねAIって何
11:11をやってるかと言うとですねま例えば言語
11:14モデルに関して言うならね何かあの言葉が
11:18あるでしょ文章がねこの文章っていうのが
11:20ねあの超高次元空間の中に一点ないようん
11:25どういうことかち言ったらま文章っていう
11:28の単語の列からできてるとまま厳密にば
11:32トクなんだけどまあまあ単語となこの単語
11:34がですねあの例えばですよ例えば124
11:38次元空間の中に1てんないねでそれがね
11:401000個あったらね124次元空間の中
11:44に点が1000個あるんだけどだけどこれ
11:46をねコンカティネートてうんだけどこうこ
11:48くっつけてしまうんやそうするとねま
11:511000として1000か1100万
11:53100万次元の空間の中に1点があるとね
11:56だからあの戦後の語あの文章っちうなんで
12:01100万次元空間の中に11点ポツンと
12:03あるわけでいろんなコーパスがあるからま
12:06これ戦後ちいうのは例えばですよねだ1万
12:09号ならね100万次元で1000万次元
12:11空間を考えればいえそういうところに
12:14いろんな文章がててんててとこうあるん
12:16ですよとはこれねスカスカなんよなんで
12:19スカスカかっうったら世の中の文章すごく
12:21量があるとか言いながらやねこんなね
12:24100万次元空間とか1000万次元空間
12:26ってむちゃくちゃ大きいやけでまバラバラ
12:29あるんですよまともかくねそういう文章が
12:31こうててててんとこうあるとしますよねで
12:35これをこう考えこれは本当はねもっとこれ
12:37を滑らかに覆うような確率分布え密度関数
12:42ちゅうものがあってねこれが全人類の作り
12:47うる文章の空間あの確率分布ちゅうのが
12:51あるとで今すでに実現されてんのがこの
12:55そん中の一点でこっから1点取り出してき
12:58たらですね何かが文章なんですよで今
13:01すでにコーパスであるのがてんてん
13:03てんてんとこう散らばってるわけだから
13:06その真ん中から取り出してくればです
13:08ね今までに誰も言うたことがない書いた
13:12ことがない文章が出てくるわけでそれがね
13:15それが嘘か本当かっちゅうの話で別よんで
13:18別ハルシネーションてゅうのはだから文法
13:20的な正しい言葉言いてるわけだからこの
13:22空間の中で文法的に正しいえ分布という
13:26ことだけを考えたら文章としてはまともだ
13:28けどあのハルシネーションの言葉でだけど
13:31この分布の中でですね事実だけを扱った
13:34分布っていうのはどっかにある狭狭く狭い
13:37ところにあるんででそっから取ってこれれ
13:39ばですねま今まで誰も言うたことがない
13:42けど正しい言葉がま出てくるわけですよで
13:45そのようなものだともし思えばやねこの
13:49確率文法をいかに計算するかで計算した
13:53そこからいかにしてうまくサンプリングし
13:55てくるかという技術にあの押し込められる
14:00わけだとすればトランスフォーマーで
14:02いいってことになると僕は思うやうんで
14:05あとえっとせそのことが言いたかったん
14:08ですかあそういうこといやつまりそまで
14:10いいということというか知能とはそのよう
14:14なものだと思えばということどうええっと
14:17ちょっとどっから話脱線したんか分から
14:20なくなってきましたけどもその話はどこに
14:22収束するんでしたっけえいやだから今の
14:25アーキテクチャーでねいいのかっていう
14:27ことでこれはねええで例えば小林さんね
14:31ダメだて言うわけよねで僕はねいいんじゃ
14:34ないかと思うわけよで例えばやるかなんか
14:37ダメだて言ってるわけよえええええだけど
14:40あので多くの人いや正直言って分からない
14:44よ誰もわからないね誰もえっとなんかイア
14:47サケバの話からアラインメントの話になっ
14:50ていやだから危険だという違だ超知能と
14:55いうものえっとだからトランスフォーマー
14:57でいいってことは危険だということ言って
14:59ますかいやそれはいやつまり超つまりこの
15:04ままで危険だということをおっしゃりたい
15:06ですどんどんももっと先行け
15:08るってことですねそうそうそうそうそうだ
15:10から例えば小林さんなんかはね今の
15:12アーキテクチャーじゃダメだという言うの
15:14ならね別に心配せんでええということです
15:17ようんつまり今のAIは大したことがない
15:21という長でしょそれはヤルカなんかもそう
15:25言ってるわけんだだからヤルカは一貫し
15:27てるんねつまり今の恋愛大したことがない
15:31とねだから危険ではないとで今のを超える
15:36ためには俺のアーキテクチャーを使えと
15:38言ってるわけうんうんうんで
15:43でイリアサスケばなんかきっとそうは思っ
15:46てなくてええ今のアーキテクチャーで
15:49いけるとえうんいやだからいや危険性危険
15:54じゃないかちいうのはそこうん入りすけば
15:58はっきり言って危険派やねでヤル感はあの
16:02危険じゃない派なんですようんうんでヤル
16:05感がなぜ危険じゃないかっちった今のアテ
16:07クチャーねま負いたトランスフォーマーと
16:10ま思ってるけどあるいは僕が言ったような
16:13ねトランスフォーマーとは限らないけど
16:16確実分布関数の中からどっか取り出した
16:18それが知能なんだという言い方するならば
16:21ですね別にねトラスもンでいいんじゃない
16:24かって話になるわけだから今の生き方で超
16:27知能が達成されるとうん可能性があるとで
16:31イサバもそう思っておるとだから彼は危険
16:35だと言っておるというそういう話ですよど
16:37もです
16:38ねむむしろあれですよ人間的なAIとま
16:42やる人口的なAIっていうま言い方をする
16:45とするとさっきのその人間的なAIでない
16:47とAIじゃないっていう人たちはうんうん
16:49うんむしろ安全でそうそうそうそう人間的
16:52なところは超えないわけじゃないですかで
16:53もこ機械的な人工的なAIっていうのがま
16:57もうどこまで行くかわかんないですよそう
16:59そうそうだからねい格できるっていヤル感
17:02が盛にね今の愛は犬の知のに劣ると言っ
17:07てるわけやねで生ぜ猫の知能だと言ってる
17:10わけでこれ僕何度も言うようにそれはそう
17:14だってねそうだけどそんなことは重要じゃ
17:17ないってねでllmが今何がねすごいかと
17:21言うと犬の知能を達成しないのに人間の
17:25知能を達成してしまったことですようん
17:27うんうんだからあ僕はよく書く人間知能
17:31っていうのがあって機械知能っていうのが
17:33あって重なる部分があるとねでで人間知能
17:37ね重視する人はね重ならない部分ねつまり
17:40人間にはできて機械にはできない部分が
17:43これが大事だってね機械がこれができない
17:46からダメなんだと言うんだけどそうじゃ
17:48なくて機械はね人間にはできないけど機械
17:51に圧倒的にできるっち大きな部分があるん
17:53ですねこれがあのアルファ号でね人間がね
17:57想像もつかなかった手たというあれですよ
18:00うんうんうんま科学技術をね発展させ
18:04るっていう意味では圧倒的にそっち側です
18:07よねそれからもしかしたら人間を支配する
18:10とかこう政治的な部分ですねそれも
18:13そっち側にほとんど入ってしまうのかも
18:15しれませんねねだからまそう科学技術も
18:18発展させられると人間を支配もできると
18:21いうところに関しては別に動物的な部分
18:25なくてもえっとどうよであるとあの方が
18:31だってね犬とか猫が人間ま猫はちょっと
18:35違うけどさ犬が人間を支配しようとは思わ
18:37ないよねは支配しようと思って
18:39るってことですかというかま下僕だと思っ
18:42とるいう説あのサマトマはどういう感じな
18:45んですかどのニュアンスになりますかそこ
18:47がわかんないわけじゃないですか真ん中の
18:49辺なんでしょうかねあるいはヒリアサバと
18:51かと割と似たよな方向性いや違うと思うよ
18:54だからイリアサスケバがサンマルトマンに
18:57不満だから
18:59えっと基本ねあの去年の事件が起きた時は
19:02ねあのEA派対E派だと言われてました
19:06けどもそんなに2人の立場こう正反対な
19:10わけじゃなくてやはりどっちも割と狭い
19:13ところでちょっと違うみたいな感じです
19:15うんうんつまりねサアルトマンはこのこの
19:19いやだから今の
19:21llm今のアーキテクチャーですごいこと
19:24ができるとねエンジニアができて彩が
19:27できるとでサマルトマそれは良いことだと
19:31ああはあはあうんそれですごいね科学が
19:34発展したりしてでまま極端に言えば人間は
19:38みんな遊んで暮らせるとでそっちのいい
19:42側面を見るかねあるいはいれさけば危険な
19:45方の側面を見るかの違いじゃないかと
19:48うんうんうんうんうんうんそういう意味で
19:50はやっぱりあれですねEAvseaccと
19:53いう構図が入ってるわけですねそこはね
19:56うんうんうんうんうんどこまで行けるかと
19:59いうところに関しては2人ともまあまあ
20:02あのまだまだ行けるという観点でうんうん
20:05うんうんうんうん感じでしょうそれはあの
20:08ヤルカとかとの思ってる方向とはまたあの
20:13反向いてる感じなんですねうんうんうん
20:15ええでそういうことで今回えっとイリア殺
20:19競馬がやめたというのなんか今後に対して
20:22ちょっと大きな大きなテーマなんです象を
20:26鳴らしているという感じなんでしょう今後
20:29どこ行くかはまだ分からないですねうん
20:32うん自分でやるんでしょうかねあるいは
20:34Google行くんでしょうかね
20:39うんでねいや僕よくわかんないのね彼の
20:43能力がねもしねクルーシャであれば
20:48ねあのつまりオープンエが撮るのかね
20:51Googleが撮るのかによってどっちか
20:53がね先にねNGIを完成させるとかasi
20:57完成させるのににもしクルーシャであれば
21:00重大だけどどうですかねでこういう説また
21:04あのそのYouTuber言ってたんや
21:06けどねどっちどこかがねagiを完成させ
21:11たらasiはもうすぐすぐだとでasiが
21:16できたらもうね他は追いつけないとうんお
21:20だからウィナーズテイクオールだとうん
21:23ああうんだから今ね猛烈なね競争だから今
21:28のところはねGoogleが勝つか
21:31オープンAがプラスMicrosoftが
21:34勝つかでしょうんでいやだからねいろんな
21:40英語皆さん言うけどさこの前ねバシさんの
21:45話でま彼が言うてんじゃなくて誰かが
21:48例えばドイツの研究所でそういうものが
21:51できたらそこへ各攻撃するとかあいや
21:55とんでもないこと言うてるけどうん1番
21:57可能性の高いのドイツじゃなくてですね
22:00それはシリコンバレーとマイクロソフトの
22:03シアトルですよだから核攻撃するなら
22:06サンフランシスコかシトロ攻撃戦そは
22:09ちょっと極端で危ないことを言っちゃって
22:11うんいやだからそんなことしっこないわけ
22:14じゃないええそうですねいやいやそそうか
22:17もしれないいやだから僕はああいう議論は
22:19ね僕僕がナンセンスだと言ったのそういう
22:21意味ですよ1番そういう意味であのエサに
22:25近づいてんのはアメリカなんですよえ
22:29え別の方法でちゃんと抑えていかないと
22:33いけないけどもそれは難しいというとこが
22:37ありますよねでさらにね最近のねニュース
22:40なんだけどアメリカの議会はねこのあの
22:46オープンなllmを外国に移出すること
22:51禁止する法案作ろうとしてああうんそれは
22:55ね考えてみてください今までのねラマの2
22:58ぐらいまでなら良かったんやけど3って
23:02あのGPT4と同じぐらいまで来てるわけ
23:05じゃないですかうんはいあれをねねいや
23:10やるかどうかともかくよね例えば中国とか
23:13ねロシアとか北朝鮮はねまある意味自由に
23:17ダウンロードできるわけじゃないですか
23:19うんでそれで自分に都合のようにねエサを
23:23作ることもまあ今のまラマスはまたそこ
23:26まで行ってるということは言わないがねね
23:28うんでもこのまま放置してたらねアメリカ
23:34の国家戦略上具合があるとか話なってくる
23:36わけじゃないですかうんうんうんだから
23:39結構ねあのすごい政治的な問題やと思うよ
23:43うんだ一歩アメリカはねA規制しよとか
23:47いう話を言いながらやね一方でやねそれを
23:51ね囲い込んでだってさっきも見た
23:53ウイナーズテクでこれがね世界を支配
23:55できるかどうかのねうん
23:59道具なんですもんね
24:01うんいやだその話は
24:05ちょっとあのあれでスタロンとかでやっ
24:08たらような感じしますねうんねこれは
24:11うんそろそろ締めくくっていい
24:14ですイケバの話がはいまそういう意味で
24:19スーパーアライメントってのはすい大事
24:20だってことですよね
24:22はいはい
5.0 / 5 (0 votes)
