【徹底討論】AIは単語の意味を理解しているのか？#132
Summary
TLDRこの動画スクリプトは、大規模言語モデルの専門家であるゲストを招いての雑談会を描いています。ゲストは台本の監修を担当し、言語処理のトピックについて深く掘り下げた会話を行いました。雑談の中で単語ベクトルや自然言語処理の概念が取り上げられ、専門知識を持ちより幅広い視点で議論が進む様子が興味深い。また、言語モデルの限界や可能性についても触れられ、参加者の間のユーモアたっぷりなやり取りが楽しんでいました。
Takeaways
- 😀 スクリプトは、大規模言語モデルに関する雑談会の内容を記述しており、ゲストにこのりさんを招いてのディスカッションを展開している。
- 📚 このりさんは大規模言語モデルの専門家で、台本の監修を担当し、初期のネタ出しから打ち合わせに参加してくれた。
- 🤖 雑談会では、言語モデルの学習データや単語ベクトルについて議論し、モデルがどのように動作し、解釈するのかを考察している。
- 🔍 このりさんは、単語ベクトルが意味を捉える上で重要な役割を果たし、学習データの質がモデルの出力に大きな影響を与えることを指摘した。
- 🎧 ポッドキャスト形式で行われたこの雑談会では、ゲストとの会話を通じて、言語処理のトピックを幅広く探求している。
- 📝 ゲストは、自然言語処理の分野で幅広い視点を持っており、専門的な知識を持ちながらも、分かりやすい説明を提供している。
- 😅 会話の中で、説明の難しさや専門用語の曖昧さについても触れており、専門家でも時には混乱する部分があることを示唆している。
- 🌐 インターネット上の議論やツイッターでの反応も参照し、言語モデルが社会に与える影響や、専門家と一般の人々とのギャップについても触れている。
- 📉 スクリプトからは、専門用語の混乱や、科学技術の進歩とそれに伴うコミュニケーションの難しさに対するユーモアと批判も感じ取れる。
- 🔗 ゲストとのコラボレーションを通じて、ポッドキャストは言語モデルの専門知識をより広い層に伝える効果を持ち、教育的な価値がある。
- 🎉 最後に、ゲストからの感謝の言葉と、リスナーからのフィードバックを呼びかけ、コミュニティとの繋がりを強調している。
Q & A
このスクリプトで議論されている主なトピックは何ですか？
-スクリプトでは、大規模言語モデル、特にチャットGPTの機能と限界、単語ベクトルの意味とその適用範囲、自然言語処理におけるアライメントの概念などが議論されています。
スクリプトで「アライメント」とは何を指していますか？
-スクリプト内の「アライメント」とは、自然言語処理の能力を人間の価値観や問題解決能力に適応させることを目指す改善の過程を指しています。
スクリプトで「単語ベクトル」について何が述べられていますか？
-スクリプトでは単語ベクトルが意味を表すものであるか、単語がどのような状況で使われるか、その周辺に出てくる単語の情報を表現するものであるかについて議論されています。
スクリプトで「ホス」と「乾かす」の使い分けについてどう説明されていますか？
-スクリプトでは「ホス」と「乾かす」の使い分けについて、表面の水分を取り除く「乾かす」と、内部の水分を取り除く「ホス」という違いが説明されています。
スクリプト内で「おせべ」と「お焦げ」の例えは何を表していますか？
-スクリプト内の「おせべ」と「お焦げ」の例えは、学習データの質がAIの出力に与える影響を表しています。特殊な方法で作られたおせべと、自然にできたお焦げの違いに例えています。
スクリプトで「古典的な単語ベクトル」とは何を指していますか？
-「古典的な単語ベクトル」とは、チャットGPTが持つ単語ベクトルの前時代の技術を指しており、副産物として作られたものではなく、意図的に作られたベクトルを指しています。
スクリプトで議論されている「人間とAIの学習の違い」は何ですか？
-スクリプトでは、人間が限られたデータから無限の言語を生成する力を持っている一方、AIは大量のデータを必要とすること、そしてその違いが学習メカニズムの違いによるものである可能性について議論されています。
スクリプト内で「分布仮説」とは何を指していますか？
-「分布仮説」とは、単語の意味がその単語がどのような状況で、どのような周辺単語と共に使われるかによって決まるという考え方を指しています。
スクリプトで「言語モデル」についてどう説明されていますか？
-スクリプトでは言語モデルが、人間が言語化して提供した大量のデータに基づいて自然な文を生成し、人間の言語の意味をある程度理解していると説明されています。
スクリプトで「言語化」の重要性はどのように強調されていますか？
-スクリプトでは「言語化」が人間の言語世界をAIが理解するための重要な手段であり、言語モデルの成功には人間の言語化が大きく寄与していると強調されています。
Outlines
😀 大規模言語モデルとゲストの雑談
この段落では、大規模言語モデルに関する雑談イベントの開催が計画されています。ゲストにちこやっぱねさんが招待され、共に雑談を行います。台本の監修を担当してくれたこのりさんから、専門的なアドバイスを受けたことが語られています。また、雑談の中では、コンピューター科学ラジオに向けた話や、単語ベクトルについて議論しています。
😡 アライメントという概念と命名の誤り
段落2では、自然言語処理におけるアライメントという概念について議論されています。アライメントは、機械翻訳の単語の対応関係から来た言葉であり、最近はAIの開発において人間価値観に合わせるという意味で使われています。しかし、命名の誤りや用語の衝突が問題視されています。
😅 用語の混乱と性的刷口の誤解
この段落では、用語の誤解や混乱が語られています。特に、「性的刷口」という表現が誤解され、性的処理方法や欲望に関連するものと勘違いされた例が示されています。また、言語学やコンピューター科学ラジオでのゲスト出演時の下ネタの話題についても触れられています。
😁 単語の意味とベクトルの関係の議論
段落4では、単語の意味と単語ベクトルの関係について深く掘り下げられています。ホストと乾かすの違いについて、単語の使用状況や文脈から意味を推測する人間の言語理解能力に触れています。
😉 ホスと乾かすの使用法の考察
この段落では、ホスと乾かすの使用法について考察がされています。ホスは主に日光や風を使用して物を乾かすことを指し、乾かすは表面の水分を取り除くことを指すことが議論されています。
😌 大規模言語モデルの学習と理解
段落6では、大規模言語モデルがどのように学習し、理解を深めるかについて議論されています。テキストデータから得られる情報の豊富さと、AIが言葉の意味を捉える方法について述べられています。
😓 言語モデルの開発と社会への影響
この段落では、言語モデルの開発とそれが社会に与える影響について語られています。自動翻訳や企業での応用、研究者と開発者の違いなど、さまざまな観点からの議論がされています。
😖 言語モデルの限界と課題
段落8では、言語モデルの限界や課題について触れられています。人間とAIの学習メカニズムの違いや、言語モデルの開発における資金や注目度の不足についても言及されています。
🎵 雑談会の締めくくりと感謝の気持ち
最後の段落では、雑談会の締めくくりが行われています。ゲストの協力に感謝の気持ちを表し、視聴者に対してチャンネル登録やコメントの呼びかけがされています。
Mindmap
Keywords
💡大規模言語モデル
💡単語ベクトル
💡雑談会
💡専門家
💡台本
💡コンピューター科学ラジオ
💡アライメント
💡パリパリフード
💡ホスと乾かす
💡アラインメントの混乱
Highlights
大規模言語モデル専門家のこのりさんがゲスト出演し、雑談会を通じて専門知識を共有。
このりさんが台本の監修を担当し、2時間以上の打ち合わせを通じて創造的なアイデアを提供。
専門家による解説が理解を深める上で有効であることが示唆される。
学習データの質がAIの性能に大きな影響を与えることについて触れられた。
専門用語の混乱が実践で問題となること、特にアライメントという言葉の二重意味が議論された。
言語モデルの進化と自然言語処理技術の進歩が議論された。
人間とAIの言語理解の差異が、雑談会の中で比較的に分析された。
単語ベクトルの意味とその在り方が議論され、専門家の視点が示された。
AIによる自然言語生成の限界と可能性が、実例を交えながら討論された。
専門家とエンターテイナーのコラボレーションが、新しい視点を提供する可能性があることが示された。
言語モデルのトレーニングと最適化に関する専門知識が共有された。
専門家と一般聴衆の間の知識のギャップが、コミュニケーションを通じて埋められることが示された。
言語モデルの応用が、様々な分野でインパクトを与える可能性について触れられた。
専門家とエンターテイナーの相互作用が、新しいアイデアを生み出すプロセスを示した。
雑談会を通じて、言語モデルの専門知識が一般的な観点から理解される方法が模索された。
言語モデルの限界と、それに対する専門家の批判的視点が議論された。
専門知識とエンターテイメントの融合が、教育とコミュニケーションの新しい形を示唆した。
言語モデルの進化過程と、それに伴う技術的課題が詳述された。
Transcripts
00:01[音楽]
00:05大規模言語モデル取り終わり雑談会イイ
00:08イイこのりさんをゲストに招いて雑談会を
00:12やっていきたいと思いますよろしくお願い
00:14ありがとうございましたありござました
00:16素晴らしいうちの森元が振りましてしまっ
00:18てすいません本にちこやっぱねやっとみ
00:20さんがちゃんとりさんと喋れる機会です直
00:22であのねちょいちょい直で喋っせに途中
00:25からへえってやってたもんちゃんとねそう
00:28ま一旦乾杯しますかじゃあせっ取り終わっ
00:30たんでいやありがとうございましたござい
00:32ましたありがとうございましたいや今回ね
00:36このりさん大規模言語モデル専門家として
00:40台本の監修を結構がっつりやってくれたん
00:41ですようんうん最初のネタ出しのところ
00:43から打ち合わせからしっかり喋らせて
00:46いただいて2時間ぐらいやってました
00:48めちゃめちゃ稼働してもらってるやんで
00:49その後にも台本見せて僕の理解が浅い
00:52ところに対してこれ違いますよっていう
00:54こと言ってくれたんすけどあのりさんが
00:56ですねゆコンピューター科学ラジオに向け
00:58てうんうんそういうノりになるように綺麗
01:01に説明してくれてましたよね僕にま
01:03ちょっと意識しましたねそうですよねて
01:05いうのをとり頑張った結果そうあの僕に
01:09合わせて説明をした結果りさんが意味不明
01:12な例えを言い始め
01:13るっていうええじゃんそうそう学習データ
01:17としてゆコンピューター学ラジオを食わせ
01:18た結果変なものが出力されてくなりどんな
01:21きたんですいあのね単語ベクトルの僕の
01:25理解がなんか微妙だなてあそうなんだなっ
01:27た時にちゃんと説明しますとうん説明し
01:30ますねって言って送ってくれたのが古典的
01:32単語ベクトルはお選べでチャットgpdが
01:35持つ単語ベクトルはおコ
01:38ですあ変な手癖がついてるこれね変な学習
01:44データ入れるとダメなんすよ優秀な人でも
01:46おかしくなっちゃう確だぶっコトラボの時
01:49そんな感じないですよねね言ってるの見た
01:51ことないですよねコトラボでいやでも割と
01:53まとえてるんじゃないですかああ確かに
01:55そうその心がわかんないからてえ来てるや
01:59その読とどちらも米でできたパリパリ
02:02フードですが
02:03うん怪しい怪しいはいどちらも米でできた
02:07パリパリフードですがおせべはおせべを
02:10作ろうと思って特殊な方法で作られている
02:11のに対しお焦げはご飯を炊く過程で勝手に
02:14できるものですということでしたあれそれ
02:16以上の何かはなく以上ですそうそうそう
02:18そういう違いですえおべ言いたかっただけ
02:20じゃなくていやいやいやいやいやいやだ
02:22から単語ベクトル最初に堀本さん解説して
02:25た古典的単語ベクトルベクトルだけ作りま
02:27すっていう時はベクトルを作ろうと思っ
02:29てい作ってるんでおせべなんすようんおせ
02:32べ作ろうって思ってこう生地こねておせべ
02:36あげる分かる分かるわかるチャットGPT
02:39が持ってる単語ベクトルっていうのはそれ
02:42は単語ベクトル作ろうと思ってるんじゃ
02:43なくてなんか副産物にできちゃったって
02:46ことなんでうんあそうなんだコメたこうと
02:48してできたお焦げニューラルネットワーク
02:49の中に自然にできてるってことですねうん
02:52というわけですねうんいやあのすごい
02:53ありがたいんすけどすごいありがたいんす
02:56けど説明からおべとお焦げ引いた方が多分
02:59そうすっごい緩んでる大学ラジオ騎士感が
03:03すごい毎回こうなってるこんな腕なかった
03:06て思いましたもんね今そうなんですより
03:09さんを無理やりこれやらせるとねちょっと
03:11おかしくなってしまうすごいですねりさ
03:13んってちょっと接するだけでこんなりさん
03:14大なしできるもなんすよあだからおかしく
03:17なりたい人おすめなんですよ僕僕と友達だ
03:19とおかしくなりだて俺トラボでそんなに
03:21行動したことないもんね変な例え見たこと
03:24ないから例えて言うなら古典的な単語
03:26ベクトルはおせべの当たりますてないもん
03:29ね見たことないいっすねそんなほを見た
03:32ことないもんねっていうのがやっぱね
03:33打ち合わせしてて1番思ったことなんす
03:35けどどうですかりさんは出演してみて
03:38なんか思ったことありますまやっぱ好きな
03:40ことについて喋るの面白いっすねいや結構
03:43視点言語処理好きなトピックなんでこれが
03:46このゆコンピューター科学ラジオに
03:48取り上げられたこと大変光栄に思います
03:51うん嬉しいほんまですかなんか模範的な
03:54回答してましたその心から取り上げて
03:56良かったじゃなくて魔解放されたなの方が
03:58大きくないですか
04:01いやでもこうやってねなんか幅広い人たち
04:03に広めていただくっていうのがまこの
04:05コンピューターラジオのいいところだと
04:08思うんでなんすかなんすか分かっ
04:09てらっしゃるさすがよく分かっ
04:11てらっしゃるお前台本のぐ書いてもたんだ
04:13どうせそんなことないっすよ何言ってん
04:16ですかあのここだけの話ですけど同じ意味
04:18の言葉あの空と殻コップがカだと青い空
04:22っていうあのいいレブはりさんがくれた
04:24やつをイゴ1そのまま使ってたりはしない
04:26すよしないすよしないよ分自分の
04:30クリエイティビティですよねまりさんから
04:33送られてきたやつをコピーアンドペースト
04:34とした記憶はありますけど記憶あります
04:36けどおそらく僕その後頑張って色々工夫は
04:38してると思いますやるりさんうんあれ俺
04:42いらもしかていらないか最初はやばいでし
04:46たよねそうやばいってさいい時にも悪い時
04:48にも使えるじゃんあちょっとそれはねそう
04:50でもりさんに言われたのはいやでもそれ
04:52程度が華々しいという意味で共通してる
04:54からこの例えとしてはあまり良くないので
04:56コップが辛と空が青いではどうでしょうか
04:59うん言わてコピー&ペストしまし
05:02たであとりさんが結構面白いトピック
05:05いっぱい持ってきてくれたんですけど台本
05:07の都合上をカットしたものがかなりあって
05:09はいはいはいどうですかりさんなんか喋り
05:11たいことありますあそれで言うとアライン
05:14メントっていう概念ですかね
05:16アラインメントはいはいなこれちょっと
05:18新しい概念だと思うんですけどなんか
05:20チャットGPTとかが出てくる前の自然
05:22言語処理ってまその役に立つことというか
05:26問題解決能力を向上させることを目指して
05:29いろんな改善が重ねられていってたんです
05:32ようんうんうん翻訳うまくなろうとか
05:34ようやくうまくなろうとかうんうんで最近
05:36チャッGPTが出てきてからチットGPT
05:39って結構汎用的すぎるんではいなんかいら
05:42んこと答えちゃうことってよくあるんです
05:45よねそのまま使っちゃうと爆弾の作り方
05:48教えてっていうとこう作りますとかそれ
05:51教えたら倫理的にあかんよみたいなやつね
05:53そうでなんか役に立ちすぎちゃうからじゃ
05:56そういうなんか人間にとってあんまり教え
05:59ちゃいけないことこういうことは問題解決
06:01しちゃいけないよねっていうことを教える
06:03ために逆に能力を抑えるみたいなことが
06:06最近必要になっていてなんかそれ面白い
06:09なって思いますねでそれ名前アラインメン
06:11トって呼んだりしてますうんこれ聞いた
06:13ことありますねありますかなんか自治系の
06:15最近のワードを抑えようみたいなもので僕
06:18はアラインメントってことは知ったんで
06:20そのイメージですねはいうんうんうんうん
06:21うんうんそう割と新しい概念で人間の価値
06:24観に合わせる沿わせるっていうアラインっ
06:27てそういう意味なんですけどうんうんうん
06:29適させるみたいな意味あれアライン
06:32アラインなんだ揃える揃えですか俺も
06:35アラインの意味わかんないわ人間の価値観
06:37に揃えるあそうか文字揃えする時のあれ
06:39アラインメントかあ確かに確かに文字揃え
06:41中央揃えとかセンターアラインメントかも
06:43しれないそうていうのがあるんですけど
06:46ちょっとこのアラインメントっていう
06:47名付け僕ちょっと怒ってまして怒ってる
06:51うん怒りがりさん怒ることあんのなんか
06:54適当すぎじゃねって思ってソえっていう
06:57命名がそうなんですよていうか自然言語
07:00処理の既存のよく使われる単語とかぶっ
07:03てるんですよこのアラインメントてあああ
07:05出た用語の衝突だだやこっちの意味にも
07:08取れるしこっちの意味にも取れるなみたい
07:09なやつかそうなんでそんなややこしいこと
07:11するのって思うんですけどそのアライメン
07:13トって元どういう意味だったかかって言う
07:14と機械翻訳とかで大役翻訳関係にある分の
07:19単語の対応のことをアラインメントって
07:21呼んでたんですよはあうん例えば私は犬で
07:25すっていう日本語文とアイアムアドッグて
07:28いううんうん分があったとしてじゃあ犬と
07:31ドッグってアラインしてるよね対応してる
07:34よね私とアてアラインしてるよね
07:37アライメントよく言ってんですよ全然違う
07:39じゃないそうまでも一応対応とか揃える
07:41みたいなところで多分ニュアンスが通じ
07:43てるんだと思うんですけどその機械翻訳の
07:46単語のアラインメントってアラインメント
07:47とAIを人間の価値観に揃えるっていう
07:50アラインメントがなんか用語かぶってて
07:52うん困りますねどにだから論文読んでても
07:55なんかアラインメントの改善とか言ってあ
07:57じゃ機械翻訳かなって思って読むとあその
07:59間のその人間にわせる方でしたとかそ普通
08:02に混乱起こるんでなんでそんな名付けにし
08:05たって立思んよはいはいはい困りますよね
08:08だから親方とかにお前それアラインメント
08:10しとけやって言われた時に
08:13そはいもう1回いや親方とかにさ言われる
08:18じゃんおいみのお前そこちゃんと
08:20アラインメントしとけやて言われるじゃ
08:22ないですか現場
08:23でレの現場でそんなことやってんだへえり
08:27さんとかそういうことやってんだはいはい
08:30親方に言われた時にどっちかわかんない
08:32ですよ単語の対応関係しっかりしとけよっ
08:34ていう意味なのかやっちゃいけない道徳的
08:36にやっちゃいけないことをやらせないよう
08:37にしてるのか困りますよね現レベルでも語
08:39枠でもめっちゃあるんですよそううん
08:42なんかユニバーサルグラマーって聞法はい
08:45はいで普遍文房といえばチョムスキーはい
08:47チョムスキーっていうね言語役者がま人間
08:50の生徒的に持ってる言語的な知識うんとか
08:53脳力のことはま普遍文法と呼んだんです
08:55けどこのユニバーサルグラマーって
08:58チョムスキーがうん前にモンタ牛ていう
09:01論理学者も論文でユニバーサルグラマーっ
09:04て言っててそうで全然サハ違うのへえその
09:08中身も全然違うから混乱しますね
09:10ユニバーサルグラマーって言とそれモンタ
09:12キのなのかチョムスキーなのま大体
09:14チョムスキーのことなんですけどモンタも
09:17ユニバーサルグラマーっていう論文かなを
09:18書いてるからていうこと知困りますねそ
09:22こんなんばっかなんすよはまそモンタて意
09:24論で出てくる人ででは論で出てくる人
09:26じゃんで意論でも論でもうん縛っていう語
09:30が出てくるんだけど束縛がその論の束縛と
09:33論の即違うのそう違ううわどうしようもな
09:36いすねそうなんかラムダ演算士でなんかを
09:40束縛するっていう時はイロだし逆にある
09:43ものがえっとこの位置にあるものは束縛
09:45するというみたいな時は東の束縛だしで
09:48束縛が両方に出てきて困るなそう語てくる
09:52よすご思いましたねなるほどね僕とりさん
09:54そういうこう用語がねかぶっちゃって悩む
09:56なありましたけど堀さんあります僕ね
09:59めっちゃありますよすごい強い困るなって
10:02やつあってはいはいやっぱあんだね昔のね
10:04生科学の論文とか読んでるとあのね
10:08めっちゃ出てくんすよの確定性的はけ口
10:11ってことめっちゃ出てくんすよ性的刷口
10:14って聞いたらどんなイメージ持ちますだ
10:15からなんかダッジワイフとかみたいなね
10:18なんかすごいこう欲望をぶつけられるもの
10:20みたいな感じじゃないですか性欲の処理
10:22方法っって意味で出てくるんですよ性的
10:24吐口はははそのまんまじゃないですかいや
10:27なんかさニュアンスがさ的口はさもう
10:31ぶつけたろうみたいなこれにぶつけたろう
10:33みたいな感じじゃないですかもっと
10:35ニュートラルな意味で使われじゃなくて
10:36そう成功をすることも性的破口の1普通に
10:39愛のある性行為をすることも性的破口の1
10:42つとして数えられててだからこういう人は
10:45性的破口として妻との性行為をすると書い
10:48てあって性的口かなそれ確かにちょっと
10:51価値判断含んじゃみたいな感じするねて
10:53いうのがねめちゃくちゃ困ってますね
10:55なんかもしかして色違いました今あのそう
10:59全然違いましたねそのアラインメントに
11:01困ってる人とバインド束縛に困ってる人的
11:03口に困ってる人なんかねすごい懐かしいな
11:06と思ったらそういえばゆ学ラジオにりさん
11:08初めて出てくれた時にあの僕らが下ネタの
11:10話をずっとりさんに振り続けてたっていう
11:12の思い出しましたねあああったかもしれ
11:14ないねなんとかそのりさんのパブリック
11:16イメージを下さこちら側に言わせたいなっ
11:18て思っ
11:19たありましたよね懐しな思ったでもりさん
11:22ゲスト出する時なぜかゆ国ラジオに毎回
11:24下ネタ持ってきてましたからねあれさんが
11:26悪いよいやあれま本もうと
11:30持ってってああそうかゲスト出演するから
11:33どういうチャンネルかなって分析した結果
11:35があれだった寄りましたなるほどあにして
11:38も確かにそのだからゆゲアクラジオに出る
11:40時は下ネタの話してゆコンピューターガグ
11:42ラジオに出る時は間違った例続けてあ確か
11:45にちゃんとやってますねちゃんとりさん
11:48なりの新接神なんだなあ深海ですけどね
11:52違いますよねでもさ我々ゆ言語学ラジオに
11:55ゲスト出演してくれるゲストとかさ結構な
11:58確率で下ネタ持ってくはいですようんあの
12:00前にこだま雨子さんサッカー作詞家に出て
12:03もらった時もなんかめちゃくちゃ下ネタ
12:05喋ってましたよねはいそうですねちゃんと
12:07セックスしてますとか言ってまし言って
12:09ましたねひ様のチャンネルだからて言って
12:11ねこの文学作品ってどういう特徴なんです
12:13かそううっすねちゃんとセックスしますっ
12:15て言ってましたあの人うん侵害ですよね
12:17本当にねでだからなんでですかて聞いたら
12:19こういうチャンネルだろうなと思って言っ
12:20てあのさ我々のチャンネルさ性的はけ口だ
12:23と思われてる可能性ありますようんうん
12:26性的はけ口チャンネルだと思われてる気が
12:28するね言語学やコンピューター学ラジオの
12:31本質心髄にたどり着くていう知的チャンネ
12:34ですやってるんでちょっと気をつけて
12:36くださいますそもう持ってこないようにし
12:38てくださいうん現注意です今後も破口とし
12:40て使わせていただきますやだ
12:43な最近Twitterでさ単語ベクトルの
12:47発明によって自然な文が作れるになったの
12:49だから意味の問題解決したみたいなことを
12:53多分言ってる論文かなんかに対してね言語
12:56学系の人がちょっとこう批判してたんです
12:58ようん単語ベクトルで記述が終わった
13:01ところでそれは別に意味の問題の解決には
13:03なってないよねっていう批判をしていて
13:05そのだりさんに俺聞いてみたいんですよね
13:07その単語ベクトルっていい問いだね単語の
13:10意味を表していますかそうそうそうそう
13:12そう全回ですかねそのホスと乾かすとかっ
13:15てあの単語ベクトルで数値が違うだから
13:18意味が違うんだってのってそれ説明になん
13:20のかっていう話ちょっとしましたけど
13:22それって量産的にはどう考えてるわけなん
13:24ですか意味かなんかすんごい重いテマね
13:28そうでも専門家として語なくて大丈夫です
13:31個人的な実感としてでもいいんですけど
13:33うんその分布絶っていうのがさっき出てき
13:35たと思うんですけどつまりそういった単語
13:38ベクトルで捉えられてる意味っていうのは
13:40その単語がどういう状況で出てくるのか
13:42周りにどういう単語が出てくるのかって
13:45いう情報を表現したものだっていううん
13:47うんえ単語ベクトルがですよね単語
13:49ベクトルというものの定義をした時に出て
13:51くる数値とかていうのが周りに出てくるの
13:53がどういうものかっていうので定義され
13:55てるわけですよねそうですはいはいでそう
13:57いう話があったと思うんですけどま割と
13:59いい戦は言ってるんじゃないかなっていう
14:01のが個人的な実感ですうんうんそれは意味
14:03を表現する上でそうですそうですああそう
14:06考えてんだでもね俺もそんな気したの
14:09ちょっと勉強したらそうかもって思えてき
14:12ただ人間も結局さ周辺に出てくる単語から
14:16意味を推測してるじゃない初めての単語
14:19って周りに出てくる単語がこれなんだから
14:21大体こういう意味だろうなって思ってその
14:23うちに5位習得してくわけで辞書4で習得
14:25してないじゃんあらゆる5位って考えると
14:28うん仮説だけで意味分かるんじゃねって
14:30いうのはなんとなく思いましたねそうです
14:33ねあとなんかその分布仮説って周りにどう
14:36いう単語が出てくるのかってつまり人間が
14:38その単語をどう使ってるかじゃないですか
14:40はい運用面の話ですよねでそのどう使っ
14:42てるかっていうのはまそれすなわち意味だ
14:45なとは思うんすよねへえどう使っているか
14:49に意味が宿るこれですよねそうへえまあね
14:53もちろん確かに単語ってのは使われて
14:55なんぼですから使われて初めて意味が
14:58決まるていううん考方ももちろん頷ける
15:00部分あるんですけど僕反対派なんですよね
15:03そうなはいということでえゆ源学ラジオで
15:05いこやろうと思っていたネタをここで
15:06ちょろちょろ話ししちゃうシみさんの
15:09お漏らしシリーズです大好評お漏らし
15:11シリーズそんなあのおしっこはけ口にして
15:14ないんで口ってなんだ
15:17よ似た単語まじゃあホスト乾かすにし
15:20ましょうかこれの意味の違いが何なの
15:22かってのを考え抜いた書籍がありましてほ
15:26その本をこう読んでまちょっと内容が今
15:29手元にあるんでお2人にせっかくなので
15:32やってもらいたいのとつまりホスと乾かす
15:35どう違うのか単語ベクトルみたいな記述の
15:38仕方じゃなくて言葉に言語化してホスは
15:41こう乾かすはこうだっていうものを手元に
15:44僕用意してますんでちょっとお2人で協力
15:46してホストかカスどう違うのか
15:49ディスカッションしながらにりついてみて
15:51もらませんかやりましょうまでもねやっぱ
15:54コモンクロールでね持ってきたデタをね
15:56全部学習させたらねそうなんかわか意味的
16:00なものは出てきますからねそこのねいや出
16:02てこないでしょXのコモンクロールした
16:04とこで例が出てくるだけでしょそれを結局
16:06一般化してさホスはこういう時に使えて
16:09乾かはこういう時に使えるそれはね確かに
16:11できないけどホスと乾かすのディフサブも
16:13取ることはできるからベクトルのだから
16:15差分を取ってその差分のベクトルを抽出
16:17できるからだからそれと同じ関係にある
16:20ものは出せるんですようんだから干すと
16:22乾かすと同じ関係にあるものはカメラと
16:25ビデオカメラみたいなうんうんものが出せ
16:27ますうんそれだからなんなのそれああこれ
16:31確かに意味説明したことにならないっす
16:33もんね説明は出せないですよね多分単語
16:36ベクトル的なアプローチだと君よく分かっ
16:38てるねいいじゃないいいじゃないちょお前
16:41が偉そうに回すんのけ本当やめてうん学
16:44不足の人間に回されるの本当やだからやめ
16:47てあそうなんだ視界ってやっぱ収支号
16:49ぐらい持ってないとだもちろんですよ
16:50手がかりがないようだったらどう手ない
16:52さん仮説を教えてくださいどう思いどう
16:54だろうこれ例見ないとわかんないいすよね
16:56だから例えば乾かすはうんホだと言えない
17:00とかを探してそうそうそうそっから分析を
17:02始めることになるけど洗濯物ホスは言える
17:05けど洗濯も乾かすちょっと違和感あります
17:08よねえうあれでもいける気がする乾かフロ
17:11上がりに紙は絶対ホスじゃなくて乾かいい
17:16髪を乾かドライヤー使ってる感じする
17:18洗濯物を乾かす言われるとドライヤー使っ
17:21ドライヤの単ことさんの中でそんなこと
17:24ないけどでもその洗濯物を乾かすて言われ
17:27たてなんか体的になやってないといけない
17:29感じがするうんうん干してあと待ってる
17:31だけな人は乾かしてない感じするんです
17:33そうですね同じ感じがありますだからT
17:35シャツを乾かしてる人ってドライヤーとか
17:38でなんか乾くための努力をしてる感じが
17:40するうんうんうんそうですねかな1個それ
17:43ね合ってますおしよしはいホスと乾かすは
17:47ですね例えば日向でだったら日向でって
17:49ホスも乾かすもいけませんそうですねホス
17:53で乾か乾か言ますよねでもこれがアイロン
17:56でとかバチでとかになるとうん急に乾かす
17:59しか無理になると火でホスは変ですね確か
18:03にうんということで乾かすってね実は乾燥
18:05の手段に制限がないんですけどうんホスの
18:08場合は日光が日陰に限られるってい面白い
18:12へえていうことも単語ベクトルじゃ言って
18:14くれないでしょ多分あでもどうだ狂気確率
18:17日陰と日光だけだっていうことは示して
18:19くれるんすか単語ベクトルってどうかな
18:22なんか古典的な単語ベクトルだけだったら
18:25ホスの方が日向とかそういうやつと一緒に
18:28出てきやすいなっていうのは出てくるとは
18:30思いますベクトルの中にその情報があ
18:32るってことですねそうですなんかルジ度と
18:34か取るとホスの方が高いなみたいな一緒に
18:36出てくるなみたいなあでもそれはだから
18:38自分で発見しなきゃいけないっすよね多分
18:40ねそんなことないま計算すれば例えばその
18:43ホスとルジ高い単語一覧バーって出して
18:47そん中にあなんか日向とかそういうの多い
18:49なとかそうでなんとなか気づけるかもしれ
18:53ないですねあと多分今の古典的な単語
18:54ベクトルの話でなんかあんまり最近っぽく
18:57ないですよ多分ねそうね最近のやつだと
19:00どうなんだろうな最近のじゃあそのチャト
19:02gbdが日向だなホスってて気づいてる
19:05部分がニューラルネットワークのどこかに
19:07あるかって言われると微妙そういやどこか
19:09にはあるんですよていうのは例えばなんか
19:11チャットGPTにこにゃならホスホスを
19:13含む単語をたくさん生成させてくださいて
19:15言う
19:16とん日でホスは言える正しい使い方しか出
19:19てこないはずでそれはある意味分かって
19:21るってことですよねうんうん確かにうんだ
19:24アイロンで干すみたいなは生成しないです
19:25もんね多分そうですねそうですねなるほど
19:27ああこれはま見つけられるかもしんない
19:30ですねでもねあごめんなさいこれだから
19:32やっぱさゆ元国ラジオでみさんがよく
19:34面白かってることでさはい理屈は説明でき
19:37ないけど運用は正しくできるって人間の
19:39言語の運用も一緒じゃそれをだから大規模
19:42言語モデルもやってるわけだよ正しい分は
19:44生成できるけど意味の違う性格に説明でき
19:46ないわけでめちゃくちゃ人間ぽいよね大規
19:49語モルえ将来的にさ大規模言語モデルを
19:53用いた何かそのじゃAIとかがある5と
19:55ある5の意味ってどう違うんですか例じゃ
19:58うんをかかしたにま実はホストすて今言及
20:01されてないもう1個重大な違いがあるん
20:03ですけどそういう一見運用上ではわかん
20:06なくて一般法則みたいに導かないと出せ
20:09ないのこととかも説明できるようになる
20:10可能性ありますかね面白いいやどうんです
20:13かできるかも知れないっすねただ僕はそう
20:17いう実験データとか知らないからオープン
20:19クエスチョンですなるほどこれ面白いね
20:22論文になるかもしれないそうおいいいい
20:25問い出すじゃさすが
20:28あるねさすがですねだで言っとるかよな
20:33なんでゴリゴリの名古屋になったんだでも
20:35確かね自書のね誤尺AIに欠かせてうまく
20:37いかなかったっていう話国語時点ナイトっ
20:39ていうね皆さん大好きイベントこれでやっ
20:42てましたね確かねあ面白い面白いはい5
20:44欠かしたけどやっぱうまくいかなかっ
20:45たってた左かかせてやっぱなんどんだけ
20:48こう修正指示出しても今の時点にあるよう
20:51な無駄なない誤尺は出なかったなるほど1
20:53発じゃ難しそうすよねあでもねいっぱいね
20:55あのダメ出ししてましたこれだと説明に
20:57なってませんあの左の誤射書かせるとあの
21:00右じゃない方みたいなこと言うから右の
21:02定義がなければ右左が定義できないので
21:04そうじゃない形にしてくださいって言って
21:06も右じゃない方って言ってくるとかそそれ
21:08でもやっぱさ人間もそうじゃんそう僕らっ
21:11て右と左で意味分かってるけど多分自称変
21:14者としてのトレーニングを受けてない人
21:15って全く上手に説明できないよねそうか
21:19前回ファインチューニングの話したけど
21:20結局事情の誤尺とはこういうものだって
21:22いうのをめちゃめちゃこういう語釈を書い
21:25てくださいっていうのいっぱい与えられ
21:26たら学習してできるようなる可能性あれる
21:29んじゃないですそうすねそれっぽいものは
21:31出してくれるようになりそうチャット
21:32GPTにありえないような文脈例えば
21:35ちょっと僕が今回そのホス乾かすで用意し
21:37てたのはブドってさ星ブドとは言えるけど
21:40さ乾かし武道て言えないじゃん言えないね
21:43乾かしブドって言えますかてチャットで
21:44GPTとかに聞いたらちゃんと言えないっ
21:46て返してくれるかなそれは返してくれそう
21:48すねれそう返してくれるかうんうん言う
21:50なら星武道ですっていうことをちゃんと
21:52教えてくれんのかなチャットGPTってて
21:55ればいこれそう星武道とは言えますがそう
21:57ですね星道という言葉がありますが乾かし
22:00武道は自然ですかとか言えますという言葉
22:02がありますが乾かしブドうんは自然な表現
22:07ですかああ気になる気になるこれどうなる
22:09んだろうなかなおいい答え帰ってきてるわ
22:13星武道は一般的で自然な表現ですが乾かし
22:16ブドは少し不自然に聞こえますおいいです
22:19よあでもねその後ちょっと変かも通常
22:22乾かしは同士として使用され星は形紙とし
22:26て使用されますそのため川道のいの代わり
22:28に乾燥させた武道や乾燥武道などの表現の
22:31方がより自然ですあ最後はいいですねなん
22:33か最後はいいね中間がちょっと変だね
22:35乾かしが同士って言った川は同士として
22:37使用され星は師うん嘘じゃそこは嘘ですね
22:40やぱこういうこと言いますよねこいつらね
22:42こうことそれぽいことそうそうそうそう
22:45そうだよねああなんかいいタスク与えるね
22:48みさんAIのAIっぽいところ出したね
22:50うんえでなんでそのボコ者の2人は川かし
22:53武道とは言えないと感かこれいけんじゃ
22:56ない今まで聞いたことなかったからって
22:58いうのはまあまあまさんA答しますよなん
23:01A代表として呼んでないんで別にそうなん
23:04ですよ人間として答えてくれいいA反いら
23:06ない今まで与えられなかったからじゃない
23:08んすえでもやっぱあれじゃない食い物は
23:10ホスだよね干物とか言うじゃんアジの干物
23:12みたいなホスと食い物はかなり相性いい気
23:15がするけどあ違違う甘物っていうわアワビ
23:18乾かしてやつとか正法じゃないですか
23:20なんか缶物とかはもう積極的に音符とか
23:23当てて乾かしてるけど星ブドとかほっとい
23:26てるからそうかも乾かして言えないとでも
23:29あれですよね最近の魚の干物とかって全部
23:32その音符を当てて乾かしていて挙句の果て
23:35になんか人口的に干物にするための駅に
23:38つけて食わせているこんな干物は本物の
23:41干物じゃない急にあの山岡さんみたいな
23:44美しいやめてやめて急にいやさんの話は
23:47特にに関係ないです関係えちょっとじゃあ
23:49さお2人とチャットGPTにも聞いてみ
23:52たいですけど星武道がさ例えば通時の部屋
23:56に置いててちょっと閉めたとしますんそし
23:58たらその時ってさもう1回星武道に戻す時
24:00てさ乾かすって言わない星武道を星武道が
24:04湿ってそれを元に戻しきは乾かて言でしょ
24:06確星道を干すじゃなさそうこれなんでなん
24:09すかあじゃあ乾かすは元々あるべき状態に
24:12戻すみたいなことが外因されてるとかああ
24:16濡れちゃったものを乾かす1度濡れて
24:19しまったパソコンを乾かすは濡れてしまっ
24:21たパソコンをホストはあまり言わない
24:24うん濡れてしまったパソコンホスホストは
24:27あまり言わないですよねやつだから一度
24:29濡れちゃったものを元の状態に戻すは
24:32乾かすてなんじゃないですかえっとね
24:34もっとね本質的な括り方ができますねでき
24:36そうなんかできそうな気する例えばさ天気
24:39を日陰ではどっちかかすそうホすって言わ
24:43ないねわ確かにそれから濡れた手をは
24:46乾かすじゃないそうですよね干すって言わ
24:48ないですよねこの辺りとかもヒントっすね
24:51えでもやっぱじゃ元の状態とかじゃなくて
24:53うんあるべき姿にとかってことですかえで
24:57はないですね例えばですけど洗ったシャツ
24:59をだったらホスでも乾かでもいけるじゃん
25:01うんうんうんうん1回そのシャツが洗った
25:03状態になった後にその元に戻す時は別に
25:05乾かすでもホスでもいけるじゃんでも
25:07やっぱさホスさ洗濯物っぽい動作な
25:09イメージがあって何かを吊り下げて置いて
25:12おくみたいなのが必要なんじゃないあはい
25:14はいはい竿にとかつつけると確かに布団を
25:16竿にホスとはいるんだけど布団を竿に
25:18乾かすは変で竿をどうしても使いたいん
25:21だったら竿にかけて乾かすとかっていう風
25:23に言わなきゃいけないっていうようなうん
25:25ぶら下げる的な意味合いがホスにちょっと
25:27あるそうていう目的地点みたいなものを
25:30指す語意竿みたいなものと同時にホスは
25:33用いること干し物みたいなのと同時に用い
25:36られるよっっていう特徴はもちろんある
25:38あるんだけどでもそれじゃない答えを今
25:40求められてるわけですねそうそうそうで今
25:41ここまでの聞いてる皆さんもこの材料だけ
25:44であれこに注目したらこれって全部統一的
25:48に説明できるんじゃないのっていうものが
25:50あるんですはいこれで今ね学ラジオの
25:53テーマ1個潰れましたやってしまった
25:56漏らしちゃうからね色んなとこ
25:58テンション上がってさんにしたどうだろ
26:00つってさどんどんネタなくなってネタの
26:03レシンしてるですシジジじじってやって
26:06ますねえちなみにさごめん前段階確認して
26:09ないけどチャットGPTにさホスと乾かす
26:11の違いを説明してくださいってどうなる
26:13んょそうじゃんそうじゃんこれまずやって
26:15みたいよねあへええなんかいいこと言って
26:18るっぽいぞお教えてください多分元々言っ
26:21てた話の路線で言うとホスは主に日光や風
26:24など自然の力を利用してもを乾かす使い
26:26ますていう話はたねうんでそれじゃない
26:29やつとしてホスは物を外部の空気にさらし
26:32て水分を取り除くことをさします乾かも
26:35そうだよねで乾かは物の表面の水分を
26:37取り除くことをさします出ましたねおえ
26:40そうなんあって嘘答えあってる乾かすって
26:44物の表面の水分の話をしていてホスは物の
26:47内部の水分の話をしてるんですよ当てるえ
26:49当ててるじゃブドとかどうですかだって
26:51確かに星星どって言けど乾かしブドって
26:53言えないのは内部の水分を取るからで星
26:56ブドの表面が湿った後に元に戻しき乾かす
27:00になるじゃん本だつまり水分を取り除くの
27:02でも表面の水分と内部の水分で同士が違う
27:06んすよ本当だえそれ面白いぞ知らんかった
27:09すごでそれを僕今単語ベクトルじゃ説明
27:12できないでしょうって言したのにちゃった
27:15こいつ腹立つマジでこのガキDVD3.5
27:19うぜえちゃんと適切に解しましカはえホス
27:23は内部の水分だって話はしている乾かが
27:25外部の水分だってこと言って表面表面だっ
27:28言ってますねホスは言ってないうん元気は
27:30してないんだうんはあなるほどまでも物
27:32から水分を取り除くていう言い方だからな
27:34なんとなく内部っぽいような気もする
27:36うんうん分かってる感ありますよね確かに
27:38まこの誤尺を例えば持ってきたら少なく
27:41とも仮に学生さんがホスと乾かすの意味
27:43書いてくださいっていうテスト出した時に
27:45もうこれで十分点を与えられそうですだ
27:47からシャツがなんでホスと乾かせ言えるか
27:49わかりますま表面イコールそのものだから
27:52みたいな表面しかないからの体積がないん
27:54だしってそう厚さがないから内部の水分と
27:58外部の水の区別がつかないのでホスも乾か
28:00てもいええ面白いこれそうかじゃあ熱い
28:03ものは言えないんだホ分厚いも布団とかは
28:07布団布団乾かすってったらばおしっこした
28:10部分だけどさドライヤー当てるみたいな
28:12イメージしない布団を乾かすそうすね布団
28:14はそうすね布団はかなりホスだねだから
28:16水浸しになった布団を乾かしたって言っ
28:18たらさ中ぐじぐじの可能性ないうんうん
28:20うんうんうんうんうんうん正面だけ取りた
28:23感じそんな感じするそんな感じがする
28:25でしょ確でもそれはあなたは言葉では言
28:27ないへえあいい話これうんめっちゃ面白い
28:31ホス深いんすよホス深いねへえ手を乾かす
28:35手を干すっって言うとなんか手を
28:38切り落とした切り落とした手とかをどっか
28:40にかけているみたいなイメージをしちゃう
28:42からやっぱり不自然なわけでだ我々はその
28:45ホストを乾かすて言葉を表面にある水分な
28:48のか内部にある水分なのかで区別して使っ
28:51ていたんですようんうんでそれは今言われ
28:53たらあのそりそうだなっていうぐらい
28:55当たり前なんだけれども実際にいくらうん
28:58用例をいっぱい集めたところで新しい
29:01例えば単語を聞いた時とかにその反応が
29:03できるっていうこと今までのデータを
29:05いっぱい学んで傾向があるって言ってる
29:07ことってちょっと違うんじゃないかだって
29:09GPTは究極的には物の厚みとかに注目
29:13って視野資格がないとできなくないって
29:15いううんう気がするんですけどうんうん
29:20でしそれどうですかりさんいやできないと
29:22思いますテキストからしかテキストから得
29:25られる情報しか得てないんでそうだよねだ
29:27思けどでも思ったよりなんかテキストから
29:29得られる情報多いっていうところもあって
29:32なんか厚みとか表面とか概念を理解してる
29:35ように見えるってのはあると思いますそう
29:37だから僕多分りさんが勝手に言いそうな
29:39ことを想像してたんですけどええっと今何
29:41を聞かされるんですかえっと僕が仮定する
29:44りさんの回答です何えだ改造度が低いり
29:47さんをさんがい目の前にさんの今の回答は
29:50もう出揃ったんではいえ僕の中にいる仮想
29:53の改造が低い両さの回答を今から発表の後
29:56にそうはい聞いたことないコンテンツだ
29:59からそれは改造度を落とすていうそうです
30:02けどTシャツがさ薄いっていう情報もさ
30:05テキストの中にあるわけじゃないですか
30:07うんうんからシ薄とかも言うしTシャツと
30:10いう扁平な薄い形状のものにしか使わない
30:13同士っていっぱいあるわけじゃないですか
30:14ああはあははTシャツを広げるとかさ畳む
30:17とかねうんうんはいはいはいていう言葉と
30:19いっぱい使うなっていう情報を書きあめて
30:21いけばTシャツが薄いっていう情報は資格
30:23情報なんていらないんですよそこに入っ
30:25てるわけだからそれだけでり
30:28さんは言いますよねたどり着けそうですね
30:31よしよしよよよってましたってましたって
30:33ましたなるほどねていう反論できそうだよ
30:35ねでもじゃ究極的には別に資格とか触覚が
30:38なくても問題ないとそそうなんかさある
30:40程度までま実際できてるからねこねこいつ
30:43答えられてるからねそうそれが嫌なの俺話
30:46の流れがねおられましたね正解したこと
30:48いやなんかさその話昔から議論としてあっ
30:50て身体性がないAIってあんまり本質的な
30:53知性を獲得できないんじゃないかっていう
30:55議論大昔からあってうんうんうんうんうん
30:57学が入ったぐらいの時時にもうやっぱ無理
31:00だよ言語だけでテキストだけでちゃんとし
31:02たこと喋れるようになるのって言われてた
31:04んだけどクを開けてみたら結構できた
31:06じゃんうん今大規模言語モデルが結構でき
31:09ちゃってたからはいなんかある種のその
31:11がっかり感というかあ身体性ないと無理
31:13って言われたけどそれ間違いだったのかも
31:15しれないみたいなムードが僕はなんか外
31:17から見ててあるような気がしてるんです
31:18けどうんそんな感じありますいや僕として
31:22も似たような感じで多分ね思ったよりでき
31:24てるってのあると思うんですよそれ何言っ
31:26てるかっいうと人のね言語がてか人間なん
31:29でもかんでも言語にしてくれたおかげだ
31:31なっていうところがあってあそう捉えるん
31:34自分の目で見た景色とか耳で聞いた感じと
31:37かを全部言語で表現してくれてるから言語
31:39モデルはその言語を通して人間の見てる
31:42世界をある程度理解できてる面白い例え
31:45ですそうことだ思だから極端に言うと語が
31:47めちゃくちゃ少なくて風景とかも全然表現
31:49できない言葉だったとしたらおそらく
31:51あんまり大したこと言えないそう人間の
31:54言語の世界を映しとる力がかなり強いって
31:58ことの詳でもあるなって思いますあそう
32:00これいい話じゃないなるほどパンチラに出
32:03ましたねいいね大規模言語モデルの成功は
32:05人間が言語化をいっぱいしてくれたおかげ
32:07だていう話だうんうんそうあのビジュアル
32:09進化の脳っていう本の話をした時に感想で
32:12きたのが生生AってかまチャットGPTと
32:15かって言語で入力をして出力を出すとで
32:19例えばミッジャーニーとかダリ2とかああ
32:21いう画像生成AIとかも言語で伝えて絵に
32:25変えるっていうインタフェースですよね
32:27うんうんうんだから多分人がその言語化を
32:29いっぱいした蓄積があるからそれに
32:31乗っかって余計にその言語化うまいやつが
32:33強いようなインターフェイスになってる
32:35みたいな感想送ってくれた人がいて画像で
32:38こんな感じでっていうのをさ渡してそれを
32:41文字に変えてくれるAIとかってあんまり
32:43さ聞かないまあるかもしんないけどなんか
32:45だからインターフェイスが言語であ
32:47るってことが優れてるっていうのをま逆説
32:49的にこのチャットGPTとかの流星って
32:51示してるのかなって僕もそれやって思い
32:53ましたねうんうんうんあ俺
32:561人1人で番組やってるこれいやなんか
33:00特にそれに対して言うことないなと思って
33:02そうかもなってうんてやっちゃったって
33:06くるわてらねえわ黙ってるすいちゃっ番組
33:10として最悪ですよ本当にごめんごめん自分
33:12でさあの席に座ってる意識もなくさぼーと
33:15聞いて本当にねうじゃねえよ確かに言葉の
33:20意味とかっていうのを大量のデータを元に
33:23それをこう処理して意味として捉え
33:26るっていうやり方1つありなかなと思った
33:28んですけどなんかそれと人間が言語の意味
33:31をどう理解してるのかとかってのはなんか
33:33別の話かなと思ってあ出たよくある議論
33:36これどうすかりさんいやそう思いますよ
33:37違うと思います違うと思うそもそも大規模
33:40言語モデルが見てるデータの量って人間が
33:43一生かけても読み切れないぐらいの量を見
33:45て初めてあのレベルですよでも赤ちゃん
33:48全然少ない量でまいいとこまで行ったり
33:50するわけじゃないですか違う学習だと思い
33:52ますあやっぱそうだよねなんかそれ動して
33:55議論されてるケース結構あるなと思って
33:57なんかその論者の人もでも結構いません
33:59根本的には別にニューラルネットワークと
34:01一緒だろっていう人間もうんどうかな研究
34:04者はいないですかあんまりいるんじゃない
34:06えコショじゃね言ってる人見たことある気
34:09がするけどうん僕はその辺あんま追ってな
34:11いっていうのあると思うんすけどまあだ
34:13どこまで同じでどこまで違うのかっていう
34:14のはうん議論の余地がありすよねまそう
34:17ですよねだから丸っきり同じなんだけど
34:19少ないデータでできるなのかえっと
34:21そもそもそういう得たデータを元にして
34:24いる処理が全く違う可能性までありますよ
34:26ねだからそうんなのかはもちろんわかん
34:28ないだけど特にさ生成文法とかって有限の
34:32インプットで自然な文を生み出すためには
34:35どのような言語知識があるかっていう学問
34:36ジャンルが生成文法なんですけど自然な分
34:39を生み出すっていう点がフォーカスされ
34:41すぎてチャットGPTが自然な分を
34:43いっぱい生み出してんだから言語枠がやっ
34:45てたことって意味なかったよねみたいな
34:47悲観論がすごい増えてるですよそうでも
34:51それって実際そのりさんが言ってくれた
34:53ようにメカニズムが違うからとはいえ人間
34:56が言語うん限のインプットで無限の言語を
34:59生成する力は考えた方がいいんだけどうん
35:02なんかね言語枠の旗色悪いんすよやっぱ
35:04最近なんかだから結果出してたらええやろ
35:07はみたいなことよね結果としていい感じの
35:09分作れてんだからこれでいいじゃんで言語
35:12はねその無限の分を生み出すシステムも
35:14開発できなければ自動翻訳だってDEEP
35:17Lとかのレベルほどのものて多分生み出せ
35:19てないと言っていいと思うからそれもあっ
35:21て旗色悪いんですよね生活物出してないん
35:23だからお前つべこべ難しいことやってた
35:25あれて何の意味あんのていう逆にさらされ
35:28てて辛いあ辛いって話だったんですか今の
35:32うんよしよし辛かったね大変だね辛かった
35:36もうさなんかちょ自分がやったことさ
35:39なんかこうやってさむちゃくちゃさ思って
35:41もないこと言ってさわかるよその気持ち
35:43めっちゃわかるよめっちゃわかる
35:46かわいそうなんかプレイヤーの数の違いっ
35:48てのあるのかなって思っててつまりその
35:51性能が良ければいいみたいな世界観で動く
35:54人って多そうじゃないですか分かりやすい
35:56からにも作ろでそれが成功したのLMなん
35:59ですけどその言語枠うんLMって大規模
36:02言語モデルのことですそうですねなその
36:04言語枠の方面でこれが人間の学習の
36:06メカニズムだっっていうのは彼も役に立た
36:09ないじゃないですかはいあれどっちかと
36:11いうとなん限られたデータでいいとこまで
36:13行けるみたいな問題設定かと思っててうん
36:16うんまあなんか興味ある人しかやんない
36:19うんうんうん方で大規模言語モデルみたい
36:21なやつは役に立つもの作ろうぜって分かり
36:23やすい目標があってどんな手段取っても
36:25いいっていうだあれだよだから役に立つ
36:27作ろうぜの人と役に立たなくてもいいから
36:29興味あるの両方が入ってきてるもんねそう
36:31ですねだから競技写真行全然違いますよね
36:34そうだなんか分かりやすい方の役に立てば
36:36何でもいいからそっち作ろうぜっていう方
36:38がそっちの方が分かりやすいからなん
36:39そっちの方が住み早いっていうのはしょう
36:41がないのかなって今聞いて思いました資本
36:43主義も駆動しますもんねそっちはね役に
36:46立つものじゃ大規模言語モデルでうちの
36:48カスタマーサポート全部自動化しようぜ
36:50そうだそうそう落ちますし羨ましいなって
36:53思うのは企に務めながら研究者やるって
36:56いうケーがうんAとかだと結構できると
36:58思うんですね大規模言語モデルの入門書
37:01書いてたさ岡原大輔先生とかもプリファ
37:03ネットワークスっていうまユニコーン企業
37:05の会社に務めてらっしゃるますけど言語枠
37:08でねベンチャーのユニコ企業に務めながら
37:11言語枠の論文書いてます見ことないじゃ
37:14ないですかそこもちょっとやっぱね競技者
37:16ちの違いとして出てきますよねうあらゆる
37:18面でやっぱ大希望言語モデル側が人数も
37:22多いし金も流れるしでちょっと有利で逆に
37:25だからそ人間が語ねようになるメカニズム
37:28きかしましょうはお金も人もあんまり流れ
37:31てこない構造になってるから多数で負け
37:33るっていう欠解されたまま批判されたり
37:37誤解されたまま価値がないって言われたり
37:38してで反論する声も届かないまま予算を
37:42縮小されるみたいなことが起きて辛いね
37:45辛いの気持ちわかるよ今日朝まで付き合う
37:48から辛い
37:50ねこういう状態ありますからねたまにね
37:53辛いね持ち上がる
37:55よこセ
37:58的にしてるお前すぐてから言うやんお前
38:02本当
38:03にそんなわけで大希望言語モデル終雑談会
38:06やってまいりましたあ1個ねこの雑談の
38:09流れで訂正できるかなと思ったんですけど
38:11しそこねたことあるんで最後に1言っとき
38:13ますそんななんか大事なミスしたかそうな
38:15んですよ重大なミスが発覚しましてあの
38:17ベクトルは数字がいっぱい集まったやつ
38:19だっていう話の組みってほりますさんまし
38:22えしたんですけどすごく詳しいあの物理を
38:24やっている編集スタッフがそいるんです
38:26けどはい指摘が入りましてまあまあなんか
38:29そう認識してもそこまで外れてはないん
38:31ですけど厳密に言うとベ定義違いますよて
38:35言われたんで正しいベクトルの定義を皆
38:37さんにお伝えしておきますベクトルは
38:39ベクトル空間の現ですはいはいベクトルは
38:43ベクトル空間の現です定義ベクトルが入っ
38:46ちゃってるから循環5これこれ帰ってき
38:49たら俺怒りAIが出力したみたいな回答だ
38:52よねあえそいつあいつAあいつあいつ
38:57もんね
38:58そんな人がねAはA空間のなんとかて言わ
39:02ないもんね言わないもんねすごいなって
39:04いうことなんですけどあのすいません皆
39:05さん間違ってましたベクトルはベクトル
39:06空間の現だったそうですえうちの映ました
39:09んそんな名のえ別にそんな多分うちの映が
39:12うちの部が言てたんで気をけた方がいいか
39:14なって思いましたねあそうですか多分
39:15みんな興ったと思います大丈夫ですよはい
39:18引き続き面白かった方はチャンネル登録高
39:20評価感想のコメントとかどしどしお寄せ
39:22いただければと思いますあとまたりさんも
39:24ねなんかどっかの機会で来ていたするかも
39:26しれないで来て聞きたいこととかこやこや
39:30あれば是非どしどしお寄せいただければさ
39:32でございますはい4回にわって我々の
39:34チャンネルに協力してくださったんでり
39:36さんに対する温かいコメントとかね応援の
39:39声とかあそうだあとコトラボのねあの
39:41リンクとかも概要欄に貼ってありますんで
39:43皆さんよければそちらもご覧いただけあね
39:46急に思い出したわそうですね単語ベクトル
39:48に関する無駄のない解説の書ありますよね
39:50そうなんですよあのさ単語ベクトルの話さ
39:52ずっとなやかんや俺らさ40分ぐら喋って
39:54たじゃんあれねコトラもの動画と7分
39:55ぐらいなってすい
39:58ない古典的な単語ベクトルはおせべに似
40:03てそれあのゆコンピューター学ラジオの
40:06学習データを食わせた後ですね普段は
40:08もっとまなの変な学習ラボAにねノイズ
40:12入れてしまったそっかそっかその結果の
40:15出力であ分かりましたわかりましたという
40:16わけで今回も終しましょうありがとう
40:18ございましたありがとうございましたあり
40:19ございまし
40:21[音楽]
40:26たで
40:29[音楽]
5.0 / 5 (0 votes)
