「RAGは本当に必要か？」コンテキストウィンドウ拡大がRAGに与える影響とは（2024/3/20）
Summary
TLDRこのセミナーでは、検索拡張生成（Retrieving and Generating, 略してRAG）と呼ばれる手法と、それが持つ可能性について語り合われた。RAGは、AIが外部から情報を検索し、生成することで、より質の高い回答を提供する仕組みである。昨年末にジェミニやクロードなどの注目のモデルが発表され、RAGの必要性が議論されるようになった。RAGを用いたサービスは、企業での導入やタスクに特化した回答の向上に注目されており、長文のプロンプトを扱えるようになり、入力文字数の制限を解消する手段として期待されている。一方で、RAG不要論も根強いが、情報の精度やコスト面での利点から、RAGはまだ重要な手法とされており、今後の発展が期待されている。
Takeaways
- 📚 ラグ（Retrieval-Augmented Generation）は、外部の知識ベースから情報を検索し、生成することで、AIの回答質を向上させる手法です。
- 🔍 ラグの進化とコンテキストウィンドウの拡大は、AIが扱えるテキストの長さを増加させ、より長い文書を処理できるように進化しています。
- 🚀 GoogleのジェミニやAI2のクロードなど、最近のAIモデルは、非常に長いテキストを扱うことができる能力を獲得しています。
- 🤖 AIサービスのリリースが増えるにつれ、検索拡張生成ラグの必要性が議論されるようになりました。
- 💡 ラグの主な利点は、AIの回答質の向上、最新情報へのアクセス、ユーザーへの情報提供、そして再学習コストの削減にあります。
- 📈 入力文字数の増加により、ラグ不要論が登場しましたが、ラグはまだ重要な役割を果たしています。
- 🔗 ラグは検索と生成を組み合わせた手法で、ユーザーの質問に応じて最適な情報源を検索し、回答を生成します。
- 📉 長文の入力が増えると、AIの回答精度が下がる「抜け落ち問題」がありますが、ラグはこれを改善する手助けをしています。
- 💬 ラグの適用状況は、用途や目的によって異なり、サービス構築時や業務でAIを活用する際には効果的に利用できます。
- 📝 プロンプトの最適化とナレッジデータの整理は、チャットボットやAIサービスの精度向上に大きく寄与します。
- 💻 ラグを使用する際には、検索手法やデータの投入方法、プロンプトの作り方など、テクニックが必要とされます。
Q & A
セミナーのタイトルについて教えてください。
-セミナーのタイトルは「検索拡張生成ラグ：コンテキストウンドウの拡大がラグに与える影響」というものです。
ラグとは何ですか？
-ラグとは、レトリーバオグメテッドジェネレーションの頭文字をとって名付けられたもので、外部の知識ベースから情報を検索し、それを生成するという仕組みを指します。
ラグの進化について説明してください。
-ラグは、検索と生成を組み合わせた新しいAIのフレームワークであり、外部から情報を得ることができるため、LLM（Large Language Model）の回答の質を向上させることができます。
ラグの利用における主な利点は何ですか？
-ラグの利用により、LLMの回答の質が向上し、常に新しい情報を追加できるだけでなく、学習されていない範囲外のデータも回答に組み込むことができるという利点があります。
最近のLLMの進化の中で、入力文字数の制限がどのように変わってきましたか？
-最近のLLMの進化の中で、入力文字数の制限が緩和されており、GPT4のターボモデルでは最大12万8000文字、Googleのジェミニ1.5プロでは最大100万文字までの対応が可能となっています。
ラグ不要論とは何ですか？
-ラグ不要論とは、入力文字数の上限が拡大されることで、ラグを用いて情報を切り取って与える必要がなくなるという意見であり、その逆にラグを活用することで精度を向上させることができるとの議論があります。
検索拡張生成ラグが注目されるようになった理由は何ですか？
-検索拡張生成ラグが注目されるようになった理由は、昨年頃から注目された背景に、長文のプロンプトが入れられるようになり、ラグの必要性が少し下がっているとの見方があるからです。
AIのウェビナー支援で使われている生成AIのサービスとは何ですか？
-AIのウェビナー支援で使われている生成AIのサービスは、メディアリンクという会社の製品で、ラグを用いたサービスを提供しています。
ジェミニやクロードなどの他のサービスが提供する機能と比べて、ラグの特性とは何ですか？
-ラグの特性は、外部から適切な情報を与えることができるという点で、ジェミニやクロードなどの他のサービスとは異なります。これにより、最新の情報を常に追加し、学習されていない範囲外のデータも回答に組み込むことができます。
セミナーで話される内容の流れについて教えてください。
-セミナーの流れは、セミナーの目的と流れの紹介から始まり、ラグとは何かという基本的な概念の説明に移ります。その後、ラグの進化とコンテキストウィンドウの拡大について議論し、最後に質疑応答を行う予定です。
検索拡張生成ラグが注目されるようになった時期はいつですか？
-検索拡張生成ラグが注目されるようになったのは昨年頃からで、特に昨年末のジェミニの発表以来です。
Outlines
😀 セミナーの目的とLAGの必要性について
セミナーのタイトルは「で今日のセミナーのタイトルなんです,けれどもまラグは本当に必要かということ」であり、LAG（検索拡張生成）の必要性とその影響について解説する予定です。昨年末に注目を集めたジェミニやクロードなどの発表以来、ラグは注目を浴びていますが、不要になる可能性も指摘されています。今日は、AIウェビナー支援の担当者が、プロダクトで使用しているラグについて語ります。
😉 ラグの基本的な説明と進化
ラグとは、レトロスペクティブとジェネレーションを組み合わせたもので、外部の知識ベースから情報を検索し、生成を行うことができます。IBMの論文で初めて提唱されたとされており、最近はAIのフレームワークとして注目されています。ラグは、LLM（大規模言語モデル）の能力を拡大させる仕組みで、最新の情報にアクセス可能であり、ユーザーが情報を確認しやすいという利点があります。
😃 コンテキストウィンドウの拡大とラグ
GPTなどのLLMの入力文字数の制限があり、長文の扱いが困難でしたが、ラグの登場によりこの問題が解決されています。昨年は多くのサービスがラグを活用してリリースされ、特にGoogleのジェミニが大きな文字数の扱いを可能にしました。ラグは、入力文字数の拡大の流れと共に注目されています。
😁 ラグ不要論の議論
文字数の上限が拡大するにつれて、ラグが不要になるという意見が登場しました。ラグ不要論は、文字数を増やすことで必要な情報の全てを含めることができるため、ラグでのピンポイントでの情報提供は不要になると主張しています。一方で、ラグが必要なという意見も持ち続き、情報の精度やコスト面での利点が指摘されています。
😄 ラグの適用とサービス構築
ラグは、サービス構築において重要な役割を果たしています。文字数の上限が拡大された場合でも、ラグは情報の精度を保証し、コスト効率を向上させることができます。ラグを使用することで、AIサービスはより高度な機能を提供し、ユーザーのニーズに応えることができます。
😅 ラグの運用と課題
ラグの運用には、検索精度と生成精度の2つの変数のコントロールが求められます。ナレッジデータの作り方やプロンプトの作成方法など、ラグを効果的に使用するためには技術的なスキルが必要です。また、ラグが完璧ではないことが認められており、最適な活用方法を見つける必要があります。
😆 ラグの活用事例と今後の展望
ラグは、AIサービスの中で重要な手法として位置づけられており、今後も必要不可欠であると見ています。具体的な活用事例として、ナレッジデータの整備や、検索手法の見直しが挙げられます。また、ラグの仕組みを自社で構築することで、チャットボットなどのサービスをより効率的に構築することが可能となります。
😍 ラグの適用とサービス構築の詳細
ラグを用いたサービス構築では、ナレッジデータの投入方法やチャンクの切り方、そして検索手法の最適化が重要です。QA形式のデータがチャットボットに適しており、検索キーワード的にデータを整えることで精度が向上します。また、プロンプトの最適化もサービスの質向上に大きく寄与します。
😉 ラグの適用範囲と注意点
ラグは、インストラクションに入れるものと入れないものとの境目が曖昧な場合があります。サービス構築においては、プロンプトやナレッジデータの活用方法が重要で、検索手法の見直しが必要です。また、セキュリティとプライバシーの観点からもラグの管理が求められます。
Mindmap
Keywords
💡ラグ
💡コンテキストウィンドウ
💡ジェミニ
💡クロード
💡チャットGPT
💡AIのフレームワーク
💡テキストの入力と出力
💡オープンソース
💡マルチモーダル
💡ハイブリッド手法
Highlights
今日のセミナーは「コンテキストウィンドウの拡大がラグに与える影響」というテーマで行われました。
検索拡張生成ラグ（Retrieval-Augmented Generation）は、昨年から注目され、新しいモデルが続々と発表されています。
ラグは、外部の知識ベースから情報を検索し、生成することで、AIの回答質を向上させる仕組みです。
IBMの論文によると、ラグは2020年にFacebookが初めて発表し、その後AIのフレームワークとして注目されています。
ラグの仕組みを使わない通常のLLMは、自分の学習データから回答するのに対し、ラグは外部情報も活用できます。
ラグの利点として、AIの回答品質の向上、最新情報へのアクセス、ユーザーへの情報提供の迅速さが挙げられます。
ラグは、AIの再学習コストを削減し、新しい情報を取り入れやすくする強力な手段となります。
近年のAIサービスでは、入力できる文字数の上限が拡大し、ラグの必要性に対する議論が活発化しています。
Googleのジェミニやアロピックのクロードなど、他のLLMサービスも文字数の上限を拡大し、ラグとの差異が小さくなります。
ジェミニ1.5モデルは最大100万文字まで対応可能と発表され、ラグ不要論のきっかけとなりました。
ラグ不要論では、文字数の上限が拡大されることで、ラグによる情報の切り取りが不要になると主張されます。
一方、ラグ必要派は、情報の抜け落ち問題やAPIの重量課金によるコスト問題を指摘しています。
ラグは、AIの生成に対する精度と生産性を向上させる効率的な手法であると、個人的には評価されています。
ラグの適用状況や管理方法は、セキュリティとプライバシーの観点から重要視されるべきです。
今後のSNS法規の成立が、ラグの管理にどのような影響を与えるかは未明確ですが、注意が必要です。
検索と生成の違いを理解することは、ラグが効果的に機能するために重要です。
ナレッジデータの投入方法やプロンプトの最適化は、ラグの精度に大きく影響します。
チャットボットの活用でラグが整理だという意見は否定的ですが、適用の最適な形を見つけることが求められます。
Transcripts
00:00で今日のセミナーのタイトルなんです
00:01けれどもまラグは本当に必要かということ
00:03でまコンテキストウンドウの拡大がラグに
00:06与える影響とはというタイトルでやって
00:09いくんですけれどもえま検索拡張生成ラグ
00:13と呼ばれているものが昨年頃からですね
00:15すごく注目されていてで昨年末えジェミニ
00:18の発表があったりですとかま最近でも
00:20クロードがまた最注目新しいモデルでです
00:23ねされている影響等もあってまこの長文の
00:26プロンプトが入れられるようになってきて
00:28えラグのがですね少し下がっているんじゃ
00:31ないかとかま不要なんじゃないかっていう
00:33風に言われることも結構多くなってきたか
00:35なという風に思っていますで今日はその
00:37辺りをあの私の方でですねえ今日まシフト
00:40AIのウェビナー支援のえ担当っていう
00:43よりかはメディアリンクというま私が本業
00:45でやってる方の会社のですねえま
00:47プロダクトでも生成AIのこのまさにラグ
00:49を使ったサービスをやっていますのでえ
00:51この辺りについてお話をしていけたらなと
00:54いう風に思っておりますのでよろしくお
00:55願いいたしますはいで今日はちょっとです
00:59ねこんな感じでノーションでやっていき
01:02たいなと思いますので後ほどまたこの
01:05URL等もえアーカイブ動画とかの概要欄
01:08とかに入れておこうかなと思いますので
01:10よろしくお願いいたしますでえっと今回の
01:14はい概要ですが今話した通りですねまラグ
01:17の基本的な説明からま現状と今後について
01:19までえ少し基本的な内容もかなり入ってき
01:22ますけれどもま今後の考察とか私自身の
01:25考え等もですねお伝えできればなと思って
01:27ますで今日の流れはま4点ねえセミナーの
01:31目的と今日の流れの紹介あとまラグとは
01:34何か基本的なま概念との説明ですねでラグ
01:36の進化コンテキストウドの拡大えラグ表論
01:39え一論というところで話をしていきます
01:43はいでまず1つ目え今日のセミナーの目的
01:46と今日流れですけれどもまGoogleの
01:48ジェミニであったりですとかアロピックの
01:51クロードですねチャットGPTのまGPT
01:54モデルよりも比較的長いテキストを入れ
01:57られるようなllmがですねたくさんこう
01:59サービスとしてリリースされ始めています
02:02でその中で改めて検索拡張生成ラグが必要
02:05なのかまそうじゃないのかっていう考える
02:08きっかけを是非皆さんにですね提供したい
02:10なという風にえ考えて今回のえテーマを
02:12企画しておりますでまたまラグについてえ
02:16意外とですね知らないとかなんとなく
02:18雰囲気は分かってるけれどもそんなに
02:20ちゃんと見たことがない知ったことがない
02:22とかですねえそういった方もいらっしゃる
02:23かと思いますとで基本的な理解を深めて
02:25いただくためにも今日のセミナーを企画さ
02:28せていただいたというところになってあり
02:30ますで本題のところですねまずはラグとは
02:34ま何かということで基本的な概念とか考え
02:37方の説明から始めていきますまずはラグま
02:41これはもう大丈夫かなと思いますがえ
02:44レトリーバオグメてッジェネレーションと
02:46いうことでまこの頭文字を取ってですね
02:48通称ラグという風に言われているものです
02:51ねでラグはま外部の知識ベースナレッジ
02:55ベースからですね情報を検索するという
02:57こととあとはまを生成するというところ
03:02この2つでですね合わさってできているえ
03:05単純にllmをえどう使いこなすかてより
03:08かはですねえ新しいまAのフレームワーク
03:10みたいな風に言われることが結構多いです
03:13ま検索と生成を掛け合わせたものがまラグ
03:16であるという風にイメージをいただければ
03:18と思い
03:19ますでラグについてちょっと私もこれあの
03:22当時から知ってたわけじゃなくですねえ
03:25このラグについて調べていくとまIBMの
03:28あのブロとかブログとかがくるんですがま
03:30そ中でもあの語られていうものとして
03:322020年にえ今のメタね旧
03:35Facebookがま論文で発表したのが
03:37どうやら最初であるという風に言われてい
03:41ますでこれはまちょっと細かい部分があり
03:44ますので興味のある方はあの是非この後
03:47ノーション共有するんで見てもらえたらな
03:49という風に思っておりますがま事前学習
03:52済みのまプリトレインドモデルまいわゆる
03:54もGPTのとこですねあれいったような
03:56あのllmま学習済みのllmのところを
03:59えさらに能力を拡大させるようなあ形でま
04:03このラグという仕組みが発表されたという
04:05のがどうやらあ以前あったことのようです
04:08でただ当時私もあのチャットボットまAI
04:12型とかですねシナリオ型とか言われてる
04:13ようなサービスをやったりしたんです
04:15けれども当時まあんまりこのラグっていう
04:17のはそんなに話題議論でおそらくなって
04:19なかったんじゃないかなと思いますしあの
04:22AIのベンダーさんとかと会話する機会と
04:24かも結構あったりしますがあその時もこう
04:27ラグっていうワードを聞いたことは正直
04:28なかったのでチャットボットの業界にいて
04:31もですねそんなに知らなかったのでまAI
04:33の界隈の方の中ではもしかしたらご掃除の
04:35方もいらっしゃったのかもしれませんがあ
04:37あんまりまチャットボットとかていう
04:39ところで言うとそんなに重要されてい
04:41なかったように感じ
04:43ますで実際にま通常のラグとえあそうです
04:48通常のllmとラグの違いみたいなところ
04:50で言うとま通常のllmの使い方っていう
04:53のはま単なる試験だ普通の試験と一緒です
04:56がラグを使うとAIからすると教科書持
04:59仕込み型で試験をしてるような感覚って
05:01いう風に例えられることが結構ありますま
05:04こういう例え話をされているえベナーさん
05:06とかも割とたくさん見ますがまllmは
05:09単純に自分の学習者データの中から回答
05:12するまそういうえ試験というかまそういう
05:15問題解かせているような形ですがラグに
05:17なると外部から適切な情報を与えることが
05:20できることになりますので単純にテストを
05:23やるじゃなく教科書を持ち込んでテストを
05:25受けるようなまそんな感覚に近いのかなと
05:27いう風に思ってます
05:30でそんなラグなんですけれどもま利点とし
05:32ていくつか上げられるものがあるかなと
05:34思っておりましてまずはですねやっぱり
05:37llmの回答の質クオリティを向上できる
05:40ということでま単純に制度を上げられます
05:42というところが1つ目ですねどうしても
05:44llmの場合ですと学習した時点の情報を
05:48元に回答するとアウトプットを出すという
05:50ことになってきますがえこのラグの仕組み
05:53を使うことによって外部にデータを置いて
05:56おき検索して生成するということができる
05:58ようになりますのでえ新しい情報を常に
06:01追加していくこともできますし学習されて
06:04いない範囲外のまよく言われる車内の
06:06データとかですねそうしたものも回答に
06:08組み込んでえ生成させることができると
06:11いうところが1つのポイントになり
06:13ますで2つ目が最新のま信頼できる事実に
06:17アクセス可能ということでまこことかなり
06:19被る部分ではありますがあまよくこれは
06:22Webのブラウジングが出る前に言われて
06:24いた話ですねチトgpdで途中からあの
06:27Webブラジ機能が出たりとかあのビング
06:29のAIが登場してきたりとかま当然
06:31Google最初からついてましたけども
06:33まそうしたものが出る前まではですねラ
06:35グってやっぱり新しい情報弱いよねとか
06:382020年までの知識だよねとか言われて
06:40たんですがま当時からやっぱりラグの
06:42仕組みを使うことによって最新の情報を
06:44与えることができるってことをメリットの
06:461つという風に言われていまし
06:48たで3つ目がユーザーが情報早確認できる
06:52という点なんですけれどもあのまこれも
06:55よくサービスとして組み込まれているもの
06:57ですねえでよく言われる話ではありますが
07:01llmの場合ですとま何が情報源かって
07:05ことを分からない状態でこれが答えですと
07:07あかもそれが本当かのに言われてしまいま
07:10よくこれがハルシネーションという風な
07:12問題で語られることもありますがまえっと
07:14何をベースに回答出してるのっていうこと
07:17ま画像生成AIとかでも多分一緒だと思う
07:19んですがえ情報も何なのってことが
07:21なかなか特定できないというところがま
07:24あるうち問題になってしまうとただラグに
07:27おいてはえ情報を外部から検索して与え
07:30るってことをプロセスとして行っています
07:32ので何の情報を参考にしてるよってことを
07:35ユーザー側に提示することができますなの
07:38で明治的にこの回答はこの引用元の情報に
07:42従って回答出してますよっていうイメージ
07:45になるのでま結構そうですね検索してって
07:47いうとこだとビングのAIとかまパープ
07:49エキシティとかあの辺と結構近い考え方
07:52ですねまあれもちょっとまラグといえば
07:54ラグになってくるかと思いますのでま
07:56そんなところが1つのポイントですで最後
07:594つ目意外とこれは注目されていないかも
08:02しれませんがllm今オープンソースとか
08:05も公開されていたりですとかあ例えばイダ
08:09さんとかからくさんとかあとはま東海大学
08:12さんとかだかなまいろんなところが今あの
08:14独自に開発をされたりですとかオープン
08:16ソースを自分たちでえカスタマイズしたり
08:19とかですねえ新しくデータを追加して学習
08:21させたりとかまいろんなことやってると
08:23思いますがま莫大の費用は当然かかります
08:26しえ新しい情報取り入れたい時に常に再
08:30学習をしていかなければいけないかつ学習
08:32したからといって制度が上がるわけじゃ
08:34なくですね学習データの内容によっては
08:36制度が下がってしまうということもえ開発
08:39においては発生してくますこうした再学習
08:42のコストであるとかま手間ですとかまそう
08:46したところをですね削減できるまそもそも
08:48これをしなくていいというところがラグの
08:50結構ま強いメリットの部分じゃのかなと
08:52いう風に思ってますなので私個人としては
08:56近い将来え1社え会社がですね1社あたり
09:001つの独自のllmも持っているみたいな
09:03あの一家に1台車があるみたいなですね
09:06状態で一社に1台独自llmを持っている
09:09みたいなことがあ近い将来やってくるん
09:11じゃないかなと思ったりもしているものの
09:14実際にはやっぱりそこまでにいろんな費用
09:16的な面とかリソースの面の問題もあります
09:18しえまこういうスキルセットを持った方を
09:21車内で確保できるまでになかなかあすぐに
09:24はいかないかなと思いますのでまそういっ
09:26た面でもですねラグにおいてはま企業での
09:28導入でとかあ何か個別のタスクにおいて
09:32特化した回答制度を上げたいモデルとか
09:34ですねこの辺りに関してはかなり重要度が
09:37高いと言いますかあの注目できるところな
09:39のかなという風に思っておりますはいここ
09:43までがですねまラグの利点であるとかえ
09:46ラグの基本的な概念知識についてですねお
09:48話をしてまいりまし
09:51たまこんな感じでどんどん進んでいきます
09:53が続いてがllmの進化とコンテキスト
09:56ウィンドの拡大ということでま今日の
09:58テーマのでもあるまコンテクスト
10:00Windowえま簡単言うと文字数みたい
10:02な話ですけどもまこの辺りの話に入って
10:05いき
10:05ますでまずGPTの入力の文字数とラグと
10:09いうところなんですがはいまラグを活用
10:14する1つの理由としてチットgptmは
10:16文字数あえて今日は文字数って表現をし
10:19ますまコンテクストWindowとかです
10:21ねトークン数とかまいろんなあワードが出
10:24てきてしまいますの統一的に今回はえ文字
10:27数という風に呼ばせてください
10:30で例えばチャットGPTの場合ですと文字
10:32数入力できる文字の長さに制限がありまし
10:35てえま出たての頃とかは多分4000文字
10:39ぐらいしか実入らなかったのであんまりま
10:41長文そもそも入れられなかったですしえ
10:44アウトプット出力のところに関してもえま
10:47かなり制限があの効いてしまっていてです
10:49ねえそんなに長文返せなかったりとかて
10:52ことも結構あったかなとで当時からやって
10:55た方はまこういう画面ちょっとこれは
10:57日本語訳したものですけどもま送信
10:59メッセージが長すぎますみたいなですねま
11:01こういうものが出てきてイラっとした経験
11:03が結構あるんじゃないかなという風に思い
11:05ますけれどもえままさにこれがですね入力
11:08文字数の制限というところになってい
11:11ますで入力文字数の制限があるということ
11:15はま大量の情報例えば車内の規定を
11:18インプットしたいとかマニュアルを流し
11:20たいとかえロングを全部流し込みたいとか
11:22ですねそういうものはやっぱできないと
11:24いう風になりますのでまこれを解決する
11:26ための手段としてまラグが最注目されて
11:29知ってるからはラグって別に昔からあった
11:31よねって言われてるんですがまそもそも
11:33ジェネレーションのところの制度も上がっ
11:35てきたということもあり最注目されまして
11:38え特に昨年はですねこのラグを活用した
11:41新しいサービスがどんどんどんどん本当に
11:43えプレスリリースとかPRタイムズで見て
11:45いても毎週新しいサービスがポンポン出て
11:47くるみたいなですね状態になっていました
11:50で私の今本業でやってる方の会社もですね
11:52メディアリンクという会社なんですがえ
11:54昨年の4月にえメディアトークGIという
11:58ええチャットGPTのAPIを使ったラグ
12:02型のチャットボットってものをリリースし
12:03ていますでこちらもあのまさにまラグです
12:07のでデータをインプットしてプロンプトを
12:10与えてその検索した結果に基づいて回答を
12:12出力するということで今までのチャット
12:15ボットのようにシナリオ分岐みたいなもの
12:18を組んだりとかですねボタンを設定すると
12:20かってのはしなくてもえ自分たちが持って
12:22いるデータをですねまカスタマーサポート
12:24の方々ほとんどあの手元に何かFAQ持っ
12:27てますとかえオペレーターのスタッフ向け
12:29のですねえQA持ってますとかっていう
12:32ケースもあるのでまそういったデータを
12:33慣れとして使ったりとかえ規定マニュアル
12:36類をPDFファイルを登録したりとかです
12:39ねそういう風な形で構築ができるサービス
12:41を去年リリースしていますでまだ数は多く
12:44ないんですがあのいろんな企業様にですね
12:46使っていただいて徐々に成果も出始めてき
12:48ているというところであの同じようにあの
12:51サービスをリリースしている会社さんがま
12:53昨年はこのラグの仕組みを使うという
12:56ところが非常に多かった1年だったなと
12:58いう風に振り返ると思います
13:01はいそんな中で入力文字数拡大の流れと
13:04いうところですけどもまGPTえ私の記憶
13:08で最初はま4000文字ぐらいから始まっ
13:10てえま8000文字とか
13:133万2000円の11月のデブDayの
13:16発表の中で言うとまGPT4のターボです
13:19ねターバが出てえ128Kということで
13:222万8000円文字とですねまどんどん
13:24どんどんこう長くなってきているなという
13:26ところはあのある一方でま競合のの
13:29サービスもですね同じく拡大をしていると
13:31いうのが今のトレンドになっていますで
13:34今日は2つその中で紹介していきますで1
13:37つ目がまジェミニですねこれ出始めの時に
13:40なんて読むんだみたいなジェミナイて読む
13:42のかジェミニって読むのかみたいな英語
13:43読みするのか日本語読みすんのかみたいな
13:45話ありました今日はジェミニーで統一させ
13:47てくださいでジェミニーの1.5プロと
13:50いうモデルがですねえ2月1月ぐらいに
13:53リリースされておりますはい2月ですね
13:56はいでこちらGoogleはえ昨年末にま
14:00ジミニーの1.0というものをですね
14:02リリースしてえ3万2000円文字という
14:05ことでえままこれぐらいかていう感じでは
14:07あったもののこのジェミ1.5に関しては
14:10ま最大で100万文字まで対応できますて
14:13ことでかなり話題になりましたまさに今日
14:16のこのセミナーのテーマでもあるえラグ
14:19不要論っていうものを生んだきっかけとも
14:22言えるかもしれませ
14:23んで発表時点ではまGPT4ターボがあ
14:28最大12万8000円文字とことでま今で
14:31もあの12万8000円文字変わらないの
14:32で現状このままなんですけれども約8倍の
14:35差がありますということでまこんな感じの
14:37ズモですね表現されましたこの後紹介する
14:40クロードとかですね一緒ですあの
14:42めちゃくちゃ多いですところがあったし
14:45はいでえっと研究段階ではもっと大きい
14:49ですねえテストに成功していて1000万
14:51文字ぐらいに行けてますよとかですね
14:53そんなことも言われたりえしているという
14:56のがございますただまビデオとかとかです
14:59ねえ音楽音声とかですねまそうしたものも
15:02えインプットに使えるとかマルチモーダル
15:04のまさに特化をしたところがまジェミニー
15:07のこう1つ特徴なのかなと思いますがま
15:09今日はあくまでも実数のところだけえ拾っ
15:12ていきますけどもかなりこれで長文の
15:14プロンプとが入れられるようになったと
15:15文字が入れられるようになったというのが
15:17非常にニュースになった話題になった
15:20ところでござい
15:22ますで続いてがアンソロpiic車のです
15:25ねクロード3というところになります
15:27けれどもソルピックも最近はあのよく聞く
15:31ようになりましたがま去年とかもえクロド
15:342.0とかですね2.1とか色々発表して
15:36たんですがまOpenAIの元メンバーが
15:39ですね設立をしたアメリカのAI
15:41スタートアップ企業ですよくまOpen
15:43AIの本当にライバルと言われるようで
15:45感じですねでアスロピックのクロード以前
15:48からまGPTよに長いジス入力できますっ
15:51てことは結構ま売りにしていたんじゃない
15:53かなと私としては見ていますけれどもえま
15:56クロド2.0の時点でえっと10万文字
15:59ですかねえ10万文字行けますとでえっと
16:022.1になって20万文字行けますすって
16:04ことでまこの時点でGPT4よりもですね
16:07GPT4ターボよりも長いという風になっ
16:09ていますま2倍までいきますま1.8倍と
16:12か1.7倍とそれぐらいですかねでただ
16:15えっと性能においてはGPT4の方が優秀
16:17だよねっていうところがあり実際私もあの
16:202.1が出た時にですねえまアプリをこう
16:23Webのサービスとし使ったりしていた
16:25もののま別にGPT4でいいかなという
16:27感覚がああったのを記憶していますで実際
16:31にあんまり使ってなかったっていうところ
16:33はありましたが皆さんもご存知だと思い
16:35ますが今年の3月今月ですねえ発表された
16:39最新モデルのクロード3というものに関し
16:41てはあま20万文字っていうその
16:44コンテクストウンドウま文字数に関しては
16:46あ変わりなくだったと思いますけれどもえ
16:49ベンチマークの評価でえGPT4を上回る
16:53結果になりましたっていうことが発表され
16:56かつ本当かよっていう最初感じはあったん
16:58ですが実際使っていくとですねだから日本
17:00語の制度がどうやら上がってるんじゃない
17:02かなというところがま使ったレポートの中
17:05で各各自というかですねいろんなSNSと
17:08かでも言われていますしまいろんな
17:10ニュースサイトとかでも紹介されている
17:12感じでもしかしたらあの日本語性能が
17:15GPT4よりも結構上がってるんじゃな
17:16いっていうのが言われていますで実際に私
17:19の周りではもうチャットGPT使ってない
17:21よという方とかまGPTそのカスタマイズ
17:25版のGPTですねあれが使ってますよって
17:27いう人はいてもまのもうGPT3.5使っ
17:30てますって人はもほぼもしろ効かないです
17:32しGPT4え普段使いしてますって方も
17:35結構減っているような気がしますで私自身
17:39もついにあのずっと無料版でクローザー
17:41使ってたんですけどもあの課金版の方に
17:44えついに入りましてですねチャットGPT
17:48とまクロードどっちも今有料で使っている
17:50んですが感覚的にはクロードを使うかあの
17:55えっと比率の方が非常に多くなって
17:57クロード7GPT3ぐらいですねなんか
18:01それぐらいになっているような状況で
18:04ございますでこれもたくさんいろんなとこ
18:06に出てたので見た方も多いと思うんです
18:08けれどもまこんな感じでですねえま緑色に
18:11なってるのはこのえオーパスということで
18:13クロード3の未3つモデルがある中の1番
18:16最高性能のものになるんですけどもえ4つ
18:19隣にあるGPT4と比べるとま全ての数字
18:22で上回ってますということが言われてい
18:24たりしておりますあQAのコメントの方で
18:29ありがとうございますはいクロードにほぼ
18:30ご済みですねてことでそうですよねそう
18:33いう方が非常に多いなという風に思ってい
18:36ます実際皆さんどうですかねあのもう
18:38チャットジテ使ってないよなのかあの
18:40クロード使ってますよなのかまいろんな方
18:42いらっしゃると思いますがあのまず使って
18:45ないっていう方に関してはあのクロードの
18:47無料版でもここで言うとこのえソネット
18:53ですねコネットという2つ目のモデルに
18:55関しては無料版でもえ使えるはずですので
18:58え是非こちらも使ってみるといいなと思い
19:01ますあの感覚的には日本語性能いいですし
19:04あと速度も早い気がしますのでえGPT4
19:08よりもなんとなく使い勝手いいなという
19:10感覚がありますはいぜひ使ってみて
19:14くださいはいでえっとどんどんもう先に
19:17進んでいきますが続いてがラグ不要論と
19:20いうところですね
19:22はいま今までえっと文字数がどんどん増え
19:25ていくllmの進化の歴史をまこの1年半
19:29のところ見ていきましたけれどもまこの
19:31ように大量の文字数を一気に投入できる
19:33ようになってきますともうラグっていら
19:36ないよねという人たちが結構出てきました
19:39まこれ結構議論をあのXの中では生んでい
19:42ましたはいで今日はえまよくえ絡ませて
19:46いただいている神楽オタ元木さんとですね
19:48ミボくさんの発信をちょっと引用させて
19:51いただくんですけれどもえま元木さんの
19:54発信で言うとまラグの部分をですね
19:57しっかり解説したええツイートポストに
20:00関してのま引用のま自分でですね引用され
20:03てらっしゃるんですがラグ不要論という
20:06よりかはまラグを意識しなくなるが正しい
20:08と感じるとま見返しててそう思ったそれ
20:11ラグ不要論リもラグ不用論者でいいです
20:14みたいな感じもあってですねえ書かれて
20:16いるんですけれどもえまこんな風に言われ
20:19ていたりとかあとはMIOというえま誰で
20:23も簡単にGPTをま自分でチャットボット
20:26にえしてですね固いてきますみたいなビス
20:28やってるえ方のえ社長さんですけれどもま
20:32美本くさんもまこんな風に語ってますえ
20:35美本くさんはラグを不用という風には考え
20:37ていないという派ですねそんなことない気
20:40がするとでプンとの拡大コスト減少が進む
20:42とよりハイブリッドいうが進むと思う
20:44みたいなことでま独自の解説をされてい
20:46たりしていましたでこんな感じでえっと
20:50AIのサービスを作っていたりとかあ
20:52関わっている方々がですね必要だ不要だと
20:55いうのが割とこの時にですねあったような
20:58がありますま2月は結構そういう話があっ
21:00たな
21:01っでそれぞれの意見をちょっと簡単に
21:05まとめてみ
21:06ますまず不要派です
21:09ねまずラグ不要派は文字数の上限拡大され
21:13続けていくのでま今後もですね多分増え
21:16続けていくでしょうと言われてるので
21:18わざわざラグで情報を切り取ってえ
21:21ピンポイントでAに与える必要って
21:23そもそももうなくなるよねという風に言わ
21:25れていましたあとはこんなですね全部入れ
21:29られるんだったら入れた方がいいじゃんと
21:31ま確かにこれはその通りかもしれないです
21:32ねラグの検索による精度低下がなくなるん
21:36だったらもう全部入れておく方がいいよね
21:38というような話もました私なんかどっか
21:42飛ばした気がするんですがえっとラグと
21:44いうのがですね検索とこの辺ですかねこの
21:48辺飛ばした気がしますが検索と
21:53えこ辺ですねはい検索と生成でえっと
21:57成り立っているものになるんですけども
21:59ちょっとこれは自社のえ資料から一部抜い
22:03たものになりますがこんな感じでイメージ
22:06的はラグというのがえっとユーザーから
22:08質問とかま入力が発生するとま対話AIが
22:11まず問い面にいてまいわゆるベクトル化
22:14みたいな処理をしたりとかですねえそんな
22:16ことやってくれているものがま表面でいて
22:19で裏面では検索するAI君が存在していて
22:23えまデータ検索をこの与えたこでと本なら
22:26の情報を見に行ってええユーザーの質問に
22:29対して最適なえ本を探してどのページの
22:33どのこがいいのかというのを探してきて
22:35結果を中止てしますこれれを裏側でまた
22:38対話AI君渡してあげてで対話AI君は
22:42質問の内容と検索された結果を元に回答文
22:45を作るということで検索するフェーズと
22:49回答を生成するフェーズこの2つにま分れ
22:52ているわけです
22:54ねですの
22:56で仕組み上2つの変数が存在しているん
23:00ですよねこのユーザーの質問に関連する
23:03情報を外部データから取得する検索の
23:05フェーズと取得者情報をユーザーの質問文
23:08と組み合わせてllmの回答を生成する
23:10生成のフェーズですねこの2つが存在して
23:13いますなので検索の制度とですね生成自体
23:18の制度この2つが掛け合わせれて実際の
23:20回答制度というものが生まれてくることに
23:23なりますのでこういうまここで言うと検索
23:26の制度ですねこの制度定価なくなるんで
23:29あればま全部イプとしておく方が安定する
23:31んじゃないかというのも不要論を語って
23:34いる方の1つの理由でもあったし
23:38ます一方で必要派の意見ですねえっと文字
23:44の上限拡大されても情報の抜け落ち問題は
23:46改善されないということでまこれは
23:48ちょっと後ほど解説するんですけれども
23:50文字がたくさん入ってくるとですねAIも
23:53混乱しちゃいますということがあり
23:56ますあとはま回答ですね回答自体に必要の
24:00ない情報までえ毎回送信しちゃうっていう
24:02のは無駄だよねっていうことですね例えば
24:06え何でしょうね利用規約がま例えば何万
24:10文字ぐらいですかね例えば1万文字とか
24:122万文字とかあったとしてまそれを全部え
24:14システムプロンプトみたいなものの中に
24:16入れておいてですねじゃあ質問回答し
24:18ましょうっていう風にやった時に例えば
24:20面積事項について質問されていますという
24:23際に利用規約の面積事項のえ箇所だけあれ
24:26ばとか回答ができるわけですけれどもえ
24:30ラグ不要論になってしまうと利用規約全部
24:32入れましょう1番文字2字全部入れましょ
24:34うって話になっているので全く関係ない
24:36条文とかもですねえ情報として与えて
24:39しまうことになりますのでそれって無駄だ
24:41よねとで毎回それ別に入れる必要ないから
24:44適切なところだけ抜き出したら良くないっ
24:46ていうのが必要派の意見
24:49ねであとは文字数でAPIの重量課金が
24:53発生するLMサービスが非常に多いていう
24:56ところがありますのでサービスとして
24:57組み込ん場合にコスパが悪すぎるというの
25:00があります2万文字とか100万文字とか
25:03入れられるからと言って毎回100万文字
25:05送信してるとその分コストが都度かかって
25:07しまうというところでコパが悪いというの
25:10が必要派の意見でもありますこのように
25:13ですねまどっちもなんか言ってることが
25:14確からしいなという風に思いますのでま
25:17どちらがいい悪いって話ではないんですが
25:19まこういう今意見が界隈の中で出てきてい
25:22ますよっていうのをちょっと知識として
25:24入れていただけるとよろしいかなと思い
25:27ますじゃ本当にラグは不要になるのかと
25:31いうえ確信的なお話になりますがちょっと
25:33ここだけすいません長いんですけれども
25:35えっと私の個人的なことも含めて書かせて
25:37いただいていますあの皆さんがどう思うか
25:40是非チャットとかですねQ&Aとかでも
25:42結構ですのでえ聞きながらコメントして
25:45もらえたら嬉しい
25:46です個人的にはしばらくはえ必要だと思っ
25:51ていますラグ必要派です私はラグ必要派
25:54です特に私たち者もそうなんですけどけも
25:58えっとllmを組み込んだサービスを使っ
26:01ていく中ではですねえ正直またくさん
26:04ぶち込めからと言って全部ぶち込んじゃう
26:07とてんてんてんというのがですねえ本音の
26:10ところになり
26:11ますでま月額固定料金で利用ができる
26:14チャットGPTとかですね例えば仮に
26:18クロードとかジェミニとかああいったもの
26:20がラグ機能がついたとして自社のデータを
26:22投入できるとかそういう風になったとして
26:24もですま今のgpdsの中でラグ機能
26:26使えるわけですけどもえっと月額固定料金
26:29だったらまあのもしかしたらわざわざ使う
26:32必要もなくもう都度全部ぶち込んじゃえば
26:35いいよねみたいなことは全然ありえるかな
26:37と思っていますまなぜならあの月額固定
26:41料金だからって話なんですけれども一定な
26:43のでコスパを考える必要性が全くなくって
26:45でかつえっと長文を一気に入れても精度が
26:48落ちずにあの精度が担保された状態でえ
26:52やれるのであれば全然まやる意味がない
26:56ラグをやる意味がないのでわざわざ分化さ
26:58れた情報を切り取って与える制度低下に
27:00なるステップをあの踏む必要がないので
27:02あの本当に必要ないと思いますチャット
27:05GPTにおいてはですねなので正直私
27:07チットGPTのGPTとかえ自分の業務
27:11効率化とかのために作ったりとかするん
27:14ですけどもラグ機能はここでは使わない
27:17ですねえ最低でもそのインストラクション
27:20のところに入れられる文字数だけにしてい
27:23て逆にそこに入るものは全部そこに入れ
27:25ちゃうという風な使い方をしていますその
27:27方がなんかいいなと思いますQA
27:30ありがとうございますあチャットが無効に
27:32なってると大変失礼しましたチャットが
27:35無効になってるの
27:37で
27:39はいこれでいけますかねはいあ皆さん
27:43ありがとうございましたはいであとはそう
27:46ですねQAとかでもコメントいただいたり
27:49してますがま必要ですってことで顧客情報
27:52とは必要だと思ってるからですモデルに
27:54用し化されていくと分からないですが
27:552020年は必要でしょうそうですねはい
27:58必要派の方も結構いらっしゃるなという
28:00ところですねはいあチャットの方も
28:02ありがとうございますあの必要です不要で
28:04すって方非あの書いてみてくださいはいま
28:08そういうことでですねえっと通常のこう
28:11チャットgpdにおいてはラグ機能が仮に
28:13あってま使える状態だとしてもですねあの
28:16有料たは使えますけどまあいらないんじゃ
28:19ないかなと思ってますただしえっと私の
28:22会社でやってるようなllmを組み込んだ
28:24チャットボットとかまそういうサービスを
28:26作ってる場合に関してはま前にお話しした
28:28ようにあの文字数に応じた重要課金性が
28:32あの特にGPTとかもそうですしえ他の
28:36アピックのですねえクロードとかもそうな
28:38んですけれども基本重量課金性なので文字
28:41を送れば送るほど文字を出力すればする
28:43ほどお金がかかっちゃうというものになり
28:45ますで例えばOpenAIのGPT4え
28:490125プレビューってま最新のあの
28:52モデルになりますけどもえっと仮にこれが
28:54100万文字入れられますとした時に
28:57100万文字をえっと入力しますとそう
29:00いう風になると1回入力するだけで
29:0210ドルま150円換算で1500円ね
29:061500円かかる計算です1回チャット
29:08ボットに何かをインプットするだけ
29:11100万文字入れるだけでえ1500円
29:14かかりますとでアウトプットの部分にも
29:17課金が発生してますと実際にえ1500円
29:19以上1600円とか2000円とか買って
29:21しまいますというところです1回
29:232000円みたいな世ですねはいで仮に
29:26これがま企業のカスタマサポートの
29:28チャットボットま私たちこれやってるん
29:30ですけどこれやってると考えるとえっと
29:33例えば月間10万PVぐらいあるサイトに
29:35チャットボット入れますという時に
29:38チャットボットの利用率というのが大体ま
29:401%とか3%ぐらいのことが多いんですね
29:43普通に設置してるとで仮に1%だとした時
29:46に1%のユーザーがチャットボット使い
29:48ますで1回の利用で3回質問される場合と
29:53するとま3000回ですね毎月チャット
29:56ボットがあ質問をしてされて回答出すと
30:00いう応えがありますで入力分のコストだけ
30:03で毎月450万チャットボットのGPT4
30:06のコストだけで発生しますというとこでま
30:11仮に自社開発をして自社のサイト10万
30:14PVあるサイトにチャットボットを導入し
30:16ました裏ではGPT4の例えばこの
30:19100万持ち入れられるモデルがこあって
30:21今の料金形態だとした時に字入れられるん
30:24でえ全部システムプロンプトに自社の情報
30:26をぶち込んでですねえ質問が来たら回答
30:29するチャットボッドを構築してやりました
30:31という風になるとあらあら大変ということ
30:34でAPIだけで550万買っちゃいますよ
30:36というところになりますで私が知る限り
30:40450万円毎月かかるチャットボ聞いた
30:42ことないのであのどんだけ高価なチャット
30:44ボットでも多分月100万とかえ50万と
30:48か60万とか安いものだと3万円とかあの
30:501000円とかですね0円とか色々あり
30:52ますがまそういうものなのでえっとかなり
30:55コスパが悪いっていうのはお分かり
30:57いただけるとと思い
30:59ますでまチャットボットだけで例えば
31:01カスタマーサポート業務だとした時には
31:03全ての対応ができてですねもう電話メール
31:06もデロになりますというのであればま
31:08450万毎月だったらま人数計算して
31:11もらえれば分かると思うんですがコール
31:12センターとかカスタマーサポートの
31:14スタッフの人数によってはあの企業規模に
31:16よっては全然ありかもしれませんが
31:19そもそも0になることチャットボットだけ
31:21ではありえませんさっきの1%利用っての
31:24が理由なんですがゼになることありえませ
31:26んのでええチャットボットに毎月450万
31:30かけて年間でま5400まとかま
31:326000万とかですねかかっていくって
31:34いうのはま普通こういう投資意思決定
31:38できる会社ほとんどないんじゃないかなと
31:40いう風に思っておりますのでなかなか現実
31:43路線はないのかなと思ったりしてますはい
31:47あチャットも質問もありがとうございます
31:50質問のたびにその質問に必要な情報を全て
31:53書き込めてるは普段使いするのは面倒
31:54くさいと思うでそういう場合はラグが必要
31:56かそうですねはいだからGPTで繰り返し
31:59はいやるとかいう時は確かにあのそういう
32:01のはありかもしれませんがそうですねうん
32:06なんか組織で使う場合にはチームプラン
32:08加入してるとかってありかもしれないです
32:09ね個人利用だったらもしかしたらあんまり
32:12ないかもしれませんがまバリオてはあるの
32:14かもしれないですねありがとうござい
32:16ますまとはいいてですけもまこんな感じで
32:20えまあんまりちょっとこスパが良くないの
32:22であんまり良くないなと思ったりしますで
32:25またまラグ必要派であるもう1つの理由が
32:27長文の抜け落ち問題ですねさっきの必要派
32:30のところで書いたことになるんですけど
32:33も2023年の7月に発表された論文が
32:37ありましてえまこちらこれですねはい
32:42こちらになるんですけどもllmに対して
32:45与える文字数の長さで回答制度が大きく
32:48変わってきますということがあの要約する
32:50と書かれてい
32:52ますでこれは当時GPT3.5ターボのま
32:56その6月にあの更新されたモデルでですね
32:59やってた調査になるんですけどもこれ44
33:01系トークなんでえま約4000文字って
33:04ことですけどもこの場合はドキュメントの
33:07あのま与えているってことなんですがたさ
33:11文字を与えていくとですねえこの真ん中ら
33:14辺が抜け落ちちゃいますという問題が発生
33:16してプロンプトの最初の方に書いたことと
33:19か最後の方に書いたことっていうのはあ
33:22指示としては通りやすいま制度としては
33:24あんまり変わらないものになるんですが
33:26真ん中ぐらいに書いたものっていうのが
33:27抜け落ちが発生しちゃいますよということ
33:30が言われたりしておりましたとで実際に
33:33あの私たちのサービスで使ってるユーザー
33:35さんにもこういう話をしてるとまやっぱり
33:37同じような結果が出てくるので抜け落ち
33:39問題はやっぱり長文になればなるほど起き
33:42やすくなってるというのはあったとで
33:44さらにえっとこれなんか面白いですよね
33:47ジェミニが出た時ぐらいに出た論文だった
33:49んですけども2024年2月の論文の中で
33:52言うとま最新版で出ていたllm当時は
33:55まだクロードの3がなかったんであれなん
33:57ですけれどもまいろんなMllmですねえ
34:01検証されていて入力テキストとま水路の
34:04制度みたいなものが入力の長さによどれ
34:07だけ変わるのってもので言うとはいえっと
34:12水色がGPT3.5緑がGPT4で紫が
34:16ジェミニのプロえ黄色がミストラルのえ
34:1970ミリオンですねえでこちらのミクスト
34:23ラルですかねちょっとから間違ってのかな
34:25ミストラルですかなのやつですねままこれ
34:27どれも右肩下がりで基本的は下がっている
34:30まGPT4は下がりが低いですけど右肩
34:33下がりで下がっているのが分かると思い
34:34ますがインプットするこのトークン数文字
34:38の長さがですね文字の多さが増えれば
34:40増えるほど例えば3000文字とかになっ
34:42てくるとかなり精度がま6割ぐらいになっ
34:44ちゃうとですねえそんな風にデータが
34:46分かるのかなという風に思っまそれでも
34:48GPT4が下がりづらいってのがあるの
34:50すごいんですけどもまそれでも100%
34:53ぐらいだったもの
34:55があ80%ぐらいまでやっぱり下がって
34:57しまうというものがありますので基やっぱ
35:00文字数が長ければ長いほどあの精度落ち
35:03ちゃいますと回答精度落ちちゃいます精度
35:04が悪くなりますという風に言われています
35:08でおそらくこれはあのクロードも同じよう
35:11なものがあり得るんじゃないかなと思い
35:13つつ実際触ってるとそんなことないような
35:15気もするんですがちょっとこれ分かんない
35:17んですけども多分長ければ長いほどえ
35:20ピンポイントに何か途中の質問された時に
35:22え正確性にかけていくようなことはあり
35:25得るんじゃないかなという風に思思ったり
35:28しておりますはいま回とちょっと私も要約
35:30した部分があるんで見てみてくださいとで
35:33仮にこれま人間に置き換えてみると当然の
35:35話かなという風に思っていましてえ最初の
35:38方で教科書持ち込み型があのラグですよっ
35:42て話をしたんですけどいくら教科書
35:43持ち込んで受験できるテストだとしてもま
35:46教科書1冊持ち込んでテストを受けるのと
35:48もう要約されてる官平を持ち込んでやるの
35:51では当然まカペが的確であればですねあの
35:54問題を解くスピードも正確性もま生産性も
35:56高いとたくさん量解けますよねという
35:59ところが言えるかなと思いますのでまそう
36:01いう意味でやっぱコスパがいいという風に
36:03言えると思いますなのでまお金費用以外の
36:06面で見てもですねえラグのフレームワー
36:09クっていうのはやっぱり生産性が高くて
36:10効率的な手法だという風に私は考えてい
36:13ますなのでま今のところ不要にはならない
36:16んじゃないかなというのがあ実際に事業を
36:18やってる中でも思うことではございます
36:21ただしえっとユーザー様とユーザー企業様
36:24とですね会話しているとやっぱこのラグの
36:26フレーマーク使う時にはですねやっぱこの
36:29検索の精度と生成の精度2つの変数が存在
36:33してえコントロールするのがやっぱりその
36:35分難しくなってしまいますなのでナレッジ
36:38データっていうのはどういう風に作ったら
36:40いいのとかまデータの投入の仕方とかです
36:42ねあとはプロンプトをどういう風に作って
36:44いくかとかこの辺りのコツがやっぱり
36:46テクニックが必要になってくることもあり
36:49ますしまだまだこの分野新しい領域ですの
36:52でえ研究者とかまロング出してるぐらいの
36:55レベルなのでまが思考錯誤をしてる途中で
36:58正解が何ってのが分からない状態最低機会
37:01がまだ分かっていない状態という風になり
37:03ますその中でナジデータはマークダウン
37:05形式でやるといいよねとかQA形式で作っ
37:08た方がいいよねとかプロンプトってのは
37:09こういう風に作るといいよねとかていうの
37:11をみんなで模索してるような状態になり
37:13ますなのでえっとすぐ不要にはならないと
37:16思いつつもやっぱり運用上でこうやって
37:18難しさっていうのもあるのは事実でござい
37:20ますのでまラグが整理だという風には思っ
37:23ていないですこれが完璧だとは思ってない
37:26ですただは目的とか用途に合わせてですね
37:29とりあえず全文ぶっ込みみたいな感じだけ
37:32ではなくってまラグという手法があるんだ
37:34ということをちゃんと理解しておきかつ
37:36ラグの基本的な仕組みであるが特徴ですと
37:38かそうしたものを理解しておけばあ例えば
37:41会社でAIを使う時とか自分の業務でAI
37:44を使っていく時とか何かサービスを考える
37:46時とかていう時にもまラグという手法が
37:49あってえもしくはま長文のプロモとが入力
37:52できるLA部にはこういう特徴があるとか
37:55論文の中で抜け落ちの問題が言われてい
37:57ますよとかまそういったことをしっかりえ
37:59認識しておけばですねえ活用の最適な形が
38:02見つかるのではないかなという風に思って
38:04おりますはいで今日は1時間でえっと9時
38:08までなので残りの時間に関してはあ
38:11ちょっとま質疑応答もしつつもし時間に
38:14余裕があればですねえ是非私があの担当し
38:18ている事業のメディア特GIIとかのこの
38:19辺で実際どういう風にラグを活用して
38:21サボット運用してるかとか少しテクニック
38:24的な話も含めてご紹介させていただきたい
38:26なという風に思いますしま是非今日は
38:28インタラクティブなあの回という形で
38:30えっと異論とか反論もあればコメント
38:32いただけると嬉しい
38:34ですちょっとお待ち
38:39ください礼しましたちょっと花粉症で今
38:42くしゃみが出ちゃいましたはいっという
38:45ことでですねあのご清聴ありがとうござい
38:46ましたというとこですはいでは少し
38:50コメントとかも拾いながらですねえちょ
38:54時間とか興味が皆さんあればあうちの
38:56サービスのデモとかもしたいなと思ってる
38:58んですがちょっとチャットの方からき
39:00ましょうかねはいえとカペがラグ教科書が
39:05あ情報が全て入ってプロンプトってこと
39:07ですねそうですねあのそんなイメージです
39:09えっとラグはラグでもあの精度上げようと
39:13思うとですねあのただ文章を登録すりゃい
39:16いっていうもんではなくてですねやっぱり
39:18少しAIが読みやすい形に形式を整えたり
39:21ですとかする必要が制度を上げる上では
39:24ありますあのおもちゃみたいなチャット
39:25ボット作るんであればただえデータ
39:27ぶち込めばすぐにできるんですけどもあの
39:29ちゃんと業務として使っていくとかあお
39:32そうに公開するとかっていう運用になって
39:33くるとある程でば形を整えるっていう
39:36ステップはあ必要不可欠になるかなと思い
39:38ますのでえまそれがカペみたいにちゃんと
39:42整えられているものっていうそういう
39:43イメージですね
39:46はいであとはQ&Aの方いただいてます
39:51ねセキュリティとプライバシーの観点です
39:54ね今後のSNS法規性えが成立した時の
39:58ラグの管理はどう影響してきますか
40:00ちょっと私SNSの放棄性のことが
40:03あんまり分かっていないんです
40:06がべ
40:09てSNSの大きって何
40:13だろうこれちょっと分からないのでご質問
40:16いただいたえっと村山さんですかね村山
40:19さんあのちょっともうちょっと教えて
40:21もらえたらごめんなさい嬉しいです逆に
40:23ラグの管理どう影響してきますかどうなん
40:26ですかねセキュリティとプの観点まあの変
40:29にデータを突っ込んじゃえるっていう
40:31ところまこれは別にラグだからってわけ
40:33じゃないと思うんですがそこら辺はま
40:36いろんな別な問題がやっぱりありますよね
40:39あのちゃんとそそれこちゃんと教育とかを
40:41していかないとあの自分のデータじゃない
40:44のに
40:45えとりあえず突っ込んじゃってとかそれが
40:48何かあの万が一ですけどなんか漏洩して
40:50しまうとかですねえ悪い使い方されて
40:52しまうとかってことはま問題ではあります
40:54よねはいでチャットでそもそも生成と検索
40:59の違いが理解されていないケースが多い気
41:01がしますいやそうですよね社内講義してい
41:03ても受行者がチャットgpdを検索
41:06エンジンやWikipediaと勘違いを
41:08していてその違いを解くのが難しいです
41:10根本の理解があった始めでラグが生きて
41:11くると思いますよ本当その通りですよね
41:14これ本当その調理ですよね共感しかない
41:18ですあの私そういう時にですねなんか元々
41:21はごめさうちの資料なっちゃうですけど
41:24サービス紹介資料で割となんかその
41:26システマチックな
41:28こんな回答生成の仕組みですみたいなもの
41:31ですねえ最初はやってたんですけど
41:33やっぱりなかなかリテラシーが高くない方
41:35とかまさにそのチャットGPTを検索
41:37エンジンとかWikipediaみたいに
41:39使おうとしてる方からするとちょっと
41:40あんまりよくわからんというのが言われる
41:43ことが多くてですねそれで先ほどえお話し
41:47た時にお見せし
41:50たこういうちょっとめちゃくちゃ感想にし
41:53たものを作ったんですねでこれでま質問が
41:56来てでチャットGPTみたいな喋るAIと
42:00えあとはまこれもIBMのサーチとかでも
42:03いいんですけどもえま検索するAIとま
42:05GoogleでもいいですねGoogle
42:07がいますとChatGBGoogleがい
42:09ますみたいな状態でGoogleは
42:11Googleのあの見れる範囲内の
42:14ウェブサイトを探しに行ってChatGP
42:16でチャット喋るのが専門なんですとかです
42:18ねそんな風になんか説明してあげるとあ
42:20そうなんだとラグってえ喋るAIと検索
42:24するAIがいるんだとで普段使ってる僕
42:26たちが使ってる@GPTってのは喋るAI
42:29だから喋るAIの頭の中でしか会話でき
42:32ないんだねという風なことが分かって
42:35くれることが多くなりましたなのであえて
42:38この登場人物を2つのAIエージェントが
42:41いますよというような見せ方をして
42:44いただけるともしかしたら社内の講義とか
42:46よくリテラシがない方とか説明される場面
42:48でもあの役に立つかもしれませんのでもし
42:51よければなんかそういう説明の仕方をして
42:54みてもいいんじゃないかなと思ったりもし
42:56ております
42:58ありがとうござい
42:59ますチャットと質問あチャットあ
43:02ありがとうございますてことではい是非
43:03使ってくでちょっとじゃあこの
43:06まんま今日このリンクもよいしょここに
43:09入れときます
43:11ね多分ノーションのリンクこれ見れると
43:14思うので
43:16えしばらくは多分公開しておくと思います
43:20のでこの中にさっきの画像も入っているの
43:24とあとラグについての説明で言うと
43:26ちょっと今日は使わなかったですけどあの
43:29野村早見さんのYouTubeで紹介され
43:31てるラグの説明とかも結構丁寧にあの
43:33分かりやすくアニメーションで紹介されて
43:35たりとかしましたのでえまこういうのも
43:38もしかしたら研修で使ってみるのもいいか
43:40もしれないですねあともうちょっと
43:42マニアックな視点というかそういう視点で
43:45言うと今日の説明の中でもこのIBMのお
43:48話させてもらいましたが
43:50あ多分ラグで検索と最初にこれ出てくるの
43:53かなSEO1位だと思うんですよねそう
43:56ですよね地位に出てくるんですけどこの
43:59辺りから結構営業資料作ってるだろうなっ
44:02ていうベンダーさんもよく見かけますので
44:05あのなんかそういう意味でもスタンダード
44:07としてえ見てみるのもいいかもしれません
44:11はいこIBMのやっぱりその全文検索とか
44:14その辺結構強かったりしますのでまさに
44:17このラグの部分で言うとIBMのサーチの
44:20仕組みを活用されるっていうのも割とあり
44:22なんじゃないかなという風には思ったりし
44:24ますちょっと鼻をますねすいませ
44:34んはいすいませんお待たせしましたこの辺
44:38も是非見てみて
44:39くださいはいでQ&AQ&A書いてますね
44:45よいしょはいえっとラグとMyGPTの
44:50活用の境界線はどの辺りにあるのでしょう
44:53か個人でMyGPTをいくつか作っており
44:55最近関係者にGPを共有していますラグを
45:00使ったことがなくMyGPTを使い続けて
45:03ラグへどのような情報にえになったら状況
45:05になったら切り替えるべきなのかその基準
45:07を知りたいなと思いましたありがとう
45:08ございますGPTいいすよね便利だと思い
45:13ますメにとますでラグのそうですね
45:21使い分け
45:23え変な履歴がなければいいんですが
45:28例えばチャットGPTの場合だ
45:33と私もいくつかMyGPTなんか作ってま
45:37こう言い方を柔らかくする絵とか色々作っ
45:40てるんですけど例えばえ多分これはラグで
45:43やったの
45:49かこれはラでやって
45:52ないですね慣れち入ってないですもね楽で
45:56やってないですえっと境界線で言うと多分
45:59私ここどこまで入れたことあるって言わ
46:01れるとちょっとあんまり入れたことないん
46:03でわかんないんですがこれぐらいの文事業
46:05だと全然このインストラクションに入っ
46:08ちゃうんですよねこれ利用規約なんですが
46:10入っちゃうのであのここの
46:12インストラクションに入る文料なのであれ
46:14ばラグを使わなくていいけれどもここに
46:17入らない文料がある例えば論文を全部
46:19入れるとかですね多分入らないはずです
46:22そういう場合にはここで言うとナレッジ
46:24ですよねナレチっていうところでアロード
46:27ファイルをしていただいてデータを挿入
46:29するというような使い方で入るか入らない
46:32かっていうのが1つの基準になると思い
46:34ますで基本的にえっと入るんだったら入れ
46:38た方があのモラ的に回答しやすくなります
46:42のでえ入れておく方がいいと思いますが
46:46GPTの場合はそんなに多く入らないはず
46:48なのでえ多分あんまりたくさん入れても
46:50ですねそこまで精度落ちないんじゃないか
46:52なという風には思いますがまとはやっぱり
46:54抜けちゃうこともあったりしますのでそこ
46:56ら辺で考えてもらえるといいんじゃないか
46:58なという風に思い
47:00ます結構うちのユーザーさんとかだとあの
47:03Q&Aだけでえっと1万件ありますとかあ
47:062万件ありますとかって方もいらっしゃる
47:08そうするとまいかにあのここにですね
47:11たくさん入れられるとしても多分入りきら
47:13ないはずなのでえそういう時はやっぱり
47:16ラグの仕組みここでうとナレッジ機能です
47:18ねGPTだとこれを使うのがよろしいん
47:20じゃないかなという風には思います
47:24はいあとは質問がチャット質問ちゃんとき
47:28ますねはいえっと車内でラグを用いた
47:31チャットボット同人を実施していますが
47:33現状制度として自の利用が難しい状況です
47:36と私は業務チームの推進担当として役割を
47:39担っておりえ参照ドキュメントや
47:41プロンプトの最適化を実装しておりますが
47:44実施しておりますが正解見てない状態です
47:46感覚ではありますが参照ドキュメントや
47:48プロトの問題ではなく検索手はチャンクの
47:50サイズの切り方に問題があると感じてます
47:52技術観念は詳しくなく今後の詰め方は
47:54難しいのですが今後の状況踏まえて工場の
47:57ポイントやこつを教えていただけます
47:58でしょうかありがとうございますま何で
48:01やってるかにりますけどそうですね検索の
48:03手法とチャンクの切り方はめちゃくちゃ
48:06重要ですめちゃくちゃ重要ですでそうすね
48:09ちょっとじゃあそこの話しましょうか
48:12えっとえっと正直ですねプロンプトは
48:16そんなにです正直ねプロンプトなんとか
48:19するぐらいだったらあのいいモデルをやっ
48:21た方がいいですで私とかの場合はこれ
48:26ぐらい書いてますねで基本的にはうちの今
48:29サービスGPT3.5かGPT4だけなん
48:32ですがえやっぱり3.5よりもやっぱ4の
48:35方がいいのは間違いないのでプロンプトレ
48:37頑張ろうってよりかはいいモデルに上げる
48:39要はお金を使う方が圧倒的に精度上がり
48:42やすいコスパがいいですクロも少ないです
48:44なので今だとクロードのあのオーパスとか
48:47ですねソネットとかハクとかあの辺の
48:50モデルを使えるようにしようかなという風
48:52に内部で検討してるところなん多分それに
48:54よってもだいぶ精度変わってくると思い
48:55ますただプロンプトはあそんなにえ重要で
48:59はないと個人的には思っま重要なんです
49:00けどそんなに重要じゃないと思っています
49:03でえっと制度向上に関しては
49:05やっぱりこの検索AIの
49:09お部分ですねここで言うとでここが
49:15よいしょじゃ
49:21ない
49:23はいこの資料では単純にまそのいわゆる
49:26cos類自動って言われるえデータベース
49:29なれえっとベクトルデータベースのお
49:33ベクトルの値をユーザーからの質問分の
49:36ベクトルの値と計算をして類字度が1番
49:39高いものをえピックアップするっていう
49:42ような図になってるんですけどちょっと
49:44社外避はなかなか言えないんですが実際に
49:46はやっぱりこれだけだと難しいですcos
49:49類事だけだといい情報マッチできないです
49:53ですので別な検索地方例えばキーワード
49:55マッチングとかもそうかもしれませんし
49:57最近だと検索結果を再度えAIまllmに
50:01えっとランキング付けを再度させてえ1番
50:04重要度の高いものを再評価させるとかって
50:06いう手法がまリランとかリランキングと
50:09かっていうのがあったりするんですがま
50:10そういうことも言われてたりしますので
50:13単純なルジ計算だけの仕組みだとちょっと
50:16難しいっていうのはその通りなので検索
50:18手法の見直しは必要だと思いますでもう1
50:21つがえっとナレッジデータですねここで
50:24言うと投入するデータのえっとチャンクの
50:27切り方って話がありましたがチャンクの
50:29切り方だけじゃなくどういうも形式で
50:31入れれるかってのは結構大事ですで例えば
50:35先ほどのgpdsでお見せしたようなま
50:39こういうまこれはドキュメントですよね
50:41ドキュメントなんですけど利用規約みたい
50:43なこれをこの
50:45まんまナレッジデータにしようと思うと
50:48おっしゃっていただいたようにチャンクと
50:49呼ばれるまどこで区切るかぐらいの話に
50:53なっちゃうんですねで機械的にやろうと
50:55すると例えば300も術に区切りますとか
50:58え500も術区切りますとか機械的に
51:00区切って例えばここまで区切りましたで次
51:03のチャンクはこっからここまでですとか
51:05ですね中途半端な区切りになってしまう
51:07ことがありますので仮にこれこのまんま
51:10使うにしてもちゃんとやっぱり上ごとにえ
51:13条項ごとに分けるとかってことはした方が
51:16いいです間違いなくでチャンクのサイズに
51:19関しては確か500文字前後までがあの
51:22最適と言われてるのでえ短すぎず長すぎず
51:25500文字前後で切るのがいいと言われて
51:27います
51:29でもしかしたら皆さんの期待外れの回答か
51:32もしれませんが私たちのおすめとしては
51:37これ実際うちのチャットボットに使える
51:39データの形なんですがやっぱりQAの形に
51:43しておくのが最も制度がやっぱ出せます
51:46チャットボットの場合ですとチャット
51:48ボットの場合ではチャットボットの場合だ
51:50とユーザーは質問してきます質問してき
51:53ますでナレッジデータがもしさっきの
51:57ドキュメントをただ切っただけのものだと
52:00するとユーザーの質問分文章の類字とえ
52:04文章ベクトルですね文書のベクトルとこの
52:08利用規約上の文字列のベクトル比しても
52:13近いものは必ずあるとは言えませ
52:15ん例えばうん何
52:20か料金等とかもそうかもしれですねえっと
52:24この料金えこのサービスの料金はいくら
52:26ですですかみたいな質問があった時にそう
52:28いう文字っていうのはそもそもここには
52:30存在してないですよねでもあと元のデータ
52:34はちゃんとこう条文みたいな書方されてい
52:36ますいう風になるとどうしてもルジの値が
52:38そんなに上がらないっていうケースが発生
52:41します質問分で使われてる言葉とナレッジ
52:44データに入ってる言葉が違うからってこと
52:47ですねちょっとややこしいですなので結局
52:49のところはえっと検索キーワード的にです
52:53ねやっぱり引っかけるためのワードが上に
52:56ないと精度が高まりにくいで狙ったところ
52:59に落とせないっていうのがありますので
53:01やっぱり休A形式でデータを持たせる形が
53:041番いいですでそれがちょっと難しい
53:07よっって話なんであればえっとやっぱ
53:09チャンクの切り方の話になってくるのでえ
53:12ちゃんと条項ごとに切るとかあとはAIが
53:14やっぱりマークダウンとかあのそういう
53:16形式の方が読みやすいってのがありますの
53:18で1回まデータをあのそれこそクロードと
53:21かに入れてマークダウン形式に出力し直さ
53:23せてえデータベース化するとかですねそう
53:25いう方っていうのが結構必要あの重要に
53:28なってくるんじゃないかなという風に思い
53:30ますはい回答になってれば嬉しいですはい
53:35じゃまた次の質問に行きましょうはい
53:38インストラクションとナレッジで賄える
53:40文字数の情報であればMyGPで対応して
53:42いいとことですありがとうございますそう
53:44ですねはいえっと字数がはい
53:47インストラクションで入るんだったらもう
53:48それでいいと思います入らないんだったら
53:50ナレッジデータにしちゃうっていうのが
53:52あのいいと思いますgpdsで使うんで
53:54あればはい
53:57いうとこですねはいあとはチャットですね
53:59あチャットの方で質問いただいてます長い
54:01目で見るとコスト目を考えるなら
54:03プロンプトより新規サービス試した方が
54:05結果的にはいいということですかえ
54:08ありがとうございますちょっと難しいです
54:11よねロを試した方がいいのか
54:14うん新規サービスの
54:18うんプロンプとを試すま何を出力させたい
54:22かによりますよねあの私がやってるような
54:26サービスっていうのはチャットGPTの
54:29学習データに入ってないことをどう回答さ
54:32せるかというまず大前提がある中なので
54:36プロンプトだけでやっぱどうしようもない
54:38ところがあったりしますしえ先ほど
54:42の例で計算例でお見せしたようにですね仮
54:46に全部ぶち込めとした時にやっぱコスパが
54:48悪いんですよね圧倒的にも本当に一応と
54:521500円のチャットボトってやばくない
54:54ですか普通に考えてまやばいと思いますよ
54:57ねめっちゃやばいと思いますあのうちの
54:58サービスだと3万円とか10万円とかで
55:01月額やってるんですが本当にこれだけでも
55:04あの450万とかまそこまでいかないにし
55:06ても100万とかかかれるとただGPT
55:10使ってるだけなのに100万かかると結構
55:12やばいと思いますんでえちょっとコスパが
55:15悪いと思いますなんでラグの仕組みを自社
55:18で構築してチャットボットを使われるで
55:20あったりですとかま我々みたいな会社とか
55:23そういうもうラグの仕組みもう最初の
55:25フレームワークは最初からですですねえ
55:26サービスに組み込まれてるようなもので
55:28えっと自分たちがやりたいことができそう
55:30なサービスを導入する方が多分簡単かなと
55:34は思いますねはいでプロンプトだけでどう
55:37にかしようてのは結構やっぱしんどい話な
55:39ので検索の手法さっき入出たようなデータ
55:41の作り方あとはもちろんプロンプとの組み
55:44方この辺りも非常に重要になってまいり
55:47ますま参考まで
55:51に者のようなサービスですとこんな形で
55:56えっとナレッジデータという画面があって
55:59ですねこの中でExcelで投入するとか
56:02PDFで投入するとかま色々あるんですが
56:04私の場合はGoogleスプレッドシート
56:07の連携の方式にしていてえっと自社のLP
56:10とかに使ってるチャットMODは全部ここ
56:12でえ入れてます今150個ぐらいQA入れ
56:15てますけれどもまこんな感じで作ってます
56:18でここで作ったナレッジデータを例えば
56:21チャットボットで言うとチャットボットの
56:23設定の方ですね
56:26はいこっちで参照データ名っていうところ
56:29さっき登録したナレッジデータみたいな
56:31やつを何を使うかってのを紐付けています
56:34で使うモデルをどれにするかを決めてで
56:37最終的にプロンプとですねはいまこの変数
56:42の中にこれ変数なんですけど中にはま同的
56:44にちょっと情報が変わるようになっていて
56:46ユーザーからの質問文が入ってきたりとか
56:48え質問文とこれはアンサーなんでさっきの
56:51ナレッジデータのQAをえここに挿入する
56:54みたいなものになってるんですけどまそう
56:56いうの仕方の関してもえマッチ度が1番
56:58高いよ2番目に高いよってのはあえてえ
57:00明治的にプロンプトにも記載をしてたり
57:03するんですがまこんな感じぐらいなので
57:05プロンプターは正直そこまでえ今日ご参加
57:07いただいてようなリテラシの方々では
57:09難しくないレベル感かなという風には思っ
57:12たりもしております参考
57:15まではいじゃ残り2分なんで今QA来てる
57:19のでそれぐらいで終わりましょうかはいで
57:23質問分が長い場合も類自動出すの出すのに
57:26使う文章は質問文そのまま使うのでしょう
57:29かえ長い文が入ったらその内容を質問文に
57:32分けて分けた文章ごに理測った良かったし
57:35ないかなあありがとうございますこの質問
57:37文をそのままベクトルにするのか1度
57:40llmにえ質問文からクエリを生成させる
57:43検索ワードを生成させるというようなやり
57:46方2種類ありますでそのままやるんじゃ
57:49なく検索クエリに1度
57:52え生成整形してですね検索クエリを
57:56データベースを検索するものに使うという
57:59やり方もあったりしますどっちもパターン
58:01はありますのでえっとこの辺りはもし
58:03サービスの導入をされる時にはどっちの
58:05形式使ってるのとかってのも考えてみても
58:08いいあの聞いてみてもいいかもしれない
58:09ですでどっちがいい悪いってよりかこれ
58:12データベースとな相性みたいなところにも
58:14なるのでデータをどう作ってるかとその
58:16そのままベクトル化したのか検索クエリー
58:19を生成してからルジ測ってるのかこの辺の
58:22相性にもよりますのでえっとそれぞれ点で
58:25考えるとはあの線でしっかりと結んで考え
58:28て運用していくのがいいという風には思っ
58:30ておりますので参考にしてみて
58:34くださいということでえっとたくさんご
58:36質問等もいただいてえっとほとんど回答は
58:39させていただけたかなと思いますが
58:41ちょっともしかしたら一部え欲しい回答と
58:43違ったなんてこともあるかもしれませんの
58:45その時はあの個別にまたご連絡いただい
58:47たりとかしていただければと思いますあの
58:49Xとかもやってますしあのメディア
58:51TalkGIIっていうサービスですねえ
58:53こちらやってますのでWEBからお問合せ
58:55いただいても結構ですのでえもしもう
58:58ちょっと引いてみたいとかあればご連絡を
59:00お待ちしております最後にじゃチャットに
59:03専念だけサイトのリンクだけ送っておき
59:06ますチャットボットボイスボットメール
59:07ボットaifAQ検索ページと4つ
59:10サービスやってますのでもしよければご覧
59:12になくださいということでえっと今日は
59:15ですねラグについてとコンテキストウンド
59:17の拡大がラグに与える影響という話をさせ
59:19ていただきましたまたあのこういった
59:21テーマ興味あればですねえリクエスト
59:23いただければお話ししたいなという風に
59:24思いますのでまた是非よしお願いいたし
59:26ますじゃ今日はあの祝日の夜えお忙しい
59:29時間帯なくご参加いただきまして
59:31ありがとうございましたまた是非よろしく
59:32お願いいたしますそれでは失礼し
59:37ます
Browse More Related Video
最近よく耳にするRAGって何？社内AIチャットにおけるデータ連携の仕組みを解説
RAG From Scratch: Part 1 (Overview)
RAG Evaluation (Document Relevance) | LangSmith Evaluations - Part 14
RAG Evaluation (Answer Correctness) | LangSmith Evaluations - Part 12
RAG (evaluate intermediate steps) | LangSmith Evaluations - Part 16
How vector search and semantic ranking improve your GPT prompts
5.0 / 5 (0 votes)
