【必見】ファインチューニング入門～コスト98％削減も！ビジネスマンは知っておきたいファインチューニングの基本＆活用事例＆活用パターン
Summary
TLDRリモートアク研究所はファインチューニングの入門と活用方法を紹介します。GPTモデルや生成AIモデルを特定のタスクに合わせて最適化する手法で、処理コストがGPT-4活用に比べて98％削減された事例もあります。ファインチューニングの基本、具体的な活用方法、コスト削減の詳細について説明し、実際のビジネスでの利用例を示します。AI活用の最新情報を提供し、ビジネスマンにとって重要な知識をお届けします。
Takeaways
- 😀 ファインチューニングは、既存のAIモデルを特定のタスクに合わせてさらに学習させる技術です。
- 🔧 ファインチューニングの活用はビジネスで大きなメリットがあり、例えば処理コストを大幅に削減することが可能です。
- 💡 ファインチューニングの基本は、データを与えAIモデルをカスタマイズすることです。
- 📈 ファインチューニングの例として、通訳パターンの分類タスクにおいて98%のコスト削減を実現した事例が紹介されています。
- 🛠️ ファインチューニングは、独自のAIモデルを作り始めからトレーニングするというよりは、少ないデータで既存モデルを調整する手法です。
- 📚 学習データは最低でも10サンプル必要とされ、そのデータはJSON形式に変換してOpenAIに提供します。
- 🎯 ファインチューニングは、分類タスクや変換タスク、スタイルやトーンの設定、特定のフォーマットへの変換など、多様なビジネスニーズに応じて活用できます。
- 📉 ファインチューニングを通じて、プロンプトでのルール化が難しい場合やエッジケースが多い場合にも対処できます。
- 📈 学習過程はOpenAIの管理画面上で確認でき、トレーニングロスが0に近づくにつれて理想的なアウトプットに近づくことがわかります。
- 🚀 ファインチューニングは、ビジネスでルールベースの方法や人間による処理と組み合わせることで、効率化とコスト削減に大きな貢献をします。
- 🌐 リモートワーク研究所では、AIの活用事例や最新情報を提供し、ビジネスでのファインチューニングの重要性とその効果を強調しています。
Q & A
ファインチューニングとはどのような技術ですか？
-ファインチューニングは、既存の学習済みのAIモデルに対して特定のタスクに合わせて追加学習させる技術です。これにより、モデル自体を少しカスタマイズすることができます。
ファインチューニングのメリットは何ですか？
-ファインチューニングの主なメリットは3つあります。1つ目は出力結果が安定すること、2つ目はプロンプトに含められない大量の例を学習できること、3つ目はプロンプトを短縮することでトークンの節約や低遅延リクエストが可能になることです。
ファインチューニングはどのビジネスシーンで有効ですか？
-ファインチューニングは分類タスクや変換タスクなど、特定のパターンに合わせたAIのカスタマイズが必要なビジネスシーンで有効です。また、ルールベースで難しい場合やエッジケースが多い場合にも適しています。
ファインチューニングによって処理コストを98%削減した事例について教えてください。
-ある事例では、通訳パターンの分類タスクにおいて、GPT3.5のファインチューニングを行った結果、処理コストが大幅に削減され、精度も90%以上に向上しました。
ファインチューニングを実施するためにはどのような手順が必要ですか？
-ファインチューニングを実施するためには、まず学習データの準備が必要です。次に、学習データをJSON化し、OpenAIの管理画面で学習を実行します。そして、新しく作られたモデルを利用して、期待される結果を得ることができます。
学習データはどのように準備すれば良いですか？
-学習データは、システム、ユーザー、アシスタントの3つの列を持つスプレッドシートなどで整理し、必要なパターンが十分に網羅されていることを確認して準備します。
ファインチューニング後のモデルはどのようにして利用できますか？
-ファインチューニング後のモデルは、OpenAIの管理画面上のプレイグラウンドから直接利用することもできますし、APIを通じてプログラムから読み出して大量に使用することも可能です。
ファインチューニングのトレーニングコストはどのくらいになりますか？
-ファインチューニングのトレーニングコストはデータセットの規模によって異なりますが、一般的には数百円から数千円程度と比較的低く抑えられます。
ファインチューニングはどのような種類のAIモデルに適用できますか？
-ファインチューニングはGPT3.5やGPT4などの大型言語モデルに適用できますが、GPT4はテスト版であり、コストが高くなりやすいためGPT3.5が一般的に選択される傾向があります。
ファインチューニングはどのような場面でおすすめされますか？
-ファインチューニングは、特定のビジネスタスクに合わせたAIのカスタマイズが必要な場面や、人間がやるよりもスピーディでスケーラブルな結果が必要な場合におすすめされます。
Outlines
😀 ファインチューニングのビジネス活用とメリット
この段落では、ビジネスマンにとってファインチューニングの重要性とその活用方法について紹介しています。GPTモデルを特定のタスクに合わせてファインチューニングし、ビジネスでの活用とそれに伴うメリットについて解説しています。具体的な技術詳細よりもビジネスでの活用方法にフォーカスし、処理コストの大幅な削減など、ビジネスシーンでの有効活用例を紹介しています。
😉 ファインチューニングの基礎知識と価値
ファインチューニングとは、既存の学習済みAIモデルに対して特定のタスクに合わせて追加学習させる技術であると説明されています。その基礎知識から始まり、具体的な活用方法とコスト削減の例を交えて話が進みます。また、ファインチューニングの3つの価値として、出力結果の安定化、プロンプトに含められない大量の例を学習できること、プロンプトの短縮によるトークン節約や低遅延リクエストの実現について触れています。
😃 ファインチューニングの具体例とコスト削減
具体的な事例として、通訳パターンの分類タスクにおいてファインチューニングを行った結果、高精度での大きな成果が得られたと紹介されています。人間による作業からAIへの移行が検討され、その過程でプロンプト方式とファインチューニング方式のコストと精度を比較分析しています。最終的に、ファインチューニングによって98%のコスト削減を実現し、高精度でのビジネス適用が可能になったと強調されています。
😁 モデルごとのコスト比較とファインチューニングのコスト效益
GPT3.5ターボとGPT4O、GPT4ターボのモデルごとのコスト比較が行われており、それぞれのモデルにおけるインプットとアウトプットのコストについて説明されています。ファインチューニングによって、モデルのトレーニングコストが比較的低い金額で済み、かつ効果的な結果が得られることが示されています。トレーニングコストは人件費と比較して圧倒的に低いため、ビジネスでの活用が非常に有利であると主張しています。
😄 ファインチューニングの実施方法と手順
実際にファインチューニングを行う手順が紹介されています。学習データの準備、JSON化、OpenAIの管理画面での学習実行、新モデルの利用方法について説明が進んでいます。データの準備からJSON形式への変換、OpenAIのAPIを利用したデータのアップロードとモデルの学習実行、そして新モデルの利用方法について、手順通りに説明されています。
😉 学習プロセスの紹介とファインチューニングの効果
ファインチューニングの学習プロセスがグラフで可視化されており、トレーニングロスがどのように減少し理想的なアウトプットに近づいていっているかが解説されています。学習前後のモデルの比較を行い、ファインチューニングによって精度の向上が示された例を紹介しています。また、学習したモデルをプレイグラウンドでテストし、その効果を実際に確認することができると説明しています。
😀 ファインチューニングのビジネス適用と今後の展望
ビジネス現場でのファインチューニングの適用について話が進んでおり、分類や変換タスクにおいての活用が具体的に紹介されています。ファインチューニングがビジネスフローの特定の部分で大きな成果を出すと主張しています。また、今後の展望として、ファインチューニングの適用を増やし、ビジネスでの活用を拡大していきたいと述べています。最後に、チャンネル登録や各種イベントへのご参加を呼びかけています。
Mindmap
Keywords
💡ファインチューニング
💡生成AI
💡GPT
💡プロンプト
💡分類タスク
💡コスト削減
💡モデル
💡AIの応用
💡データセット
💡ビジネスシーン
Highlights
ファインチューニングとは、既存の学習済みAIモデルを特定のタスクに合わせて追加学習させる技術
ビジネスでファインチューニングを活用することで、処理コストを大幅に削減できる
GPTモデルファインチューニングの成功例として、98%のコスト削減を実現
ファインチューニングの基本知識はビジネスマンに知っておくべき必須知識
独自のllmラージランゲージモデルを作る方法とファインチューニングの比較
ファインチューニングは少数のデータを与えることでAIモデルをカスタマイズ
ラグと呼ばれる検索拡張生成方法とファインチューニングの相違点
プロンプトの最適化を通じて一般的な方法でAIを活用することができる
ファインチューニングの3つの価値：結果の安定化、大量の例を含む学習、プロンプトの短縮による利便性の向上
実際のビジネス事例でファインチューニングがどのように役立つかの解説
ファインチューニングにより、通訳パターンの分類タスクでの精度向上とコスト削減
GPT3.5ターボとGPT4O、GPT4ターボのコスト比較とその意味
ファインチューニングのトレーニングコストは比較的低い
ファインチューニングが向いているケース：分類系タスク、見せる系のタスク、スタイルやフォーマットの設定
具体的なファインチューニングの実施方法と手順の紹介
学習データの準備とその重要性、多様なパターンを持つデータの活用
OpenAIの管理画面でのファインチューニングの実行と新モデルの利用方法
ファインチューニング後のモデルは特定のタスクで精度が向上し、トークン数も減らすことができる
7月17日に開催される生成AIサミットVol2の告知と参加のお誘い
リモートワーク研究所のチャンネル登録と各種サービスの案内
Transcripts
00:00リモートアク研究所えとです今回は生成
00:03活用の必須知識ビジネスマンは知っておき
00:05たいファインチューニング入門と題しまし
00:07ておそらく皆さん名前は聞いたことあると
00:10思うんですけれどもGPTのモデルであっ
00:12たりとか生成AIのモデルをより自分の
00:15タスクにフィットした形にするファイン
00:18チューニングという手法に関して具体的な
00:21技術面というよりは実際ビジネスでどんな
00:24風に活用できるのかどんなメリットがある
00:26のかどんなケスは有効なのかということに
00:28フォーカスをしてご紹介できればと思い
00:30ます実は最近私ある案件でファイン
00:32チューニングやったんですけどもなんと
00:34処理コストがGPT4活用に比べて98%
00:39削減というのを成功した事例もありまして
00:42あるシーンではファインチューニング知ら
00:45ないとめちゃくちゃ損する話にならないと
00:47いうケースもビジネスシーンで出てきて
00:50おりますので是非今回の動画でこの
00:52ポイントをお伝えできればと思います内容
00:55としましてはまずファインチューニングと
00:56は何なのかそして2つ目ファイン
00:58チューニングの具体的な活用と共にどう
01:01やってコスト98%も削減したのかどんな
01:03シーンで活用できるのかをご紹介しますえ
01:06続けて3つ目はちょっと具体的な
01:08テクニックになるのでま興味がある方だけ
01:10ご覧いただければなと思うんですがオー
01:12AI上でいかにファインチューニングを
01:14実施するのか実際画面を見ながらご紹介し
01:16たいと思いますえこのチャンネルではAI
01:19リモート時代に必要なツールやノウハウ
01:21最新情報をビジネス視点でお届けしてるの
01:23でチャンネル登録をよろしくお願いします
01:25間もなく10万人突破予定ですではまずは
01:28ファインチューニングとは何なのか基礎
01:30知識からご紹介していきますファイン
01:32チューニングとは簡単に言うと既存の学習
01:35済みのAIモデル例えばGPT3.5
01:37ターボとかGPT4Oとかですねを特定の
01:41タスクに合わせて追加学習させる技術で
01:44あるというのがファインチューニングに
01:46なりますモデルにデータを与えて学習さ
01:50せることによってモデル自体を少し
01:53カスタマイズするという方法になるんです
01:55ねでこれと近い技術でいくつかありまして
01:58これアクセンチュアさんの資料を拝借し
02:00てるんですけども自分たちのデータを使っ
02:03てうまくそれに合わせた形でやるために
02:05どういう手法があるのか1つは1番ま
02:08ハードルが高くて大変な方法である独自の
02:11llmラージランゲージモデルを作ると
02:14いう方法ですねこれはデータを大量にえ
02:17与えた上で実際も自分たち独自のAIを0
02:20から作ってしまうという発想でしてま
02:22NTTさんとかですねそういう規模の会社
02:24は今トライしてますけれどもまほとんどの
02:26会社には関係ないというレイヤになります
02:29でに来るのがファインチューニングでして
02:32これは元々あるモデルに対して少数の
02:35データを与えてそこに最低化した形でAI
02:38のモデルを変えるということですねで3つ
02:41目がラグと呼ばれるえ仕組みで日本語で
02:44言うと検索拡張生成という風に言われます
02:48がデータベースからデータを毎回検索して
02:51それをプロンプトの中に入れて回答を作る
02:54という方法で実はラグではAIのモデル
02:57自体全く変えてなくてAIのモデルに回答
03:00を作ってもらう前に別で検索してデータ
03:03持ってくるという方法になるんですねで
03:05大きくはこの2つがま実際にビジネス
03:08シーンで考える時には選択肢に入る方法に
03:11なりますで特定タスクに最適化しようと
03:14思うと今の3つに加えてもう1個方法が
03:17ありましてそれが1番ですねプロンプトを
03:20作成して頑張るとつまり別にラグもせず
03:22ファインチューニングもせず独自Lもやら
03:25ずプロンプトを最適化してそのプロンプト
03:28の文言の中にいろんな定義をしたり例を
03:30入れたりして何とかするまこれが1番一般
03:33的な方法でして簡単にできますし費用体
03:36効果も高いと言われていますただ
03:38プロンプトだと毎回当然データを変える
03:40ことはできないので基本的に固定のある
03:43処理しか使えないとでラグというのは
03:46例えばQ&Aのように回答するべきテーマ
03:49が大量にあって毎回使うべき回答データが
03:52違うとこういう場合にはフロントを全部
03:55作ることはできないのでユーザーの質問に
03:57対して1回検索してデータスから必要な
04:00情報を引っ張ってきて回答するまこれが
04:02ラグなるわけですね立方ファインチュー
04:04ニングっていうのはラグのように毎回
04:07データを持ってくるのではなくてもう事前
04:09にデータをセットを与えた上でAIに学習
04:12させておいて新しいAI作っておいて実際
04:15使う時にはこの新しいチューニングした
04:18AIモデルを使うというのがファイン
04:20チューニングになりますで1番難しい方法
04:23で6LMがありますがこれが実際の
04:25ビジネスで選択肢に上がることはほとんど
04:28ないかなと思うので我々で一般的なその
04:30ビジネスをやっていてビジネスシーンで
04:32考えていくとまずプロンプトで頑張るが第
04:351候補で私もこれまではほとんどこれをし
04:37ていましたで続いてラグ検索データと
04:41組み合わせることによって結果を活用して
04:43いくで次にファインチューニングという
04:45ことになっていますでファイン
04:47チューニングに関しては私も正直自分で
04:49あるまでは言葉は知ってるしなんとなく
04:51概念は分かるんだけれども結構難しくて
04:54ハードルが高いなとそしてファイン
04:56チューニングしてもそんなに成果出ないし
04:58生徒も出ないでしょうとやっぱり
05:00プロンプトを頑張るかもしデータが
05:02たくさんある場合はラグの仕組みで合わし
05:04てデータ持ってきて回答するまこの2つが
05:07主であってファインチューニングってなん
05:09か概念はあるけどそんなに有効じゃないん
05:11じゃないかなと思っていたんですけども
05:14そんなことはないというのが今日の次第
05:16でして使えるシーンでめちゃくちゃ使えて
05:18絶対使った方がいいなという風に最近は
05:21確信を得ていますさて具体例に行く前に
05:24ちょっと一般論でファインチューニング
05:26することの3つの価値って何なのかという
05:29話をしますこれOpenAIのファイン
05:32チューニングの記事がありましてそっから
05:33抜粋してちょっと要約をしてるわけなん
05:35ですけども大きく3つあると1つは出力の
05:39結果が安定するファインチューニングを
05:41する際にはこういうインプットだったら
05:43こういうアウトプットにしてねまこの学習
05:45セットを作るんですねこのパート3で実際
05:48学習セットを渡出したりとか実際学習する
05:50様子をお見せできればなと思うんですが
05:53それによってアウトプットの例をたくさん
05:55出すのでそこに出したようなアウトプット
05:57に非常になりやすいんですねで2つ目
06:00プロンプトには含められない大量の例を
06:02学習できるとこれプロンプトの中に例を
06:05たくさん入れるっていう方法もあるんです
06:07例えばまこれからご紹介するのは分類
06:09タスクになるんですけど20パターンの
06:11分類がある場合に20個の定義をした上で
06:14このインプットであるデータがどれに該当
06:16するかを考えてというのをプロンプトで
06:18あると20個の例をプロンプトの中に
06:20含める必要があるわけですねで20個程度
06:23であれば今のプロンプトって頑張れば
06:2510万文字くらい入るので全然余裕で入る
06:28んですけどもっともっと大量なケースが
06:30あって何百とかあるとさすがに定義を
06:32つつけるのも大変またその例もただ定義
06:37するだけではなくて01の場合にはこう
06:39いう定義で過去のデータではAとBとCと
06:42いうパターンの場合にはこれに該当しまし
06:44たみたいなことを何百パターンもしようと
06:47思うとプロンプトの中に入れるのは非常に
06:49難しくなってくるケースがあるんですね
06:52もちろん今プロンプトの量は増える方向に
06:54あるので何百パターンで参考例入れても
06:57プロンプトに入れることができないかと
06:59いうとできるケースも出てきてるわけなん
07:01ですけどさらに3つ目プロンプトを
07:04たくさん作らなくてもいいとプロンプトの
07:05短縮によるトークン節約や低遅延
07:08リクエストができるということでGPT4
07:11Oとかもしくは全然関係ないジェミニとか
07:14で大量のデータをプロンプトに含めて分類
07:17をすることはトクの制限的にはできるとし
07:20てもこれをすることによって毎回指示の旅
07:23に大量の定義表を送り付ける必要があって
07:26トークンがめちゃくちゃ増えちゃうこれに
07:28よってコストが上がっで処理も遅くなるん
07:31ですねこういったことに対してファイン
07:33チューニングで底の賄えておければ学習さ
07:36せる大量のデータっていうのはもうAIの
07:38モデルの中に組み込まれていてプロンプト
07:40に入れる必要はないのでプロンプトを短く
07:42できるその結果トークンも減りえスピード
07:45も早くなるまこれが3つ目の価値でして
07:48この2つ目3つ目が特に大きいかなと思っ
07:50ていて今回実際の自衛でご紹介したいと
07:52思いますではファインチューニングの活用
07:55事例でこれ実際最近私が案件入らせて
07:58いただいて一緒にコサれてで議論しながら
08:00やっていた例になり
08:01ますまずどんな事例かと言うと通訳
08:05パターンの分類タスクがあるとまいろんな
08:07文字列とか加情報があるとま文字列があっ
08:10た上で追加情報でこれはタイプAですよと
08:13かカテゴリーBですよみたいなものがある
08:15上でこの情報を元にして何百パターンか
08:18ある定義に基づいて分類をしていきたいと
08:21いうような要望がありこれって生成AI
08:23使ってできるんじゃないかなというご相談
08:25があったのでまこれに対して結論としては
08:28GPT3.5のファインチューニングを
08:30することによって非常に大きな成果が出た
08:32ということになるんですけどまず入り口
08:35前提はどうだったかて言うと元々は当然
08:38人間がやっていたわけですねでこのコスト
08:40に関しては資産なんですけれども例えば
08:42時給1000円で1分あたり1件できると
08:45するとま大体18元とかぐらいこれが30
08:49秒で1件できると10円ぐらいという感じ
08:51になるんですけれどもま定義表見ながら
08:54文字列を見てこれは何百種類のうちのこの
08:56パターンだこのパターンだていう風にやっ
08:58ていくのでまさすがに1分ぐらいかかるか
09:00なと見るとま20円ぐらいは人間対応で
09:03少なくともかかっているとでこれは単純に
09:06時給でずっと働き続けてもらう前提になる
09:08ので実際には採用コストであったりとか
09:11育成コスト管理コストも入ってるわけです
09:13しま人間なんで疲れてサボるみたいなこと
09:16でペースが下がるとかですねまた人間の
09:18頭数にこの処理量が比例するのである時に
09:21はスポットで増やさなくちゃいけなくて
09:22そういう部分の臨時コストかかるみたいな
09:24感じでこの処理コストにかからない
09:27いろんな管理コストであったりとか様々の
09:29があるミニマムに見て少なくともこの
09:31ぐらい処に勝っていたんですねで最初この
09:34案件を聞いた時に私が頭の中でこれで
09:37いけるかなと思ったのはプロンプトで何百
09:39パターンか定義してこれを処理するという
09:42パターンでいけるんじゃないかなという
09:43ことだったんですねプロンプトに入れる
09:46ことによって多少コストがかかるけれども
09:48人間がやるよりは多分低コストで何百
09:51パターンな何百何千も処理ができるので
09:54スピード感やスケーラビリティは人間より
09:56も高いとなので制度が出さすればコストが
10:00劇的に改善しなかったとて結構有用性が
10:03あるかなと思って最初はプロンプトの中に
10:06分類パターンを含めていくということで
10:08トライをしてましたその結果どうだったか
10:11と言と1件あたりのコストは23000と
10:13かまこのぐらいでいけるかなというのが
10:15目安でしたまトク数とかですねそういうの
10:18を計算した上でこのぐらいのコストかなと
10:20いうところだったんですけれどもい残念
10:23ながら精度が非常に低かったんですね一致
10:26率が本当10%とかそのぐらいしかなくて
10:28で理由として分類元データがあって分類表
10:32の定義に基づいて分類をするんですけど実
10:35は結構過去から培ってきた定義表では
10:38分からないこの場合にはこの分類にする
10:40みたいなこういう過去データがま10年
10:4320年と蓄積されていてそっち側を見ない
10:46と単なる文字面と定義だけでは判断でき
10:49ないみたいなケースが結構たくさんあった
10:51んですねなのでその瞬間だけ定義表に
10:54基づいて見ていけばこれという風には
10:56言えるとしても過去からの知見とか例を
10:59踏まえるとそれはちょっと難しいよねと
11:01いうことで元データーに対し定義法だけを
11:04使った分類ってのは相当残念な感じでして
11:08コストをさておき精度が低すぎてこれ全然
11:10ダメだねとでプロンプトの中に過去の例を
11:14たくさん入れ込むかということも考えたん
11:16ですけれども実はこれ数百パターンの分類
11:19タスクがさらに数十あるという結構
11:21ちょっと複雑な事業体になってましてそれ
11:24やってくるともうプロンプと作るのは大変
11:26すぎて現実的には難しいなってことで
11:29ちょっと一瞬止まったというか厳しいなっ
11:31て空気になったんですねここでファイン
11:34チューニング的なアプローチつまり
11:37いろんなパターンをモデルに学習させた上
11:39でこのパターンだったらこうというやつを
11:42過去の事例が大量にあるということは学習
11:44する過去データをまちゃんとデータを整備
11:47してあげれば簡単に使えるんじゃないかと
11:49作れるんじゃないかということがあったの
11:51でファインチューニングでやってみようと
11:53いうことを実際にやってみたんですねその
11:55結果どうなったかファインチューニングで
11:58の一見当たりコストは0.05となぜかと
12:01言うとトクをめちゃくちゃ減らすことが
12:03できましてプロンプトの場合は分類の定義
12:06を毎回のプロンプトに入れて依頼する必要
12:09があるんですけどファインチューンした
12:11AIモデルに対しては定義はすでに過去の
12:14データで学習データとして入れてるので
12:17そっちを全部はってインプットデータ元
12:19データだけ入れると過去のに合わして
12:22アウトプットの分類が返ってくるという
12:24ことができることにが分かったんですね
12:27確認ができたとそして精度結構高いと
12:3090%を超えて95%ぐらいこのトライの
12:34段階では何百種類かのデータを読み込まし
12:37て実際やってみた上で同じく何百件かのえ
12:40データに含めていないテストデータで検証
12:43したという感じになるんですけど十分
12:45すぎる高さで元々90%を超えていれば
12:48結構現実的に使えるねいう話ではあったの
12:50で95%超でこれはいけるねという感じに
12:53なりましたこのコストなんですけれどもで
12:5798%コスト避という感じですねま2円
12:59から0.05になってるのでこのプロンプ
13:03とかファインチューンかで言うと98%
13:05削減できたとま具体的なGPT4Oで
13:08プロンプトで行くかGPT3.5ターボ
13:11ファインチーンで行くかでこんだけの
13:13コストが変わりしかも精度が圧倒的に違う
13:15のでもう正直GPT4のプロトで話になん
13:18なかというのが今回の事例ですねかつ人間
13:21対応から考えるともっと劇的に99.何%
13:25のコスト削減にこれ成功するという感じに
13:28なっていて今ここまでは分かっていてこの
13:31後実際の取り組みていうのはこれから動い
13:33ていくわけなのでまこのファインチンの
13:35仕組みを作る仕組みを作ったりとか初
13:37コストはかかるわけなんですけれどもこれ
13:38を踏まえても十分に事業として使えるよう
13:41な実績がファインチーンを使うできると
13:44いうことが分かった事例でこれ非常に
13:46熱かったなという風に思っていますまそま
13:48にこういう事例どんどん作っていきたいな
13:50と1回やって思ってまして是非なんか
13:52ファインチューニング的なものでこんな風
13:54なことができるんじゃないかこれできそう
13:56かなと思った際にはご相談いただければま
13:59ちょっと議論した上でいけそうだなと思っ
14:01たらご提案しますしちょっと僕が聞いた
14:03感じ難しいかなと思ったらまできるかも
14:05しんないけど分かりませんって回答するか
14:07もしれないんですけど是非ご相談ください
14:09さてコストなんですけれどもなぜこんなに
14:11安くなるのかというところなんですがまず
14:13これがですね各モデルごとのコストの比較
14:16になりますGPT3.5ターボっていうの
14:19は今インプットプロンプトて入れるものと
14:22出てきたアウトプットいくらぐらいかと
14:23言うと1000頭君あたりのエベースの
14:26カウントになるんですけどインプットは
14:281000頭君ま大体1000文字あたり
14:300.0718000ぐらいアウトプットは
14:330.23gぐらいというのが1000文字
14:36あたりのコストなんですねこれがGPT4
14:39Oになると実は10倍ですで実はGPT4
14:43ターボはOのさらに2倍になるのでGPT
14:463.5ターボとGPT4ターボは20倍差
14:50があったんですねまこれが10倍まで
14:52狭まったというところになるんですけれど
14:53もでこれだけでも正直十分めちゃくちゃ
14:56高くないというか安い金額かなと思うん
14:58ですけれどもまとはいえ1000文字
15:00あたりインプットで0.8Nぐらい
15:02アウトプットで2.3ということで3.5
15:05ターボ比較すると結構かかりますし1処理
15:08で考えたらま0.08Nだろうが0.8
15:11NHだろうがほとんど変わんないわけです
15:13けどこれが何万何10万とか行くと当然
15:15結構な差なるわけですね10倍の差が出て
15:17くるとここでGPT3.5ターボの
15:20ファインチューニングはいくらなんですか
15:22と話なんですけどざっくりGPT4の半額
15:25ぐらいって感じですねえフチ済みのGPT
15:293.5ターボをオーAのAPIで使おうと
15:32思うとGPT3.5ターボに比べるとえ8
15:35倍ぐらいかな金額がかかるんですね7倍か
15:38な約うっすね67倍ぐらいの金額がかかっ
15:42てくるとアウトプットは4倍ぐらいですか
15:44ねっていう感じになっていましてかつこの
15:47ファインチューニングを作るトレーニング
15:48のコストがベット発生しますただ
15:51トレーニングのコストは多分そんなに高く
15:53なくこの前私が試したのはま300ぐらい
15:55のデータセットを入れて学習をさせたわけ
15:58なんですけど大体コストが本当数100円
16:00ぐらいでしたね数10円から数100円
16:02ぐらいというのがちょっとあのいくつかの
16:04プロンプトでファインチューン試したんで
16:06物によって違ったんですけどその程度なの
16:08で本当ビビたるさっていうか本当ちょっと
16:10試す人件費の方が圧倒的に高いぐらいで
16:13トレーニングコストはよっぽど何千とか
16:15学習しない限りは無視してもいいというか
16:18そこまで大したことないあのコストなんで
16:20そんなに考えなくてもいいケースが多いん
16:22じゃないかなと思っていますさてまこう
16:25いった非常にこそ優位性もあって実際使う
16:28価値があるといういうファイン
16:29チューニングなんですけどファイン
16:30チューニングができるケース向いてるケー
16:33スっていうのはどういうケースになるのか
16:35ということでま今回は分類系のタスクは
16:37もう絶対できるなという風に思ってるわけ
16:39なんですけどこれもOpenAIの公式
16:41ブログの内容を持ってきて一部私がまず合
16:44したものになるんですけど話すよりも
16:47見せる系のタスクに向いてるとどういう
16:49意味かって言うとプロンプトの中で細かく
16:51定義したりとか分類したりマニュアル作っ
16:54て説明するよりも見せた上でこれはこう
16:57これはこうこれはこうっていう風にやった
16:59方がうまくいくようなタスクさっきの案件
17:02の分類タスクは実はこういう感じだったん
17:04ですね話すつまりしっかり定義を作るより
17:07も過去の具体例をバンバン見してそっちで
17:10学ばせる方が結果良かったとまつまり定義
17:13が完璧ではなかったり元データーからは
17:15足りないような情報も含めて判断しなく
17:17ちゃいけないんで定義して説明するよりは
17:20具体例を見して過去に学ばせる方が圧倒的
17:23に成果れたという感じになりましてでかく
17:26言うとこれが向いてるケースだという感じ
17:28になります
17:29もうちょっと具体的に書いてあったのは
17:31スタイルとかトーンとかま要はその
17:33コメントとかの内容の語尾とかですねそう
17:35いうものを設定したい場合はファイン
17:37チーン向いてるあとアウトプットを特定の
17:39フォーマットにしたい場合まJSON形式
17:42とか何か形式にしたい場合はファンチーン
17:44向いてるあとは多くのエッジケースがある
17:47場合エッジケースって言葉は難しいです
17:48けど要はたくさんの細かい例ですねロング
17:51テールの例というか今回の分類で言うと3
17:54つとか4つであれば定義しっかり作り込ん
17:56だらいいわけですけど何百もあると
17:58いろんなケースがあるのでプロンプトの中
18:00には入んないわけですよねこういうケース
18:02がある場合はファインチンでそれを全部
18:04学習させちゃってAIのモデルの頭の中に
18:07もそこを置いてあげるでわざわざ
18:09プロンプトで言わなくても学習されてる
18:11こういうケースがいいとで4つ目
18:13プロンプトでのルール化が難しい場合今回
18:16で言うとま分類定義はあったんですけど
18:19分類定義にはないような過去の投資する
18:21ようなこともありましたしルールができ
18:24ないことはないけどもうすんのがめど
18:25くさいとまこういうケースの場合には
18:28ファインチンが向いていて成果出るんじゃ
18:30ないかなという話がありました実際もう
18:33ちょっとビジネスのシーンで具体的に言う
18:35と私が思ってるのはまず分類系ですねま
18:38これは間違いなく結構成果であるケースが
18:40多いかなとあとは変換系特定の文字列を
18:43特定に変えるとか特定のえ内容を特定の形
18:47に変換していくこういう変換として生成愛
18:50使うっていうのはこれから増えると思うん
18:52ですけどこの変換がえそんなにこうなんて
18:54言うんですかねその難しくないというか
18:56パターンは多いけどパターンは多くて
18:59プロンプト定義は難しいけれども過去
19:01データは一定あってたくさんやったら
19:04分かるような系こういう変換に関しても
19:06多分いけるんじゃないかなと思っていて
19:08分類系か変換系かで今結構コスト勝ったり
19:11とかプロンプトでうまくいかないこういう
19:13方はご相談いただければ多分結構成果せる
19:16んじゃないかなと思ってい
19:17ますさてこっからちょっと具体的な話に
19:20なるんですけどじゃこのファインチュー
19:21ニングってどうやってやるんですかという
19:23ことで流れが実際分かった方がイメージが
19:25開くんじゃないかなと思うので実際にオ
19:28AIの画面でデータ例を出しながらこんな
19:30風にデータを揃えて実際操作してやって
19:33いくのよということをご紹介したいと思い
19:35ますさて手はは結構簡単でしてこの4つ
19:39ですまずは学習データを準備するとでこの
19:42学習データは最低10サプル必要という風
19:45に書いてありましてもちろんまその実際
19:46やりたいことに対してパターンが多い場合
19:49はもっとあった方がいいわけですし要する
19:51にこの必要十分な学習させるパターン学習
19:54例があるのが重要という話ですねで2つ目
19:56学習データをjon化するまちょっと
19:59難しい言葉なんですけどOpenAが
20:01読み込ませる形式に変換するとまこれでも
20:03普通にあのスプレッドシートとか
20:05Excelから変換することができるので
20:06簡単ですで3つ目学習を実行するとこれ超
20:10簡単でOpenAIの場合にはOpen
20:12AIの管理画面に行ってこのJSON
20:14アップロードして名前つけるだけですで4
20:17つ目作られた新モデルを利用するでこの新
20:20モデルの利用はOpenAの管理画面上
20:22からプレイグラウンドと言ってもうその
20:24画面上からすることもできますしあとは
20:27プログラムを通じて大量に使いたい場合は
20:29APIAPIアプリケーション
20:32プログラミングインターフェイスを使って
20:33プログラムから読み出すことも簡単にでき
20:35ますまこの流れになりまして実際画面見
20:38ながらまたデータを見ながら確認すると
20:39分かりやすいかなと思うのでこれを見て
20:41いきたいと思いますさてまず元データです
20:43ねこれはまサンプルデータになるんです
20:45けれどもこれはですねま例としてはデータ
20:47の変換系でしてこういう文字列がある場合
20:50にここから特徴的なキーワードだけを
20:52抜き出して欲しいというようなタスクを
20:55ファインチューンした上で学習させたいと
20:57いうニーズがある場合にやっておりまして
20:59システムユーザーアシスタントと書いて
21:01あるんですけどこの2つがプロンプトの
21:03インプットでシステムというのは前提設定
21:05って感じですねでユーザーというのは実際
21:08そのユーザーが送るコメントでアシスタン
21:10トっていうのはAIが回答してくれる回答
21:13データを挿していましてこの3業が基本的
21:16なセットになりますえ実際にはこのマルチ
21:19ターンでユーザーとAIが何回も回答する
21:23ような感じを学習することもできるんです
21:24けどまシンプルなものはこれなのでまこれ
21:27が基本的なセットになってでExelまた
21:29はこういったスプレッドシートで整理をし
21:31ていくというのが元データの準備になり
21:33ましてめちゃくちゃ簡単ですよねま皆さん
21:35が分類とか変換とかでファインチューンし
21:37たい場合はこの3列にデータを盛り込んで
21:40やるだけです続いてこれをjonという
21:43形式に変えていきますで今回ですねこの
21:46実際このJSONファイルをま作成すると
21:49いうですねちょっとGoogleア
21:50スクリプトを作ってあるんですけれども
21:51こちら皆さんでも使えるようにあの公開し
21:54ておきますのでその公開したスプレッド
21:56シートのやつを使っていただいてえこちら
21:58の公開用ですねあのファイル自分でコピー
22:00してもらって使っていただいたらまこの
22:02拡張機能を使う作るだ使うだけでJSON
22:04ファイルを作成することができるのでそれ
22:06を使ってくださいで今のやつを押しますと
22:09こんな感じでえこうですねこれ最新データ
22:13ですけどデータアウトプットJSONLと
22:15いうファイルが落とされますのでこれを
22:18開いてもらうとこれがですねOpenAI
22:20に読み込ませるためのデータになりますで
22:24これがどういうデータかというとこんな
22:25感じですねまJSONという形式になって
22:27ましてさっき書いた3列のデータっていう
22:30のがまAIが学習しやすいような形式で
22:33こんな風になってるとまこんだけですねま
22:35指導でこれを作ることもできるんですけど
22:37もちろんすごい面倒くさいと思うので
22:39さっきのツールをま作ったり使って
22:41いただいてやるのが楽かなと思いますさて
22:44戻りまして続けてOpenAIの管理画面
22:47でこのデータアップロードしますさっきの
22:49手順3ですねOpenOpenAIのAP
22:52かなに行きましてサインアップと押しまし
22:55てログイン画面に行きますでログインをし
22:57ますまご自身のアカウントでログインをし
22:59て
23:00くださいでログインしましたらこういう
23:02画面になりまし
23:04てえダッシュボードと行くとま左側が
23:07シンプルになるかなと思うのでここから左
23:10のファインチューニングというメニューに
23:12行っていただいてここでファイン
23:13チューニングをすることができます私の
23:16会社のアカウントのテスト用だとこんな
23:17感じでいくつかパターンがあって学習済み
23:19になってるわけなんですけど新規で作る
23:21場合になクリエイトですねクリエイトをし
23:23ましてここでえ作っていきますえ学習の
23:26モデルをやっていきますで選べるのがいく
23:28つかてまずベースモデル実はあのGPT4
23:32もできますしあとは下で元々ファイン
23:34チューンしたやつをさらにベースに選んで
23:36やることもできるわけなんですけどまず
23:37ベースになるのは多分このGPT3.5
23:39ターボ0125がGPT3.5ターボで
23:431番新しいモデルでまGPT4はテスト版
23:45なのとコストが多分すごい高くなっちゃう
23:47と思うのでまGPT3.5やるケースが
23:49多いんじゃないかなと思いますでファイル
23:51を選びまして入れますでこれ名前を入れ
23:55ますテストえ
23:58変換みたいな感じで名前を入れますで
24:02シートというのはこれはえ入れなくても
24:04大丈夫です
24:05あのシードを入れるとえ同じシードを指定
24:09することでアウトプットの結果が固定さ
24:11れるみたいな機能っぽいんですけどま基本
24:14的には使わないケースこいんじゃないかな
24:15と思いますまた下側学習をどうするかって
24:18ことでどのぐらいのサイズで学習するかで
24:20あったりとかどのぐらい学習量を反映さ
24:23せるのか何回やるのかみたいなことも設定
24:26できるんですけど基本的にはオートでいい
24:28んじゃないかなと思いますちょっとこの
24:29細かいのを作り込んでるわけではないので
24:31この辺はあんまりちょっと事件ないですね
24:33さてクリエイトをしますと今アップロード
24:35したデータを使って学習がスタートします
24:38ませっかくなので実際見ますとまずこれ
24:40テスト変換と書いてあるこれが学習中に
24:42なってまして今データをチックしますよと
24:45いう感じになっていますでここからですね
24:47データが進んでいくと今入れたインプット
24:50アウトプットに対してこのインプットが
24:52どのぐらいちゃんとアウトプットうまく
24:54できるかってことをまその辺のこうなんて
24:56言うんですかね制度みたいなことをグラフ
24:58で図してくれながらこのチェックが進み
25:00ます学習が進みます実際これせっかくなん
25:03でちょっと見ながらやってあのどういう
25:05過程になるかをご紹介したいと思います
25:07大体多分このぐらいの量だったら今回の量
25:09の場合はえ30行ぐらいの短いデータに
25:12なるので多分5分ぐらいで終わると思うん
25:14ですがちょっと動画では止めていきながら
25:16適宜学習の過程を共有したいと思います今
25:20ちなみに13時49分13秒に作りました
25:23という感じですねあと今51分なんですが
25:27こんな感じでで学習がスタートしました
25:29これ縦軸がトレーニングロスというものに
25:32なりましてこの縦軸が0に近いと要は
25:35こっちが想定しているインプットを入れ
25:38たら適切なアウトプットになるというのを
25:40ま学習しながらこう調整してくれてるん
25:42ですね初期の頃はインプット入れても全然
25:45想定でないアウトプットが出ると例えば
25:48今回の場合はこのえシステムとユーザーの
25:51インプットを入れたらアシスタント2に
25:53出して欲しいんだけれどもなかなかこの
25:55想定通りは出ないという状況が初期は続い
25:58ていましてこれがどんどん学習が進めば
26:00進むほどどんどん0に近づいていきま損失
26:03が少なくなるまつまり理想的な
26:05アウトプットになりやすいという感じに
26:07なるんですねで今回多分この学習でだと
26:0990回ぐらいまで回しておしまになるかな
26:11と思うんですけどまこんな感じでだんだん
26:13進んでいき
26:15ますで今1時53分でま34分経った状況
26:20ですけどこんな感じで順調に学習進んでい
26:21ますこんな感じですねで徐々にこの
26:23トレーニングロスが0に近づいてましてま
26:26つまり学習がうまく進んであるインプを
26:28与えた場合に理想的なアウトプットに近い
26:30という風にまこのAI的な認識してるって
26:33感じですねまこんな感じで学習が住んでい
26:36ますさて終わりましたねまほと5分ぐらい
26:39ですねえ49分から始まって53分に終了
26:42とで最終見るとちょっと一瞬トレーニング
26:45のロスがあるケースもあるんですけど
26:46こんな感じでま順調に学習進んだという
26:49ログがありましてで今回作られたデータと
26:51いうのはこの3つですねチェックポイン
26:53トっていうのは途中過程のモデルが確認
26:56できるようになってましてこれを実際
26:57テストで使うこともできますさて今作った
27:00モデルまこの
27:02えテスト変換というものになるわけなん
27:05ですけどもこれを使うのにはどうしたら
27:07いいのかということなんですがえこれ
27:10え押しましてこのモデルプレイグラウンド
27:13と押すと実際この管理画面上で使うことが
27:16できます左がえ学習してないGPT3.5
27:19ターボ右が今学習した新しいモデル変換と
27:24やったところのモデルですねちょっとこ
27:26たくさん並んでくるんでょ分りづいんです
27:28けどまテスト変換と書いてあるバージョン
27:30えステップ6030って書いてあるのは
27:32途中過程なんで違うという感じですねさて
27:35じゃこれどうやってすかと言とさっきの
27:37システムですねシステムにさっきのものを
27:39入れましてで次この文字列を入れるとで
27:43これ比較ができまして送ると2つのえ
27:47モデルでそれぞれ実行されるわけなんです
27:49けどこんな感じでえ左側というのは学習し
27:52ていないAIになりましてまこっちも
27:54頑張ってやってくれてますけどこっちが
27:56想定するようないらない持続可能なとか
27:59確信的といったこう収束値が入っちゃっ
28:01てると一方で右側はそれを除いたデータで
28:05学習しているのでそれが入らないま綺麗な
28:07単語というか欲しい単語は抽出できてるま
28:10これによって学習前と学習後のモデルが
28:14全然違うということが分かりますさてこの
28:17モデルですが今のようにプレイグラウンド
28:19管理画面上からも使えますしプロからも
28:22使うことができるので実際こう仕事でする
28:24際にはあれで作って試してみた上でうまく
28:26いったモデルがあったらささきのAIの
28:28モデルを指定するとプログラムから
28:30読み出すことができるので何百何千と大量
28:33に回してもすぐに実行できるという感じに
28:35なるわけですねということでこのような
28:37感じで非常に簡単です実はやることとして
28:39もあの実際にやり方を知っていて私は最初
28:41ハードルあったんですけどやって試せる
28:43試す状況でハードル下がるとめちゃくちゃ
28:46現実的ですごくいい手法になるんじゃない
28:48かなと思うので是非適時どんな風に活用
28:51できるのかを検討いただけるといいかなと
28:53思いますえということで簡単に告知をさせ
28:56てくださいまず7月の17し生成AI
28:59サミットVol2を行いますVOL2では
29:01様々なインフルエンサーであったりとか
29:03企業の方また海外のAI詳しい方にご登壇
29:07いただいて最新のAI活用事例なんかお
29:09話しするので是非応募よろしくお願いし
29:11ます無料ですのでお楽しみにまた会社の方
29:14では様々な制裁活用しをやっていますま
29:16登壇であったり研修であったりしてるん
29:18ですけれも実は今回のように結構がっつり
29:21ファインチーンやってみたりとか最初の
29:23POC的なトライをアドバイザリーで
29:25入らしてもらってこちらも一定手を動かし
29:28ながらま前回の場合もこういうデータの
29:30モデルとかやることはこちらで提案させて
29:32もらってじゃあその元データをこういう風
29:34に1回修正というか用意してくださいとで
29:36もらったらこっちでファインチーン試して
29:38みて結果を検証してて渡すみたいなことも
29:41実はこの枠組の中でやっていまして変に
29:43こうなんかその開発とかでがっつりやる
29:45よりは非常にローコストで実際ビジネスで
29:48使えるかどうかっていうレイヤーから議論
29:49してご一緒ができるかなと思うのでそう
29:51いうニーズがある方は是非お相いただけれ
29:53ば幸いですあの会社のホームページも
29:55大丈夫ですしYouTubeの概要欄に
29:56問い合わせのフォームも会社のURLも
29:58ありますのでそちらからご覧いだけ幸い
30:00ですまたLINEの公式アカウントでは
30:02毎週のAIニュースやイベントのご案内し
30:05ているので登録をよろしくお願いします
30:06YouTube動画日々発信しておりまし
30:08て様々なプレイリストも作ってまテーマ
30:10ごとにまとめておりますので特に初めて
30:12知りたい方とかっていうのはチャット
30:14GPT活用最初に見て欲しい動画群とま
30:17これだけでも10時間ぐらいあるんです
30:18けどバーっと見てもらうと体型的に
30:20ノウハウとかビジネスの活用方法が分かる
30:23んじゃないかなと思いますえということで
30:25本日の内容以上になりましてありがとう
30:27ございましたえファインチューニングと
30:29いうちょっとマニアックなテーマになるん
30:31ですけれどもそ私自身も自分で試す前まで
30:34は言葉は知ってるんだけどそんなうまく
30:37いかないんじゃないのて正直思ったんです
30:39よねところがやってみてめちゃくちゃせか
30:41だとこれやばいなとファインチューニング
30:44が適用できる箇所でやらない手はないなと
30:46トークン数も減らせるし精度も出るしいい
30:49ことづくしとことでま特に分類とか変換に
30:53関しては多分使わないではないかなとで
30:55実際ビジネスの現場で言うとまある業務
30:58フローがあった場合に特定の分類とか変換
31:00とか都修正みたいなところだけファイン
31:03チン済みのAIを使っていきもうちょっと
31:06こう複雑なやつに関してはGPT4Oとか
31:09のモデルで処理していきまたルールベース
31:11でできるものはルールベースでしていく
31:12もしくは人間がするとまこれをうまく
31:14組み合わせながら特に数が大きい大変な
31:17ところに関して今回のファイン
31:19チューニングのやり方を適用できると
31:21かなり大きな成果出るところがたくさん
31:23あるんじゃないかなと思うので是非まこう
31:25いう案件増やしていければなと思いますし
31:26まご相談も関係ですましっかり情報提供し
31:29てやる方が増えていくのがいいんじゃない
31:31かなと思ってるので今回の動画参考になれ
31:33ば幸いですいいねコメントもよろしくお
31:35願いしますそれではまたお会いし
31:39ましょうリモートワーク研究所では
31:42リモート時代に活躍して稼ぐためのツール
31:46の使い方やノウハウをどんどんご紹介して
31:49いきます是非チャンネル登録していただい
31:51て私と一緒に学んでいき
31:56ましょうJA
Ver Más Videos Relacionados
【総集編】GPT-4oの教科書【使い方、活用方法を解説！】
大学・研究機関で 生成 AI の活用にお悩みの全ての方々へ、業務の負荷軽減・効率化に向けたご提案
50 Day 2024 - Stephan Hadinger (AWS) & Julien Simon (Hugging Face)
Can ChatGPT work with your enterprise data?
メタプロンプトを知るものがプロンプトを制す～ChatGPTの活用力を一段上に上げるために絶対に知っておきたいテクニック
生成AIアプリが作れる「Dify」の入門＆ビジネス活用～ビジネスパーソン必見！GPTsを超える業務特化アプリが簡単につくれて配布もできちゃう…！
5.0 / 5 (0 votes)
