OpenAIのGPTsより凄い!無料で使えるDifyを徹底解説してみた
Summary
TLDRこの動画では、DEFYというOpenAIのGPTに上位互換性を持つサービスを紹介しています。DEFYを使うことで、プログラミングを知らなくても、言語モデルを使ったアプリケーションを簡単に開発できるという利便性を強調しています。また、APIサーバーとして公開し、外部アプリケーションと連携させることができる機能も紹介されています。さらに、チャットボットの作成方法や、高度な機能を用いたアプリケーションの開発方法も詳しく説明されています。最後に、DFのアプリを使ってアプリケーションを開発し、実際に動作する様子を見ることができます。この動画は、言語モデルを活用しようとする人々に、非常に有益な情報を提供しています。
Takeaways
- 📈 DEFYはOpenAIのGPTと上位互換性のあるサービスで、高度なチャットボットの作成やAPI活用が可能です。
- 💡 DEFYはプログラミング知識がなくても、言語モデルを使ったアプリケーションの開発が容易に行えます。
- 🌐 DEFYはオープンソースで、クラウドサービスとして利用もしくは自分のサーバーでセットアップすることが可能です。
- 📚 DEFYを使用することで、様々な言語モデルを組み合わせて使用し、高度な機能を設定することが可能です。
- 🤖 DEFYで作成したチャットボットはAPIサーバーとして公開でき、外部アプリケーションから利用可能です。
- 📊 DEFYのダッシュボードでは、アプリのパフォーマンスやユーザーの満足度などの分析情報が確認できます。
- 📝 PDFやテキストファイルをナレッジとして設定し、言語モデルが参照して回答を生成させることができます。
- 🔍 DEFYの検索機能を使って、ナレッジに設定したPDFの中から関連性の高い情報を探すことができます。
- 🛠️ DEFYのツール機能を使えば、外部APIとの連携が可能で、様々なサービスを簡単に組み合わせ应用できます。
- 📝 DEFYはテンプレート機能も豊富で、既存のテンプレートをカスタマイズして独自のアプリケーションを開発することが容易です。
- 📉 DEFYは利用回数に基づく課金モデルとなっており、使用頻度が低い場合はコストを削減できる可能性があります。
Q & A
DEFYプロジェクトとは何ですか?
-DEFYはOpenAIのGPTの上位互換サービスで、言語モデルを活用したアプリケーションを簡単に開発・公開することができるプラットフォームです。
DFアプリのソースコードはどこで公開されていますか?
-DFアプリのソースコードはオープンソースで、GitHubなどのリポジトリサイトで公開されています。
DFアプリを使わずに独自のチャットボットを開発する場合、どのような知識が必要です?
-APIを使ったプログラミング知識が必要です。また、言語モデルを組み込むための技術的なスキルや、入力のログ管理などを行うためのプログラム開発能力が求められます。
DFアプリのクラウドサービスと自分で環境を作って使う場合の違いは何ですか?
-クラウドサービスを使えば、サーバーの用意や管理がDF側で行われるため、手軽に利用できます。自分で環境を作って使う場合は、サーバーのセットアップや管理が必要で、プログラミング知識が必要ですが、より柔軟性があります。
DFアプリで言語モデルのAPIキーを設定するにはどうすればよいですか?
-APIキーは、各言語モデルプロバイダーのサイトから取得することができ、DFアプリの設定画面でモデルプロバイダーを選択し、APIキーを入力して設定します。
DFアプリを使ってチャットボットを作成する場合、どのような流れで行われますか?
-まずアプリを作成し、システムプロンプトを設定します。次に、モデルの選択とパラメーターの設定を行い、ユーザー入力に対する回答を生成するプロセスを構築します。最後に、テストを行い、公開して利用者が使用できるようにします。
DFアプリのチャットフローとは何ですか?
-チャットフローは、DFアプリでユーザーと会話しながら言語モデルに処理をさせるアプリケーションを作成する機能です。マインドマップのようなインターフェースで、ノードを設定して会話の流れを構築します。
DFアプリで作成したチャットボットをAPIサーバーとして公開することはできますか?
-はい、可能です。DFアプリを使用すると、オリジナルのチャットボットをAPIサーバーとして公開し、プログラムから利用できるようにすることができます。
DFアプリのナレッジ機能とは何ですか?
-ナレッジ機能は、PDFやテキストデータなどの独自の情報を言語モデルが参照できるように設定する機能です。これにより、モデルは設定されたナレッジを活用して、より正確な回答を生成することができます。
DFアプリで外部アプリケーションと連携させるにはどうすればよいですか?
-DFアプリのツール機能を使うことで、外部のAPIやサービスと連携させることができます。独自のAPIスキーマを記入してカスタムツールとして設定することが可能です。
DFアプリを使って高度なチャットボットを作成する際の利点は何ですか?
-DFアプリを使うことで、プログラミングを知らなくても高度なチャットボットを開発できます。また、様々な言語モデルを使い分けたり、外部サービスと連携したりといった柔軟な機能を利用できるため、応用範囲が広くなります。
Outlines
😀 DEFYプロジェクトの紹介と使い方
第1段落では、DEFYプロジェクトが話題に挙げられており、SNSで注目を集めているサービスであることが説明されています。DEFYはOpenAIのGPTの上位互換サービスで、カスタマイズされたチャットボットの作成や公開が可能です。また、GPTの使い方や、プロンプトの設定による使い分け方についても触れられています。
📚 DEFYの高度な機能と言語モデルの活用
第2段落では、DEFYの高度な機能が紹介されており、プログラミングを知らない人でも簡単にチャットボットを作成できる利便性に重点が置かれています。また、DEFYで使用可能な言語モデルの多様性や、料金構成についても説明されています。
💻 DEFYアプリケーションのセットアップ方法
第3段落では、DEFYアプリケーションのセットアップ方法が詳しく説明されています。クラウドサービスの使用方法と、自分で環境を構築する方法の2つの方法が紹介されており、必要なスペックやセットアップ手順についても触れられています。
🔍 DEFYでチャットボットを作成するプロセス
第4段落では、DEFYアプリケーションを使ってチャットボットを作成するプロセスが詳細に説明されています。システムプロンプトの設定、変数とコンテキストの活用、モデルの選択とパラメーター設定、そして実際の動作確認までが網羅的に扱われています。
📈 DEFYのAPIアクセスとログ分析機能
第5段落では、DEFYのAPIアクセス機能とログ分析機能が紹介されています。APIサーバーとしてチャットボットを公開し、プログラムから利用できる方法や、会話履歴の確認、ユーザー満足度などの分析情報が説明されています。
🛠️ DEFYのナレッジ設定とツール連携
第6段落では、DEFYのナレッジ設定と外部アプリケーションとの連携方法が説明されています。PDFなどのテキストデータをナレッジとして設定する方法や、Google検索などのAPIを利用する際の認証設定についても触れられています。
🤖 高度なチャットボットの作り方とテスト
第7段落では、DEFYのスタジオ機能を使って高度なチャットボットを作成する方法が紹介されています。チャットフローの構築、言語モデルの設定、そして作成したチャットボットのテスト方法が詳細に説明されています。
📝 DEFYの機能紹介とテンプレート活用
第8段落では、DEFYで使える機能の紹介が締めくくられており、テンプレートから作成する方法が提案されています。また、作成されたチャットボットの動作確認と、アプリの公開についても触れられています。最後に、感想やコメントの呼びかけが行われています。
Mindmap
Keywords
💡マインドマップ
💡DEFY
💡APIキー
💡チャットボット
💡GPT
💡言語モデル
💡オープンソース
💡プロンプト
💡カスタマイズ
💡ワークフロー
💡クラウドサービス
Highlights
マインドマップのような画面が表示される。
DEFYはOpenAIのGPTの上位互換サービスで、既存のGPTを強化したもの。
DEFYはオープンソースで、言語モデルを除くすべては無料で利用可能。
チャットボットの導入が企業で活発で、DEFYはそのプロセスを簡素化。
DEFYを使用すると、プログラミング知識なしで高度なアプリケーションを開発可能。
DFのアプリはアップデート頻度が高いため、操作画面は変動する可能性がある。
APIキーを設定することで、様々な言語モデルをアプリに組み込むことができる。
チャットボットの応答は、ポジティブでネガティブな表現は避ける設定が可能。
ナレッジ機能を使用して、PDFなどのテキストデータを参照できる。
高度なチャットボットは、ユーザーの質問に応じて異なるモデルで回答生成が可能。
DFはGoogleのGEMなどの他の言語モデルもサポートしている。
DFのクラウドサービスと自前のサーバーでの使用が選択可能。
DFアプリはローカルホスト上で動作し、インターネットサーバーにセットアップ可能。
APIサーバーとしてチャットボットを公開し、プログラムから使用可能に。
ログ機能を使ってユーザーの会話履歴を確認、管理することができる。
料金は使用頻度に基づく従量課金制で、低い使用頻度で安く利用できる。
言語モデルと外部検索ツールを組み合わせて独自のアプリケーションを構築可能。
DFの機能を効果的に使用することで、技術検証やサービス提供が簡単になる。
DFの使い方と活用方法がLINE公式アカウントで提供されている。
Transcripts
はいこれで作成するとマインドマップ
みたいな画面が出てきますクロド3につい
て教えてくださいという風に入力すると
めちゃくちゃダダダダと皆さんこんにちは
ニャンタですえ本日はDEFYがすごいと
いうテーマで話していこうと思いますえ皆
さんDefっていうプロジェクト聞いた
ことあるでしょうか最近SNSでは結構
盛り上がってるのでなんとなく聞いたこと
あるなって人もいるかもしれませんで個人
的にはこのDは今後めちゃくちゃ流行っ
てくんだろうなって思うぐらい便利な
アプリケーションになっていますで簡単に
言うとDEFYはえOpenAIのGPT
のえ上位互換にあたるとえそういった
サービスになっていますまなのでえ普段
からGPT使ってるよって人はこちらの
DEFYのサービスを知っておくと良いか
もしれませんgpdsの上位互換っていう
風に言われてもまそもそもGPTって何
だっけとか何が便利なんだっけっていう人
もいるかもしれませんGPTSは去年
リリースされたオーAIのサービスになっ
ていて自分専用にカスタマイズした
チャットボットを作ることができるえ
サービスになっていますで他にも開発した
チャットボットをえみんなに公開すること
ができるのでいろんな人が開発した
チャットボットを使うということもでき
ますえ例えばウェブサイトを作るのに特化
したチャットボットだったりとか図を書く
のに特化したチャットボットだったりとか
いろんなものが出ていますでこういう風に
誰かが作ったチャットボットを使うという
のももちろん便利なんですけども個人的に
はそこまで使わないなという風な感じが
あります皆さんは普段から使ってるGPT
とかあったりするんでしょうかはい仕事と
かでも使いたいという風に考えると地に足
ついたえGPTの使い方としてはこんな
感じでえ自分が使う用途に応じてそれぞれ
プロンプトを設定しておいてえ使い分ける
とそういったところかなという風に思い
ますで毎回プロンプトを書いてくっていう
のはかなり面倒くさいんですけどもこう
いう風に一度設定しとけばずっと使うこと
ができるので結構便利かなという風に思い
ますで今回紹介するDFというのはえ
そんなgpdsの機能をさらに強力にした
ものになっていますアプリを使うための
ソースコードがえ全てオープンソースで
公開されてるので言語モデルを使うところ
以外は無料で使うことができますで本日は
このDFの機能について誰でも分かるよう
に解説していきます言語モデルを便利に
使いたいという人は是非見ていって
もらえればと思いますえそれでは早速やっ
ていき
ましょう最初にえDFの何がいいのかと
いうことについて簡単にまとめていきます
え現在多くの企業で言語モデルを活用
しようとしてると思うんですけども最も
やられてるのがチャットボットを導入する
ということかと思います
皆さんも仕事の中でチャットボットを導入
したいとかそういった取り組みに参加され
てたりするんでしょうかでこのチャンネル
を見てくださってる方はま生成AIについ
てかなり詳しいと思うんですけども普通に
働いてる人はまだまだチャットGPTを
触ったことがないという人が大部分だと
思いますのでまずは簡単なチャットボット
を導入しようというフェーズのところが
多いかと思いますでもう少し活用が進んで
いくとまカスタマーサービスのQ&台とか
ですねお客さんからの問い合わせに対して
え言語モデルを使ってえ自動で回答する
ようなそういったことをやろうとしてる
ところも多いかと思いますでこういう
カスタマーサービスとかに使おうとすると
自分の会社の情報を元に回答を生成する
必要があるのでラグと呼ばれる仕組みが
必要になってきますラグの仕組みを知り
たいなって人はこちらの動画で解説してる
ので興味があったら見てみてくださいで
普通のチャットボットとかえラグを使った
チャットボットを作ってお客さんに
サービスとして提供しようという風に考え
た時に大きく分けて2つのやり方があるか
と思いますで1つがえ冒頭でもあったえ
GTSを使う方法ですねでこれは事前に
独自の情報を設定したチャットボットを
作っておいてそのチャットボットのURL
をお客さんに渡して使ってもらうとそう
いった形になるかと思いますただこの
パターンはえ結構制約が厳しくてまず
GPTを使うにはえ現在CATGPTの
有料版に加入しないといけませんなのでお
客さん全員にえ有料版に加入してもらうっ
ていうのは結構厳しいんじゃないかなと
いう風に思います他にもGPT4が使われ
てるのでえ利用回数の制限がだったりとか
お客さんが入力したえプロンプトの情報と
かえどれぐらい使ってるのかとかそういっ
たログの管理ができないとか色々使い
にくいところがあるかと思いますでそう
すると次の2つ目の選択肢としてAPIを
使ったえ独自のチャットボットを開発する
とえそういった流れになるかと思いますで
APIっていうのはえプログラミングから
言語モデルを使用するサービスになってい
てAPを使うことができれば言語モデルを
自分のサイトのサービスに組み込むとか
そういったことが自由にできるようになり
ますでさっき言ったようなえユーザーの
入力とか利用頻度とかプログラムを書けば
管理できるので言語モデルを使った
サービスを本格的に提供したいという場合
は自力で開発するというパターンになって
くるかと思いますでただしえ当然開発して
いくのでえプログラミングの専門知識が
必要になってきますで専門知識がないので
じゃ外注しましょうっていう話になると
できるかできないかのえ技術検証をする
だけでも大体300万とか500万とか
それぐらいかかってくるかと思いますまま
そもそもうまくいくかわからない中でそう
いった額はなかなか払いにくいですよね
そこで今回紹介するえDFのサービスに
なっていますでこのDFを使うとえ難しい
プログラミングのコードを書かなくてもえ
簡単にチャットボットを作ってえ外部に
公開するということができますまなのでえ
プログラミングが書けないよって人でも
このDFの使い方をマスターしていけば
簡単に言語モデルを使ったアプリを開発
することができますで私は一応
プログラマーでえコードは書いてるんです
けどもそれでもえちょっとしたチャット
ボットを作るというのも結構面倒くさかっ
たりするのでこのDFを使ってま
ちゃちゃっとチャットボット作ってどれ
ぐらい精度出るのかなってのを確認するの
も良い使い方だなという風に感じますで
DFではえ普通のチャットボットとかラグ
を使ったチャットボットとかそういった
ものよりもよりレベルが高い高度な
チャットボットも作ることができますで
高度なチャットボットって何だという人も
いるかもしれません例えばえユーザーの
質問が来た時にえ難しい質問に関してはえ
GPT4とかえCL3のオーパスとかそう
いった強いモデルを使って回答を生成させ
たりとか簡単な質問に関してはえグロック
のRAM3のモデルを使って高速に答えさ
せたりとかでそういったことが簡単にでき
ますで他にもえここでは紹介しきれない
ぐらいいろんな機能が設定できるのでこの
後実演して説明したいと思いますで分かり
やすいDFのすごいところとしてはえ主要
なモデルが全部使えるというところがあげ
られますでGPTではOpenAIの
モデルしか使えないんですけどもえDFで
はこんな感じでアンソロpiicの
クロードだったりとかGoogleのえ
GEMとかですねいろんなモデルを使う
ことができます皆さん最近はどの言語
モデルをメインで使ってるでしょうか少し
前に紹介したグロックのRAM3とか
コマンドRPlusとかいろんなモデルが
最近出てきてるのでそういったモデルを
使ってるという人もいるかと思いますあと
はえ会社で使ってる人はルOpenAIと
かえAmazonのベッドロックとかそう
いったクラウドベンダーが供してる
サービスを使ってるという人も多いかと
思いますでここにもあるようにえDFでは
えそういったサービスにももちろん対応し
ていますはいそしてえ気になる料金になり
ますえまずえDFのサービスを使おうと
すると大きく開けて2つの方法があります
1つがえクラウドサービスといってdfy
の方で用意した環境を使うという方法に
なりますでdfiのアプリ自体はえ
オープンソースでえコードが公開されてる
んですけどもそのアプリケーションを
動かすためのサーバーが必要になってき
ますでそれをDの方で用意してくれて
そちらを使うということもできるという
わけですねで利用回数に応じてえこんな
感じでいろんなプランを選択できますで
サーバーの用意とか一切したくないという
人は無料枠でも何回が使えるのでこちらを
使ってみるといいと思いますで2つ目の
DFの使い方がえ自分でサーバーを用意し
てえそこでDFのアプリケーションを
セットアップするという方法になりますで
こちらはえ多少プログラムの知識が必要に
なってきますただえドッカーとか聞いた
ことあるという人であればめちゃくちゃ
簡単にセットアップできるので自分で構築
した方がいいんじゃないかなという風に
思いますえドッカーとか分かるよって人に
向けて説明するとドッカーコンポーズの
ファイルが用意されてるのでドッカー
コンポーズAppで1発でローカルに
サーバーを立ち上げることができます
すでに自分のパソコンにドッカーが入っ
てるという場合は本当にすぐにできると
思うので自分でのセットアップがおすめ
ですノートパソコンで全然動くレベルなの
で自分で動かしたいなって人は少し
ドッカーの導入方法を調べてみると自分で
セットアップできるのでいいと思います
はいここまで聞いてどうでしょうか
ちょっとまだ実演をしてないのでイメージ
ができないという人も多いと思うんです
けども使った感じめちゃくちゃ便利で今後
えもっと話題になりそうだなっていう風に
感じましたで特にえプログラミングを書か
なくてもかなり高度なアプリケーションを
作れるのでDFをマスターしておけば言語
モデルを使った技術検証の仕事とかも結構
できるんじゃないかなっていう風に思い
ますえまたえ個人で使う場合でもdfyの
アプリは結構いいんじゃないかなと思い
ますえ例えばチットGPTに月3000円
払ってるけどそんなに使用頻度が高くない
よとかCL3も使ってるので6000円
かかってしまってるよとかそういった人も
いると思いますでDYだとえ使った分だけ
課金されるえ重量課金性になってるのでえ
使用頻度が低いという場合はDYで2つの
モデルを使った方が安くなりそうだなって
いう風な感じがします他にも言語モデルと
外部の検索ツールとかも組み合わせられる
のでperplexTAIみたいなものも
自前で作ることができますはい色々とDF
について紹介してきたんですけども実際に
使ってみると分かりやすいと思うので続い
てえ使用方法について解説していきます
またえLINE公式の方でDFの使い方を
まとめた資料をプレゼントしてるので興味
がある人は概要欄のリンクから友達登録し
てプレゼントというキーワードを入力して
もらえれば自動で資料が送られるようにし
てるので是非見てみてくださいそれでは
早速やっていきましょう
はいそれではDFのアプリを使っていき
ますでDFのアプリ使うには先ほども言っ
たように2つの方法があってDFの
クラウドサービスを使うという方法と自分
で環境を作ってそこから使うという方法が
ありますでDFという風に検索して
もらえるとこちらの公式のページが出て
くると思うのででクラウから使ってみたい
という人はえこちらのゲットスーテですね
こちらを押してもらえるとGoogle
認証とかでアカウントを作成できますで私
はえ自分で環境をセットアップしてそちら
から使っていきたいと思いますでこちらの
gitHUBの方からえ下の方に行って
もらえる
とDFについて色々と書かれていてえ
こちらですねクイックスタートのところに
dfyのアプリを動かすための最低限の
スペックだったりとかえセットアップ方法
について書かれていますでスペックを見る
とえメモリが4G以上あれば使えるという
とこだったのでおそらく皆さんのパソコン
で動かせるんじゃないかと思いますで
セットアップ方法に関してでもドッカーが
使える環境であればドッカーコンポーズ
アッでえ簡単にセットアップができます
はいでドッカーでセットアップが完了し
たらえこのローカルホストにアクセスすれ
ばdfyのアプリが立ち上がりますこちら
がえdfyのアプリのホーム画面になって
いますでセットアップすると最初に
アカウント作成をする必要があるので
そちらを登録してえログインしてもらえる
とこういった画面に遷移するかと思います
で最初にまずこのDF上でえ言語モデルを
使ったえアプリを作っていくので使いたい
モデルのAPIキーというものを設定して
いきますでAPIキーっていうのは
プログラムからえ言語モデルを使用する時
に使うパスワードみたいなものになってい
ます設定方法はこの右上のところからえ
設定をしてもらえればこんな感じの画面が
開くかと思いますこれのえモデル
プロバイダーとこですねこちらを押して
もらえるとちょっとアップしますかこう
いった感じでえいろんな言語モデルの設定
が選べますで今私の方はえOpenAIと
コヒアとglockclodのAPIキを
設定してるのでこの3つのモデルに関して
はアプリに組み込むことができますで他に
もえアスロピックのモデルとかジェミニの
モデルとかえいろんなモデルが選択できる
のでこのモデル使ってみたいなってのが
あればえこちらから設定してもらえればと
思いますで簡単にセットアップ方法もえ
紹介しておくとえ例えばこのアロピックの
モデルを使いたいとなったらこちら
セットアップをしてもらってえここにです
ねGetYourAPIKefroman
piicという風に書かれてるのでえ
こちらからですねアクセスしてもらって
自分のえアスロピックのえアカウントに
ログインしますでログインできたらえ
クリエイトキーというのがあるのでえ
こちらを押してもらってえ適当にですね
dfyとか名前をつけてもらえればえ
APIキーが発行でき
ますでこのAPIキーは他の人にバレて
しまうとえ勝手にモデルが使われるのでえ
注意してくださいでこのAPIキをコピー
したら先ほどの画面に戻ってえこちらです
ね貼り付けして保存をし
ますはいそうするとこのモデルのところに
えアンソロピックのモデルが追加されまし
たこれでアンソロピックのモデルも使える
ようになりました最低限必要なモデルの
設定は終わったのでえ閉じておきますはい
続いてえチャットボットを作っていき
ましょうあちょっと言い忘れてたので
えっと言語の設定もしておきます今日本語
で全て表示されてるんですけどももしかし
たら英語で表示されてるという場合はこの
右上のところですねこの設定のところから
え言語のとこ選んでもらってえここを日本
語に設定してもらえれば全て表示が日本語
になるかと思いますはいそれではアプリの
方を作っていきますでちょっと言い忘れた
んですけどもこのDFのアプリはえかなり
更新頻度が高いのでもしかしたら動画を見
てる時期によってはえUIが全然違ってる
というところもあると思うのでそちらはご
了承いただければと思いますで基本的な
流れに関してはまそこまで大きく変わら
ないのかなという風に思いますでアプリを
作成するにはから作成というのとえ
テンプレートから作成というのがあります
で最初はテンプレートから作成にしても
よくわからないと思うので真っさらな状態
から作っていきますえこちらのから作成を
押しますはいそうするとえどのタイプの
アプリを作成しますかという風に出てき
ますでチャットボットとテキスト
ジェネレーターとえエージェントと
ワークフローという4つが今ありますで
このチャットボットっていうのはま
チャットGPTみたいなおそらく皆さんが
イメージするようなえチャットボットの
アプリになっていますでこのテキスト
ジェネレーターっていうのはえチャットで
はなくて1度の入力を処理するとかえそう
いった時に使われるアプリのタイプになっ
ています例えばえ何かの要約とか翻訳とか
をしたりとかえそういった場合はこちらの
テキストジェネレーターが向いてると思い
ますあとはエージェントというのがあり
ますでこのエージェントってのはえ
OpenAIのAPI使ってる人は
イメージ付きやすいと思うんですけども
ファンクションコーリングのような何かの
ツールと連携させるようなえそういった
使い方をしたいという場合はこちらの
エージェントを使っていきますでこの
ワークフローっていうのが今ベータという
風になってるんですですけどもえ最近出た
機能になっていてえちょっと言葉では説明
しにくいんですけどもえ何らかの決まった
処理を特にチャットとかをせずに行いたい
場合に使われるそういった
アプリケーションのタイプになっています
ちょっと難しいと思うので後ほどですね
このワークフローと似たタイプのこの
チャットボットのこのチャットフローと
一緒に解説していきたいと思いますまずは
どんなものかということでこのチャット
ボットを選んでチャットボットのえこの
基本から作っていきますはいここにですね
アプリの名前を入力していき
ますニャンタアプリでニャンタアプリで
いき
ますしてくれる
ニャンタのように返信してくれるチャット
ボットと設定してえ作成するを押します
はいそうするとこういった画面に遷移し
ましたまちょっとこの時点でま難しそうだ
なっていう風に感じた人もすごく多いと
思うんですけども1個1個丁寧に説明して
いきますでちょっと日本語になっちゃっ
てるので分かりにくい部分もあるかもしれ
ないですですけどもこの手順というのが
言語モデルを使う時のシステムプロンプト
のようなものだと思ってもらえばいいと
思いますなので例えばここにこのニャンタ
アプリとしてえどういう風に振る舞って
欲しいのかというのを設定しますはい今
こういう風に設定しましたえあなたは
ニャンタというキャラクターのAIですと
でユーザーの入力に対してニャンタのよう
に返信を生成しますとでニャンタは語尾に
えこの顔文字をよく使いますとで基本的に
ポジティブでネガティブなことは言いませ
んという風な設定をしますはいこれで
システムプランプの設定が終わりました
あとはえ変数というものとえコンテキスト
というものが設定できますでこの変数って
いうのはま実際に使ってみるとえイメージ
湧きやすいんですけどもえユーザーがこの
公開したチャットボットを使う時にえこの
変数の値を入力してもらってそれがこちら
のプロンプトの方に埋め込めるというもの
になっていますちょっとよく分からないと
思うので一旦変数の方は無視してえ後ほど
見ていきますでこちらのコンテキストと
いうのはPDFとかをアップロードできる
ものになっていてこの追加のところから
ですねすでににアップロードしておいた
PDFをえ参照することができます例えば
今だったらえjemiPro1.5のえ
論文のPDFをアップロードしていたので
そちらを設定できるというわけですねはい
今は一旦いらないのでえキャンセルをし
ますで他にもこの機能を追加のところから
会話を開始する時の選択肢だったりとか
AIが出力した後に次の会話の候補とか
ですねパテAIとか使ってる人はえ
イメージできると思うんですけどもまそう
いったもの出したりとかテキストからえ
音声にしたりとかか音声入力できたりとか
あとはラグの引用元とかですねえ設定する
ことができます一旦今回はなしでアプリの
方を作っていきますはい続いてこの右上の
ところでえモデルを選択できます今GPT
4が選ばれてるんですけどもこちらですね
先ほどAPIの設定をしたえ会社のモデル
が色々使えますでコマンドRに関してはえ
モデル名まで一緒に入れないとアクティブ
化されないようですでちょっとGPT4
高いのでGPT3.5のターボに設定して
おきますでモデル設定したらモデルを使う
時のパラメーターも設定でき
ますあとですねちょっと難しいんですけど
もAPIを使うとJSONフォーマットで
出力するとかえそういったこともできるの
でここで設定することができます今一旦
ですねこのままでモデルの選択をしていき
ますはいこれでえプロンプトの設定とかえ
モデルの選択が終わったので実際にこの
チャットボットがどういう風な挙動で動く
のかというのをえ確認することができます
それが右側の方でですねテキストボックス
があるのでこちらでまこんにちはと打って
み
ましょうはいそうするとまにゃんにゃん
こんにちはにゃんということで愉快な返信
が返ってきましたでここら辺のデバッグに
関してはGPTずとかなり似てるのかなと
いう風に思いますでこれでいいなっていう
風に思ったらこの右上のところから公開
するでえ更新ですねを押し
ますはいそうすると公開済みになったので
続いてえアプリを実行し
ますはいそうするとこんな感じの画面が
開きますでこれがえ先ほど設定した
プロンプトとかモデルが反映されている
チャットアプリになっていますでなのでえ
チャットボットを開発する人はえ先ほどの
画面で色々設定してあげてユーザーに対し
てはこのチャットボットのえURLを渡し
てあげるとえそういった感じで使えるかと
思いますなので今ユーザー目線でのこの
ニャンターアプリの使用感を確認すること
ができますスタートチャットを押し
ましょうはいそうするとチャットGPT
みたいな感じでえチャットできます
おはようと打ってみるとこんな感じですね
プロンプトが設定されてるのでニャンタっ
ぽい返信が返ってくるというわけですねで
新しい会話にしたいなって場合はこの
ニューチャットからまた新しくですね
セッション開けるのでチャットGPTとか
と同じようにセッションごとにチャットの
話題を管理することができますはいこんな
感じで簡単にチャットボットが作れると
いうのでかなりすごいなと思うんですけど
も皆さんどういう風に思いますかまこれ
ぐらいだったら驚かないよという人もいる
と思うのでもう少し細かくできることに
ついで見ていきますはいまず先ほどの設定
画面のところに戻ってみると左側の方に
ですねAPIアクセスとかえログ
アナウンス概要ってのがありますでこの
APIアクセスの方を見てもらうとはい
こんな感じでAPIサーバーということで
先ほど作ったえチャットボットのAPI
サーバーが立ち上がっていますでこれどう
いうことなのかと言うとま言語モデルを
使う時にまAPIと言ってプログラムから
使うことができるという話があったんです
けどもえ先ほど作成したオリジナルの設定
のチャットボットをAPIサーバーとして
公開できるということになりますまなので
少し難しいんですけどもCloud環境と
かにこのDFのアプリを搭載してAPI
サーバーとして立ち上げてこのAPI機を
渡してあげればえプログラムから先ほど
設定したオリジナルのチャットボットを
使えるというわけですねでこれも自分で
やろうとしたらえ実装したりとかえここら
辺のドキュメントの整理とかもですね
すごく面倒くさいと思うんですけども
すでに出来上がってるのでめちゃくちゃ
便利かなという風に思いますはい続いて
こちらのlogアアナウンスですねこちら
押してもらえるとまこんな感じでユーザー
が入力した会話の履歴を参照することが
できます今2つの会話履歴があるんです
けどもえこちらのエンドユーザーを見て
みるとこんな感じでえ先ほど私が入力した
チャットの履歴が確認できます何か
ユーザーに使ってもらって管理者側でま
どういう風に使ってるんだろうとかそう
いうのを確認したい時にこのログ&
アナウンスの方で見ていくとそういった形
で管理できるというわけですねこれまで
データベース作ったりとかそういったこと
がえドッカーの方でやられてるので特に
開発しなくていいというところで
めちゃくちゃすごいなという風な感じがし
ますはい最後がこの概要というとこですね
こちら押してもらうとまこんな感じで
ニャンタのアプリの公開URLとえバック
エンドサービスのAPIのエンドポイント
ですねこちらがえ確認できますでこの公開
URLってのがま今ローカルホストになっ
てるので私のノートパソコンからしかえ
アクセスできないんですけども
インターネットのサーバー上にこちらの
アプリをセットアップするとこのURLを
教えてあげればアクセスできるようになり
ますですごいのはこの分析のところですね
でどれぐらいのメッセージ数がいつ送られ
てるとかアクティブユーザーの数とかあと
はトークンの出力速度とかですね1番下が
えユーザーの満足度率ということでこれは
1000件あたりのいいねの数ということ
でえ回答し終わった後にまこんな感じで
ライクとかディスラブ付けらるんですけど
もそのユーザーの満足度率だったりとかえ
あとはえトークの使用量ってことでGPT
3.5のターボを使ってるんですけども
その時にえどれぐらいのトークンが使われ
てのかとあとはそれがいくらぐらいなのか
というのがこちらに記録されていますで
これを見ながらま1ヶ月使ってみてどれ
ぐらい料金かかるんだろうなとか簡単に
見積もることができるというわけですねで
こういったところもモニタリングして
くれると予算的にはまだ大丈夫だから
クロード3のオーパス使おうとかでそう
いった意思決定をする時の材料になるのか
なという風に思いますいいですよねはい
続いてですねナレッジについても説明して
いきますえこちらに関しては先ほど少し出
てたんですけども独自のえPDFとかの
テキストデータを設定することができます
えこの知識を作成のところ押してもらうと
まこんな感じでえテキストファイルから
インポートとかノーションから同期とか
カミングスンて書いてあってまだ実装され
てないんですけどもウェブサイトからの
同期とかそういったモードが選択でき
ますでPDFのところを見てみるとこの
jemiProのですねこれすでに私が
設定してるんですけど
もこんな感じで慣れ名とかナレッジの説明
とか少し難しいんですけどもこのPDFを
参照する時に使う埋め込みモデルとかえ
そういったものを設定できますであとはえ
より高度なラグのシステムとしてランク
モデルというのが使われてるんですけども
それもですねこちらで設定することができ
ます今APIキーの方設定してないので
アクティブ化されてないんですけども最高
精度のラグを試してみたいという場合はえ
こういったモデルを設定するといいと思い
ますでナレッジ設定したらですね検索
テストとかもできるのでここでちゃんとと
ベクトル検索ができるのかなというので
こんな感じでjemiPro1.5につい
て性能を教えてくださいという風に検索
するとPDFの中からどういった文章が
抽出されるのかというのとあとはちょっと
難しいんですけども関連ドアのスコアと
いうのが算出されますはいいい感じですね
はいちょっと難しいんですけどもラグの
システム開発する場合はここら辺の思考
錯誤ってのはえ結構するんじゃないかなと
いう風に思うのでめちゃくちゃ良さそう
ですよねノレッジについてはこんな感じか
なと思いますはい最後がこのツールって
とこですねこちら押してもらうとまこんな
感じで外部のアプリケーションと連携さ
せることができますま例えばYahoo
ファイナンスとかってのはAPIからえ
株価の情報を取得したりとかえそういった
サービスやってますのでこういうものを
使ったりとかあとはアーカイブとかでま
論文を参照させたりとかえそういった外部
ツールも用意されてますでyoo
ファイナンスとでアーカイブに関しては
特に認証の設定は必要ないんですけどもえ
例えばGoogle検索とかですねえそう
いった場合は独自にAPI機の設定とか
そういったものを設定する必要があります
はいでこの後紹介するコードの
アプリケーションを作成する時にこういっ
た外部のアプリケーションを選択できる
ようになりますでその他カスタムというの
もありますでこれに関してはOpenAI
のえアクションズの機能と同じになってい
ますまなので自分で用意したえAPIのえ
オAPIというスキーマをこちらに記入し
てもらえれば先ほどあったようなえ
Google検索とかかえアーカイブの
APIとかそういったものと同じように1
つのツールとしてえ使用することができ
ますでよくやられてるのはえGoogle
appscptとかですねそういったもの
と連携させるとかでそういうのは結構簡単
にできると思うので興味があれば試して
みるといいと思いますで私のユミの方で
OpenAIのGPTの講座の中でここら
辺に関してはえかなり詳しく解説してるの
で自分で作ってみたいという人は是非
そちらを見てもらえるといいと思います
はい以上がえDEFYの中で設定できる
機能の紹介になってきますはい続いてえ
より高度なチャットボットを作っていき
ましょうというのでえスタジオの方に戻り
ますはいそれではこちらからですねアプリ
を作っていきますえまたですね0から作っ
ていくのでこちらですね押してもらってで
このチャットボットのチャットフローとえ
先ほど紹介したワークフローですねえ
かなり似てるんですけどもチャットフロー
を使うとユーザーと会話しながら言語
モデルに何か処理させるようなえそういっ
たアプリケーションが作れますえと言って
もま全然よくわかんないという風に思い
ますので試しに作っていき
ますギンター2という風に設定して
ギンター2です
とはいこれで作成するとまこんな感じの
ですねマインドマップみたいな画面が出て
きますで見方としてはえ左からですね右側
にえ処理が流れていきますでこの1つ1つ
のノドにですねえ何かしらを設定していっ
て回答を生成させるとえそういったものに
なっていますもうこの時点でちょっと難し
そうだなっていう風に思いますよねで私は
まだまだ使いこなせてない部分多いと思う
ので基本的な使い方について紹介していき
ますでまずこれ今3つのノードがえあるん
ですけども一旦ですねこの2つは削除し
ます削除してはいこの状態にします今これ
開始というノードがあるのでこちら
スタートボタンを押してでこの開始の後に
続くノードの方を選択していきますでこの
ブロックのところから言語モデルとか
先ほど設定したPDFを参照させるとかえ
そういったことができますでこれ組みツー
ルってのがえ先ほど右上の方で見たこの
ツールのところですねそこで確認していた
えアプリケーションが選択できますであと
カスタムツールってのがえ自分で設定する
ツールになってますで今ブロックのところ
からですねえllmを選択しますはいそう
するとこの1つですねえブロックができて
これがこの開始と繋がってるというのが
分かるかと思いますはいこんな感じで自由
に動かすことができますで今GPT4が
選択されてるんですけどもこちら何でも
モデルを選択できますまGPT3.5
ターボの0125とか設定してきましょう
かでこれでコンテキストですねこれは言語
モデルのプロンプトにおけるえ
コンテキストになってます今えCクエリー
というものを選択してますえユーザーの
入力それをクエリーという風に呼んでます
その他カンバセーションIDとユーザー
IDというのがあるんですけどもこれらは
会話セッションのIDとかえその入力し
てるユーザーのIDになってますなかなか
この2つはですね使わないのかなと思い
ますでこれどうするかって言うとこの.
クエリーというところにえユーザーの入力
が入ってくるのでこの言語モデルの
システムプランプのところにえあなたは
ニャンというキャラクターですとで
ニャンタは語尾にカ文字をつけますと下の
ユーザーの入力に対して返事を生成して
くださいという風に打った後にスラッシュ
を押すとですねこれコンテキストってのが
出てきますこれでシスクエリーという風に
押すかコンテテキストっていう風に押して
もらえるとこんな感じでえプロンプトの中
にユーザーの入力を埋め込むことができ
ますこれでコンテキストの中にえユーザー
の入力が入ってくるのでプロンプトが設定
できてますあとはメモリーということで
どれぐらい会話を入れるとかえそういった
ことも設定できます一旦ここはなしにし
ますこれで言語モデルの基本的な設定が
完了しましたはい言語モデルの設定完了し
たのでえ続いてですねえ回答というのを
選びます言語モデルが今入力をしてえ回答
を生成するってが出たんですけどもじゃ
その回答をチャットの方にえ表示させると
そういったブロックを作る必要が
ますでこれ今回答を押すとこの回答
ブロックが出てきてこれがえ連結されまし
たでここで回答としては1つ前のこの言語
モデルが生成した出力を表示させたいので
えシャープを押してllmのテキスト
こちらを選択しますはいそうするとこの
llmがこのプロンプトでえ生成した出力
ってのを表示させるという設定ができまし
たでこれ今テキストっていう変数が設定さ
れてるんですけどもまそれはですねこちら
のllmの下の方でえ出力変数の方見て
もらえばえテキストってなってるのでそれ
を参照してるというわけですねはいこれで
簡単なチャットボットが作成できました
はい続いてえ作成したチャットボットを
テストしてみましょうということでえ
テストの方法としてはえこの右上のえ
プレビューですねえこちらが先ほどの
ノーマルのチャットボットというところの
デバッグ機能に当たりますこちら
プレビューを押してもらうとこんな感じで
右側にチャットのテキストボックスが出て
きますちょっとニャンタが邪魔です
ねちょっと移動してもらってここでこの
チャットボットのえテストを行いますえ
こんにちはと打ってみましょうはいそう
するとえ左側からですねまちょっと早すぎ
てわかんなかったんですけど
もまずこの開始っていうブロックからえ
llmのところに行ってまその後回答と
いう風なフローが全てチェックマークが
ついてるというのが分かるかと思いますで
このワークフローの処理を見てみるとで
開始っていうノードの中ではユーザーの
クエリーがこんにちはですよとかファイル
の設定がなくてえセッションIDとかです
ねそれが設定されてるとでその後llmに
対してこんにちはていうユーザーの入力が
えインプットとして入ってAPAが実行さ
れてますで最後に回答ということで言語
モデルが出力した回答がデータとして出て
くるというわけですねそれでこんな感じで
えができてます一通りうまくいったなと
思ったらこれ公開するを押しますでそう
すると先ほどのチャットボッと同じように
まこんな感じでチャット画面ができるので
えこんにちはという風にすと後ろでは
先ほど設定したえワークフローのプロセス
がえ実行されてえ回答が生成されてます
にゃんたこんにちは元気にゃんたか私は
元気だにんたということでちょっと調整は
必要なんですけどもこんな感じのチャット
ボトが作れましたはいさんどうでしょうか
でちょっとこれの設定が難しいなという風
に思った人も多いと思いますであとは単純
なチャットボッドだったら別にこんな
ワークフローの処理書かなくてもいい
じゃんという風に思った人も多いと思い
ますでもちろんこれは説明のためにかなり
単純な構造にしてるんですけどもえ例えば
ですスタジオの方に戻ってもらってえ
こちらの言語モデル専門家っていう
チャットボッドですね事前に作っておいた
ものを押してもらえればまこんな感じです
ねえ少し複雑な処理を行わせる
アプリケーションも簡単に作れますま
例えばこれだったらですねえ最初開始と
いう風にした後にえ質問分類機というので
まGPT3.5ターボを使っ
てこのユーザーからの質問がジミPro
1.5に関するものなのかクロド3に
関する質問なのかあとはそれ以外かという
ところでえ条件分岐をさせてあげますで
例えばえjemiPro1.5に関する
質問という風に判定したらえ次はですね
事前にアップロードしておいたえジミ
Pro1.5の論文を参照してえGPT
3.5ターボでえ回答を生成する
とでもしえユーザーの入力がえCL3に
関する質問だった場合はえ事前に設定して
おいたビリサーチという外部ツールを使っ
てグロックのえラマ3のモデルを使って
回答を生成させるという風に設定して
ますで最初の質問がえこの2つ以外の場合
ですねえそれ以外というところでまその
場合は回答としてまその質問には答えられ
ませんという風に回答を生成するように
設定して
ますはいこんなシステムは結構ありがちか
なと思うんですけどもでこれをプログラム
で実装しようとするとそんなに難しくない
けど結構面倒くさいですよねでそういった
ものもこのDFを使えば簡単に検証でき
ますちょっとこちらもプレビューしてみ
ましょうということでちょっとニャンタを
し
ますはいでプレビューとこんな感じで
チャットボックスが出てき
ますここに質問を打っていき
ますえjemiプロ1.5の性能について
教えてと言い
ますはいそうすると開始ノードからこんな
感じでえ原語モデルが回答を生成して
最後のプロセスが終了しましたプローを見
てみるとまちゃんと最初にクラス分けして
知識取得を参照しながらGPT3.5
ターボで回答を生成してくれるというわけ
ですねでちょっと関係ないことについても
え打ってみましょうこんにちは
とそうするとこれ最初の分岐の中でそれ
以外のところにえ分類されるのでえ回答と
しではその質問に答えられませんという風
にして返答が返ってき
ますはい一応クロド3についてもやって
いき
ましょうクロド3について教えてください
という風に入力するとまこんな感じで今
めちゃくちゃダダダダとグロックのラマ3
を使ってるのでえ回答速度が早かったん
ですけど
もここでまずクラス2にえ分類されてえ
タリーサーチが使われて
グロックのラマ3が使われて回答が生成さ
れるというのでちょっとラマ3なのでえ
回答が英語になってしまってますけども
うまくワークフローの処理ができてると
いうのが分かりますはいこんな感じで複雑
な分岐でもこのブロックを組み合わせて
あげればチャットボットが作れ
ますでできたらですねこれ更新してえ
アプリを実行してもらえるとまこんな感じ
でですねえジェミニPro1.5専門家
ってなっちゃってるんですけども先ほど
設定したえ処理フローでですねチャットが
でき
ます
はいちょっとやってみますかこんにちは
とはいでその質問には答えられませんと
いう風に出てきます
ねはいこんな感じでうまく動作しています
はいこちらがえチャットフローを使って
実現できるアプリケーションの開発になっ
てます皆さんどういう風に感じたでしょ
でょかこの処理を書いてくのが結構難し
そうだなっていう風に思ったと思いますで
そういった場合はえこちらのテンプレート
から作成のところですね押してもらえると
ですでにいろんなテンプレートが用意され
てますで全てちょっと英語になってしまっ
てるんですけどもでこういうのを参考にし
てえ作成してみるとこのフローズが出て
くるのでどういう風にしてえこの各
ブロックですね使ってるのかなというのを
見ながら自分でカスタマイズしていくと
いいと思いますはい一通りえDFで使える
機能について紹介してきたんですけどもえ
皆さんどういう風に感じたでしょうか個人
的にはえこれが無料で使えるってのは信じ
がいほど作り込まれてるなという風な感じ
がして商用利用も可能なので今後かなり
流行ってくるんだろうなという風に思い
ます皆さんも使ってみて是非感想とかあれ
ばコメントの方で教えてくださいで先ほど
もちょっと言ったんですけどもこのdfy
のアプリがかなりすごかったので今回喋っ
た内容も含めて復習できるようにDYの
アプリについてまとめた資料を私の公式
LINEの方でプレゼントしています概要
欄から友達登録の方してもらって
プレゼントという風に入力してもらえれば
えDFについてまとめた資料と少し前から
プレゼントしているチャットGPTと
chow3のプロンプトのまとめ資料を
無料で受け取れるようにしてるので是非
そちらも見てみてくださいはいちょっと
長くなってしまったんですけども以上で
本日の動画を終了したいと思いますこの
動画が良かったなっても人はえ高評価
コメントチャンネル登録の方よろしくお
願いしますユでもやってますので概要欄
から見てみえそれではまた次回の動画でお
会いしましょうバイバイ
[音楽]
5.0 / 5 (0 votes)