OpenAIのGPTsより凄い!無料で使えるDifyを徹底解説してみた

にゃんたのAI実践チャンネル
3 May 202438:08

Summary

TLDRこの動画では、DEFYというOpenAIのGPTに上位互換性を持つサービスを紹介しています。DEFYを使うことで、プログラミングを知らなくても、言語モデルを使ったアプリケーションを簡単に開発できるという利便性を強調しています。また、APIサーバーとして公開し、外部アプリケーションと連携させることができる機能も紹介されています。さらに、チャットボットの作成方法や、高度な機能を用いたアプリケーションの開発方法も詳しく説明されています。最後に、DFのアプリを使ってアプリケーションを開発し、実際に動作する様子を見ることができます。この動画は、言語モデルを活用しようとする人々に、非常に有益な情報を提供しています。

Takeaways

  • 📈 DEFYはOpenAIのGPTと上位互換性のあるサービスで、高度なチャットボットの作成やAPI活用が可能です。
  • 💡 DEFYはプログラミング知識がなくても、言語モデルを使ったアプリケーションの開発が容易に行えます。
  • 🌐 DEFYはオープンソースで、クラウドサービスとして利用もしくは自分のサーバーでセットアップすることが可能です。
  • 📚 DEFYを使用することで、様々な言語モデルを組み合わせて使用し、高度な機能を設定することが可能です。
  • 🤖 DEFYで作成したチャットボットはAPIサーバーとして公開でき、外部アプリケーションから利用可能です。
  • 📊 DEFYのダッシュボードでは、アプリのパフォーマンスやユーザーの満足度などの分析情報が確認できます。
  • 📝 PDFやテキストファイルをナレッジとして設定し、言語モデルが参照して回答を生成させることができます。
  • 🔍 DEFYの検索機能を使って、ナレッジに設定したPDFの中から関連性の高い情報を探すことができます。
  • 🛠️ DEFYのツール機能を使えば、外部APIとの連携が可能で、様々なサービスを簡単に組み合わせ应用できます。
  • 📝 DEFYはテンプレート機能も豊富で、既存のテンプレートをカスタマイズして独自のアプリケーションを開発することが容易です。
  • 📉 DEFYは利用回数に基づく課金モデルとなっており、使用頻度が低い場合はコストを削減できる可能性があります。

Q & A

  • DEFYプロジェクトとは何ですか?

    -DEFYはOpenAIのGPTの上位互換サービスで、言語モデルを活用したアプリケーションを簡単に開発・公開することができるプラットフォームです。

  • DFアプリのソースコードはどこで公開されていますか?

    -DFアプリのソースコードはオープンソースで、GitHubなどのリポジトリサイトで公開されています。

  • DFアプリを使わずに独自のチャットボットを開発する場合、どのような知識が必要です?

    -APIを使ったプログラミング知識が必要です。また、言語モデルを組み込むための技術的なスキルや、入力のログ管理などを行うためのプログラム開発能力が求められます。

  • DFアプリのクラウドサービスと自分で環境を作って使う場合の違いは何ですか?

    -クラウドサービスを使えば、サーバーの用意や管理がDF側で行われるため、手軽に利用できます。自分で環境を作って使う場合は、サーバーのセットアップや管理が必要で、プログラミング知識が必要ですが、より柔軟性があります。

  • DFアプリで言語モデルのAPIキーを設定するにはどうすればよいですか?

    -APIキーは、各言語モデルプロバイダーのサイトから取得することができ、DFアプリの設定画面でモデルプロバイダーを選択し、APIキーを入力して設定します。

  • DFアプリを使ってチャットボットを作成する場合、どのような流れで行われますか?

    -まずアプリを作成し、システムプロンプトを設定します。次に、モデルの選択とパラメーターの設定を行い、ユーザー入力に対する回答を生成するプロセスを構築します。最後に、テストを行い、公開して利用者が使用できるようにします。

  • DFアプリのチャットフローとは何ですか?

    -チャットフローは、DFアプリでユーザーと会話しながら言語モデルに処理をさせるアプリケーションを作成する機能です。マインドマップのようなインターフェースで、ノードを設定して会話の流れを構築します。

  • DFアプリで作成したチャットボットをAPIサーバーとして公開することはできますか?

    -はい、可能です。DFアプリを使用すると、オリジナルのチャットボットをAPIサーバーとして公開し、プログラムから利用できるようにすることができます。

  • DFアプリのナレッジ機能とは何ですか?

    -ナレッジ機能は、PDFやテキストデータなどの独自の情報を言語モデルが参照できるように設定する機能です。これにより、モデルは設定されたナレッジを活用して、より正確な回答を生成することができます。

  • DFアプリで外部アプリケーションと連携させるにはどうすればよいですか?

    -DFアプリのツール機能を使うことで、外部のAPIやサービスと連携させることができます。独自のAPIスキーマを記入してカスタムツールとして設定することが可能です。

  • DFアプリを使って高度なチャットボットを作成する際の利点は何ですか?

    -DFアプリを使うことで、プログラミングを知らなくても高度なチャットボットを開発できます。また、様々な言語モデルを使い分けたり、外部サービスと連携したりといった柔軟な機能を利用できるため、応用範囲が広くなります。

Outlines

00:00

😀 DEFYプロジェクトの紹介と使い方

第1段落では、DEFYプロジェクトが話題に挙げられており、SNSで注目を集めているサービスであることが説明されています。DEFYはOpenAIのGPTの上位互換サービスで、カスタマイズされたチャットボットの作成や公開が可能です。また、GPTの使い方や、プロンプトの設定による使い分け方についても触れられています。

05:02

📚 DEFYの高度な機能と言語モデルの活用

第2段落では、DEFYの高度な機能が紹介されており、プログラミングを知らない人でも簡単にチャットボットを作成できる利便性に重点が置かれています。また、DEFYで使用可能な言語モデルの多様性や、料金構成についても説明されています。

10:02

💻 DEFYアプリケーションのセットアップ方法

第3段落では、DEFYアプリケーションのセットアップ方法が詳しく説明されています。クラウドサービスの使用方法と、自分で環境を構築する方法の2つの方法が紹介されており、必要なスペックやセットアップ手順についても触れられています。

15:02

🔍 DEFYでチャットボットを作成するプロセス

第4段落では、DEFYアプリケーションを使ってチャットボットを作成するプロセスが詳細に説明されています。システムプロンプトの設定、変数とコンテキストの活用、モデルの選択とパラメーター設定、そして実際の動作確認までが網羅的に扱われています。

20:04

📈 DEFYのAPIアクセスとログ分析機能

第5段落では、DEFYのAPIアクセス機能とログ分析機能が紹介されています。APIサーバーとしてチャットボットを公開し、プログラムから利用できる方法や、会話履歴の確認、ユーザー満足度などの分析情報が説明されています。

25:04

🛠️ DEFYのナレッジ設定とツール連携

第6段落では、DEFYのナレッジ設定と外部アプリケーションとの連携方法が説明されています。PDFなどのテキストデータをナレッジとして設定する方法や、Google検索などのAPIを利用する際の認証設定についても触れられています。

30:07

🤖 高度なチャットボットの作り方とテスト

第7段落では、DEFYのスタジオ機能を使って高度なチャットボットを作成する方法が紹介されています。チャットフローの構築、言語モデルの設定、そして作成したチャットボットのテスト方法が詳細に説明されています。

35:10

📝 DEFYの機能紹介とテンプレート活用

第8段落では、DEFYで使える機能の紹介が締めくくられており、テンプレートから作成する方法が提案されています。また、作成されたチャットボットの動作確認と、アプリの公開についても触れられています。最後に、感想やコメントの呼びかけが行われています。

Mindmap

Keywords

💡マインドマップ

マインドマップとは、情報を整理し視覚化する手法であり、分枝状に情報を表現します。この動画では、マインドマップのような画面が表示されると説明されており、情報を整理し、視覚的に理解するプロセスを意味しています。

💡DEFY

DEFYは、OpenAIのGPTの上位互換サービスとのことです。このアプリケーションは、言語モデルを活用し、チャットボットの作成やカスタマイズが容易になる機能を提供しています。動画のテーマでは、「DEFYがすごいと」いうプロジェクトについて話しているため、DEFYは動画の中心的なトピックです。

💡APIキー

APIキーは、アプリケーションプログラミングインターフェースを利用する際に必要な認証情報です。言語モデルを使用する際にもAPIキーが必要であり、この動画では、OpenAIやGoogleなどのモデルを利用するためにAPIキーを設定する手順が説明されています。

💡チャットボット

チャットボットとは、人間と対話することができるソフトウェアアプリケーションです。この動画では、DEFYを用いてカスタマイズされたチャットボットを作成し、その応答パターンや機能を設定する方法が解説されています。チャットボットは、AIの応用例として幅広く使われており、この動画の主な焦点の一つです。

💡GPT

GPTとは、General Pre-trained Transformer(一般化事前学習済みトランスフォーマー)の略で、自然言語処理のタスクをこなすために事前に学習されたAIモデルです。動画では、GPTを使用してカスタマイズされたサービスやアプリケーションの利便性が強調されています。

💡言語モデル

言語モデルとは、自然言語を処理・生成するためのAIモデルのことで、チャットボットやテキスト生成アプリケーションなど様々な場面で使われます。この動画では、言語モデルを活用して、高度な機能を持つアプリケーションを作り上げる方法が紹介されています。

💡オープンソース

オープンソースとは、ソフトウェアのソースコードが公開されており、誰もが自由に使用・改変できることを意味します。DEFYのアプリケーションはオープンソースであり、無料で使用できることが動画で強調されています。オープンソースソフトウェアは、コミュニティによって共同で開発・改善される傾向があります。

💡プロンプト

プロンプトとは、コンピュータやプログラムがユーザーに入力を求めるメッセージや、AIに指示を出すことです。この動画では、プロンプトを使用して言語モデルに対して指示を出して、チャットボットの応答をカスタマイズする例が説明されています。プロンプトは、AIの応答を制御する鍵的な要素です。

💡カスタマイズ

カスタマイズとは、既存のソフトウェアやシステムをユーザーの要望や状況に応じて変更する行為です。動画では、DEFYを用いて言語モデルを使ったアプリケーションをカスタマイズし、自分専用の機能を持つチャットボットを作成する方法が紹介されています。カスタマイズは、個々のニーズに応じたサービスを提供する上で重要な概念です。

💡ワークフロー

ワークフローとは、業務プロセスや工程を表す仕組みで、タスクの流れを定義します。この動画では、DEFYの機能を使って複雑なチャットボットのワークフローを作成し、ユーザーとの会話を通じて様々な処理を行う方法が説明されています。ワークフローは、アプリケーションのロジックを構築する際に使われます。

💡クラウドサービス

クラウドサービスとは、インターネットを通じて提供されるサービスであり、データやアプリケーションを遠隔地から利用できるようにします。動画では、DEFYのクラウドサービスを利用することで、自分のサーバーを用意することなくアプリケーションを実行できることが紹介されています。クラウドサービスは、スケーラビリティやメンテナンスの面で利便性が高く評価されています。

Highlights

マインドマップのような画面が表示される。

DEFYはOpenAIのGPTの上位互換サービスで、既存のGPTを強化したもの。

DEFYはオープンソースで、言語モデルを除くすべては無料で利用可能。

チャットボットの導入が企業で活発で、DEFYはそのプロセスを簡素化。

DEFYを使用すると、プログラミング知識なしで高度なアプリケーションを開発可能。

DFのアプリはアップデート頻度が高いため、操作画面は変動する可能性がある。

APIキーを設定することで、様々な言語モデルをアプリに組み込むことができる。

チャットボットの応答は、ポジティブでネガティブな表現は避ける設定が可能。

ナレッジ機能を使用して、PDFなどのテキストデータを参照できる。

高度なチャットボットは、ユーザーの質問に応じて異なるモデルで回答生成が可能。

DFはGoogleのGEMなどの他の言語モデルもサポートしている。

DFのクラウドサービスと自前のサーバーでの使用が選択可能。

DFアプリはローカルホスト上で動作し、インターネットサーバーにセットアップ可能。

APIサーバーとしてチャットボットを公開し、プログラムから使用可能に。

ログ機能を使ってユーザーの会話履歴を確認、管理することができる。

料金は使用頻度に基づく従量課金制で、低い使用頻度で安く利用できる。

言語モデルと外部検索ツールを組み合わせて独自のアプリケーションを構築可能。

DFの機能を効果的に使用することで、技術検証やサービス提供が簡単になる。

DFの使い方と活用方法がLINE公式アカウントで提供されている。

Transcripts

play00:00

はいこれで作成するとマインドマップ

play00:02

みたいな画面が出てきますクロド3につい

play00:04

て教えてくださいという風に入力すると

play00:07

めちゃくちゃダダダダと皆さんこんにちは

play00:09

ニャンタですえ本日はDEFYがすごいと

play00:12

いうテーマで話していこうと思いますえ皆

play00:14

さんDefっていうプロジェクト聞いた

play00:16

ことあるでしょうか最近SNSでは結構

play00:18

盛り上がってるのでなんとなく聞いたこと

play00:20

あるなって人もいるかもしれませんで個人

play00:23

的にはこのDは今後めちゃくちゃ流行っ

play00:25

てくんだろうなって思うぐらい便利な

play00:27

アプリケーションになっていますで簡単に

play00:30

言うとDEFYはえOpenAIのGPT

play00:33

のえ上位互換にあたるとえそういった

play00:35

サービスになっていますまなのでえ普段

play00:38

からGPT使ってるよって人はこちらの

play00:40

DEFYのサービスを知っておくと良いか

play00:42

もしれませんgpdsの上位互換っていう

play00:44

風に言われてもまそもそもGPTって何

play00:47

だっけとか何が便利なんだっけっていう人

play00:49

もいるかもしれませんGPTSは去年

play00:51

リリースされたオーAIのサービスになっ

play00:54

ていて自分専用にカスタマイズした

play00:56

チャットボットを作ることができるえ

play00:58

サービスになっていますで他にも開発した

play01:00

チャットボットをえみんなに公開すること

play01:02

ができるのでいろんな人が開発した

play01:04

チャットボットを使うということもでき

play01:06

ますえ例えばウェブサイトを作るのに特化

play01:09

したチャットボットだったりとか図を書く

play01:12

のに特化したチャットボットだったりとか

play01:14

いろんなものが出ていますでこういう風に

play01:16

誰かが作ったチャットボットを使うという

play01:19

のももちろん便利なんですけども個人的に

play01:21

はそこまで使わないなという風な感じが

play01:23

あります皆さんは普段から使ってるGPT

play01:26

とかあったりするんでしょうかはい仕事と

play01:28

かでも使いたいという風に考えると地に足

play01:30

ついたえGPTの使い方としてはこんな

play01:33

感じでえ自分が使う用途に応じてそれぞれ

play01:36

プロンプトを設定しておいてえ使い分ける

play01:39

とそういったところかなという風に思い

play01:40

ますで毎回プロンプトを書いてくっていう

play01:42

のはかなり面倒くさいんですけどもこう

play01:44

いう風に一度設定しとけばずっと使うこと

play01:47

ができるので結構便利かなという風に思い

play01:49

ますで今回紹介するDFというのはえ

play01:52

そんなgpdsの機能をさらに強力にした

play01:55

ものになっていますアプリを使うための

play01:57

ソースコードがえ全てオープンソースで

play02:00

公開されてるので言語モデルを使うところ

play02:02

以外は無料で使うことができますで本日は

play02:05

このDFの機能について誰でも分かるよう

play02:07

に解説していきます言語モデルを便利に

play02:10

使いたいという人は是非見ていって

play02:12

もらえればと思いますえそれでは早速やっ

play02:14

ていき

play02:16

ましょう最初にえDFの何がいいのかと

play02:19

いうことについて簡単にまとめていきます

play02:21

え現在多くの企業で言語モデルを活用

play02:24

しようとしてると思うんですけども最も

play02:26

やられてるのがチャットボットを導入する

play02:28

ということかと思います

play02:30

皆さんも仕事の中でチャットボットを導入

play02:32

したいとかそういった取り組みに参加され

play02:34

てたりするんでしょうかでこのチャンネル

play02:36

を見てくださってる方はま生成AIについ

play02:39

てかなり詳しいと思うんですけども普通に

play02:40

働いてる人はまだまだチャットGPTを

play02:43

触ったことがないという人が大部分だと

play02:45

思いますのでまずは簡単なチャットボット

play02:47

を導入しようというフェーズのところが

play02:49

多いかと思いますでもう少し活用が進んで

play02:52

いくとまカスタマーサービスのQ&台とか

play02:54

ですねお客さんからの問い合わせに対して

play02:57

え言語モデルを使ってえ自動で回答する

play03:00

ようなそういったことをやろうとしてる

play03:01

ところも多いかと思いますでこういう

play03:03

カスタマーサービスとかに使おうとすると

play03:05

自分の会社の情報を元に回答を生成する

play03:08

必要があるのでラグと呼ばれる仕組みが

play03:10

必要になってきますラグの仕組みを知り

play03:12

たいなって人はこちらの動画で解説してる

play03:14

ので興味があったら見てみてくださいで

play03:17

普通のチャットボットとかえラグを使った

play03:19

チャットボットを作ってお客さんに

play03:21

サービスとして提供しようという風に考え

play03:23

た時に大きく分けて2つのやり方があるか

play03:26

と思いますで1つがえ冒頭でもあったえ

play03:29

GTSを使う方法ですねでこれは事前に

play03:32

独自の情報を設定したチャットボットを

play03:35

作っておいてそのチャットボットのURL

play03:37

をお客さんに渡して使ってもらうとそう

play03:39

いった形になるかと思いますただこの

play03:41

パターンはえ結構制約が厳しくてまず

play03:44

GPTを使うにはえ現在CATGPTの

play03:47

有料版に加入しないといけませんなのでお

play03:50

客さん全員にえ有料版に加入してもらうっ

play03:53

ていうのは結構厳しいんじゃないかなと

play03:54

いう風に思います他にもGPT4が使われ

play03:57

てるのでえ利用回数の制限がだったりとか

play04:00

お客さんが入力したえプロンプトの情報と

play04:03

かえどれぐらい使ってるのかとかそういっ

play04:05

たログの管理ができないとか色々使い

play04:08

にくいところがあるかと思いますでそう

play04:10

すると次の2つ目の選択肢としてAPIを

play04:13

使ったえ独自のチャットボットを開発する

play04:15

とえそういった流れになるかと思いますで

play04:18

APIっていうのはえプログラミングから

play04:21

言語モデルを使用するサービスになってい

play04:22

てAPを使うことができれば言語モデルを

play04:26

自分のサイトのサービスに組み込むとか

play04:28

そういったことが自由にできるようになり

play04:30

ますでさっき言ったようなえユーザーの

play04:32

入力とか利用頻度とかプログラムを書けば

play04:35

管理できるので言語モデルを使った

play04:37

サービスを本格的に提供したいという場合

play04:40

は自力で開発するというパターンになって

play04:42

くるかと思いますでただしえ当然開発して

play04:45

いくのでえプログラミングの専門知識が

play04:47

必要になってきますで専門知識がないので

play04:50

じゃ外注しましょうっていう話になると

play04:52

できるかできないかのえ技術検証をする

play04:54

だけでも大体300万とか500万とか

play04:57

それぐらいかかってくるかと思いますまま

play04:59

そもそもうまくいくかわからない中でそう

play05:01

いった額はなかなか払いにくいですよね

play05:04

そこで今回紹介するえDFのサービスに

play05:07

なっていますでこのDFを使うとえ難しい

play05:10

プログラミングのコードを書かなくてもえ

play05:12

簡単にチャットボットを作ってえ外部に

play05:14

公開するということができますまなのでえ

play05:17

プログラミングが書けないよって人でも

play05:19

このDFの使い方をマスターしていけば

play05:22

簡単に言語モデルを使ったアプリを開発

play05:24

することができますで私は一応

play05:26

プログラマーでえコードは書いてるんです

play05:28

けどもそれでもえちょっとしたチャット

play05:30

ボットを作るというのも結構面倒くさかっ

play05:32

たりするのでこのDFを使ってま

play05:35

ちゃちゃっとチャットボット作ってどれ

play05:36

ぐらい精度出るのかなってのを確認するの

play05:38

も良い使い方だなという風に感じますで

play05:41

DFではえ普通のチャットボットとかラグ

play05:44

を使ったチャットボットとかそういった

play05:46

ものよりもよりレベルが高い高度な

play05:48

チャットボットも作ることができますで

play05:51

高度なチャットボットって何だという人も

play05:53

いるかもしれません例えばえユーザーの

play05:55

質問が来た時にえ難しい質問に関してはえ

play05:59

GPT4とかえCL3のオーパスとかそう

play06:02

いった強いモデルを使って回答を生成させ

play06:05

たりとか簡単な質問に関してはえグロック

play06:08

のRAM3のモデルを使って高速に答えさ

play06:11

せたりとかでそういったことが簡単にでき

play06:13

ますで他にもえここでは紹介しきれない

play06:16

ぐらいいろんな機能が設定できるのでこの

play06:18

後実演して説明したいと思いますで分かり

play06:21

やすいDFのすごいところとしてはえ主要

play06:24

なモデルが全部使えるというところがあげ

play06:26

られますでGPTではOpenAIの

play06:29

モデルしか使えないんですけどもえDFで

play06:31

はこんな感じでアンソロpiicの

play06:34

クロードだったりとかGoogleのえ

play06:36

GEMとかですねいろんなモデルを使う

play06:38

ことができます皆さん最近はどの言語

play06:41

モデルをメインで使ってるでしょうか少し

play06:43

前に紹介したグロックのRAM3とか

play06:46

コマンドRPlusとかいろんなモデルが

play06:48

最近出てきてるのでそういったモデルを

play06:50

使ってるという人もいるかと思いますあと

play06:52

はえ会社で使ってる人はルOpenAIと

play06:56

かえAmazonのベッドロックとかそう

play06:58

いったクラウドベンダーが供してる

play07:00

サービスを使ってるという人も多いかと

play07:01

思いますでここにもあるようにえDFでは

play07:04

えそういったサービスにももちろん対応し

play07:07

ていますはいそしてえ気になる料金になり

play07:10

ますえまずえDFのサービスを使おうと

play07:12

すると大きく開けて2つの方法があります

play07:15

1つがえクラウドサービスといってdfy

play07:18

の方で用意した環境を使うという方法に

play07:21

なりますでdfiのアプリ自体はえ

play07:24

オープンソースでえコードが公開されてる

play07:26

んですけどもそのアプリケーションを

play07:28

動かすためのサーバーが必要になってき

play07:30

ますでそれをDの方で用意してくれて

play07:33

そちらを使うということもできるという

play07:35

わけですねで利用回数に応じてえこんな

play07:38

感じでいろんなプランを選択できますで

play07:41

サーバーの用意とか一切したくないという

play07:43

人は無料枠でも何回が使えるのでこちらを

play07:46

使ってみるといいと思いますで2つ目の

play07:49

DFの使い方がえ自分でサーバーを用意し

play07:51

てえそこでDFのアプリケーションを

play07:53

セットアップするという方法になりますで

play07:56

こちらはえ多少プログラムの知識が必要に

play07:58

なってきますただえドッカーとか聞いた

play08:01

ことあるという人であればめちゃくちゃ

play08:03

簡単にセットアップできるので自分で構築

play08:06

した方がいいんじゃないかなという風に

play08:07

思いますえドッカーとか分かるよって人に

play08:10

向けて説明するとドッカーコンポーズの

play08:12

ファイルが用意されてるのでドッカー

play08:14

コンポーズAppで1発でローカルに

play08:16

サーバーを立ち上げることができます

play08:18

すでに自分のパソコンにドッカーが入っ

play08:20

てるという場合は本当にすぐにできると

play08:23

思うので自分でのセットアップがおすめ

play08:25

ですノートパソコンで全然動くレベルなの

play08:28

で自分で動かしたいなって人は少し

play08:30

ドッカーの導入方法を調べてみると自分で

play08:32

セットアップできるのでいいと思います

play08:35

はいここまで聞いてどうでしょうか

play08:36

ちょっとまだ実演をしてないのでイメージ

play08:39

ができないという人も多いと思うんです

play08:40

けども使った感じめちゃくちゃ便利で今後

play08:43

えもっと話題になりそうだなっていう風に

play08:45

感じましたで特にえプログラミングを書か

play08:48

なくてもかなり高度なアプリケーションを

play08:50

作れるのでDFをマスターしておけば言語

play08:53

モデルを使った技術検証の仕事とかも結構

play08:56

できるんじゃないかなっていう風に思い

play08:57

ますえまたえ個人で使う場合でもdfyの

play09:00

アプリは結構いいんじゃないかなと思い

play09:02

ますえ例えばチットGPTに月3000円

play09:05

払ってるけどそんなに使用頻度が高くない

play09:08

よとかCL3も使ってるので6000円

play09:11

かかってしまってるよとかそういった人も

play09:13

いると思いますでDYだとえ使った分だけ

play09:16

課金されるえ重量課金性になってるのでえ

play09:19

使用頻度が低いという場合はDYで2つの

play09:22

モデルを使った方が安くなりそうだなって

play09:24

いう風な感じがします他にも言語モデルと

play09:27

外部の検索ツールとかも組み合わせられる

play09:30

のでperplexTAIみたいなものも

play09:32

自前で作ることができますはい色々とDF

play09:35

について紹介してきたんですけども実際に

play09:37

使ってみると分かりやすいと思うので続い

play09:39

てえ使用方法について解説していきます

play09:42

またえLINE公式の方でDFの使い方を

play09:45

まとめた資料をプレゼントしてるので興味

play09:48

がある人は概要欄のリンクから友達登録し

play09:51

てプレゼントというキーワードを入力して

play09:53

もらえれば自動で資料が送られるようにし

play09:56

てるので是非見てみてくださいそれでは

play09:58

早速やっていきましょう

play10:01

はいそれではDFのアプリを使っていき

play10:03

ますでDFのアプリ使うには先ほども言っ

play10:06

たように2つの方法があってDFの

play10:08

クラウドサービスを使うという方法と自分

play10:10

で環境を作ってそこから使うという方法が

play10:13

ありますでDFという風に検索して

play10:15

もらえるとこちらの公式のページが出て

play10:17

くると思うのででクラウから使ってみたい

play10:19

という人はえこちらのゲットスーテですね

play10:22

こちらを押してもらえるとGoogle

play10:24

認証とかでアカウントを作成できますで私

play10:26

はえ自分で環境をセットアップしてそちら

play10:29

から使っていきたいと思いますでこちらの

play10:31

gitHUBの方からえ下の方に行って

play10:35

もらえる

play10:36

とDFについて色々と書かれていてえ

play10:41

こちらですねクイックスタートのところに

play10:43

dfyのアプリを動かすための最低限の

play10:46

スペックだったりとかえセットアップ方法

play10:48

について書かれていますでスペックを見る

play10:51

とえメモリが4G以上あれば使えるという

play10:53

とこだったのでおそらく皆さんのパソコン

play10:56

で動かせるんじゃないかと思いますで

play10:57

セットアップ方法に関してでもドッカーが

play11:00

使える環境であればドッカーコンポーズ

play11:02

アッでえ簡単にセットアップができます

play11:05

はいでドッカーでセットアップが完了し

play11:07

たらえこのローカルホストにアクセスすれ

play11:10

ばdfyのアプリが立ち上がりますこちら

play11:12

がえdfyのアプリのホーム画面になって

play11:15

いますでセットアップすると最初に

play11:18

アカウント作成をする必要があるので

play11:19

そちらを登録してえログインしてもらえる

play11:22

とこういった画面に遷移するかと思います

play11:25

で最初にまずこのDF上でえ言語モデルを

play11:28

使ったえアプリを作っていくので使いたい

play11:30

モデルのAPIキーというものを設定して

play11:33

いきますでAPIキーっていうのは

play11:36

プログラムからえ言語モデルを使用する時

play11:38

に使うパスワードみたいなものになってい

play11:40

ます設定方法はこの右上のところからえ

play11:43

設定をしてもらえればこんな感じの画面が

play11:46

開くかと思いますこれのえモデル

play11:48

プロバイダーとこですねこちらを押して

play11:50

もらえるとちょっとアップしますかこう

play11:52

いった感じでえいろんな言語モデルの設定

play11:55

が選べますで今私の方はえOpenAIと

play11:59

コヒアとglockclodのAPIキを

play12:02

設定してるのでこの3つのモデルに関して

play12:04

はアプリに組み込むことができますで他に

play12:07

もえアスロピックのモデルとかジェミニの

play12:10

モデルとかえいろんなモデルが選択できる

play12:12

のでこのモデル使ってみたいなってのが

play12:14

あればえこちらから設定してもらえればと

play12:16

思いますで簡単にセットアップ方法もえ

play12:19

紹介しておくとえ例えばこのアロピックの

play12:22

モデルを使いたいとなったらこちら

play12:24

セットアップをしてもらってえここにです

play12:26

ねGetYourAPIKefroman

play12:28

piicという風に書かれてるのでえ

play12:31

こちらからですねアクセスしてもらって

play12:33

自分のえアスロピックのえアカウントに

play12:35

ログインしますでログインできたらえ

play12:38

クリエイトキーというのがあるのでえ

play12:40

こちらを押してもらってえ適当にですね

play12:42

dfyとか名前をつけてもらえればえ

play12:45

APIキーが発行でき

play12:47

ますでこのAPIキーは他の人にバレて

play12:51

しまうとえ勝手にモデルが使われるのでえ

play12:53

注意してくださいでこのAPIキをコピー

play12:56

したら先ほどの画面に戻ってえこちらです

play12:59

ね貼り付けして保存をし

play13:02

ますはいそうするとこのモデルのところに

play13:05

えアンソロピックのモデルが追加されまし

play13:07

たこれでアンソロピックのモデルも使える

play13:10

ようになりました最低限必要なモデルの

play13:12

設定は終わったのでえ閉じておきますはい

play13:15

続いてえチャットボットを作っていき

play13:17

ましょうあちょっと言い忘れてたので

play13:19

えっと言語の設定もしておきます今日本語

play13:22

で全て表示されてるんですけどももしかし

play13:24

たら英語で表示されてるという場合はこの

play13:27

右上のところですねこの設定のところから

play13:30

え言語のとこ選んでもらってえここを日本

play13:33

語に設定してもらえれば全て表示が日本語

play13:35

になるかと思いますはいそれではアプリの

play13:37

方を作っていきますでちょっと言い忘れた

play13:39

んですけどもこのDFのアプリはえかなり

play13:42

更新頻度が高いのでもしかしたら動画を見

play13:44

てる時期によってはえUIが全然違ってる

play13:47

というところもあると思うのでそちらはご

play13:50

了承いただければと思いますで基本的な

play13:52

流れに関してはまそこまで大きく変わら

play13:54

ないのかなという風に思いますでアプリを

play13:56

作成するにはから作成というのとえ

play13:59

テンプレートから作成というのがあります

play14:01

で最初はテンプレートから作成にしても

play14:03

よくわからないと思うので真っさらな状態

play14:05

から作っていきますえこちらのから作成を

play14:08

押しますはいそうするとえどのタイプの

play14:11

アプリを作成しますかという風に出てき

play14:13

ますでチャットボットとテキスト

play14:15

ジェネレーターとえエージェントと

play14:17

ワークフローという4つが今ありますで

play14:20

このチャットボットっていうのはま

play14:21

チャットGPTみたいなおそらく皆さんが

play14:24

イメージするようなえチャットボットの

play14:25

アプリになっていますでこのテキスト

play14:27

ジェネレーターっていうのはえチャットで

play14:29

はなくて1度の入力を処理するとかえそう

play14:32

いった時に使われるアプリのタイプになっ

play14:34

ています例えばえ何かの要約とか翻訳とか

play14:37

をしたりとかえそういった場合はこちらの

play14:39

テキストジェネレーターが向いてると思い

play14:41

ますあとはエージェントというのがあり

play14:43

ますでこのエージェントってのはえ

play14:45

OpenAIのAPI使ってる人は

play14:47

イメージ付きやすいと思うんですけども

play14:48

ファンクションコーリングのような何かの

play14:51

ツールと連携させるようなえそういった

play14:53

使い方をしたいという場合はこちらの

play14:55

エージェントを使っていきますでこの

play14:56

ワークフローっていうのが今ベータという

play14:58

風になってるんですですけどもえ最近出た

play15:00

機能になっていてえちょっと言葉では説明

play15:02

しにくいんですけどもえ何らかの決まった

play15:04

処理を特にチャットとかをせずに行いたい

play15:07

場合に使われるそういった

play15:08

アプリケーションのタイプになっています

play15:10

ちょっと難しいと思うので後ほどですね

play15:13

このワークフローと似たタイプのこの

play15:15

チャットボットのこのチャットフローと

play15:17

一緒に解説していきたいと思いますまずは

play15:20

どんなものかということでこのチャット

play15:22

ボットを選んでチャットボットのえこの

play15:24

基本から作っていきますはいここにですね

play15:27

アプリの名前を入力していき

play15:30

ますニャンタアプリでニャンタアプリで

play15:33

いき

play15:36

ますしてくれる

play15:40

ニャンタのように返信してくれるチャット

play15:43

ボットと設定してえ作成するを押します

play15:46

はいそうするとこういった画面に遷移し

play15:48

ましたまちょっとこの時点でま難しそうだ

play15:51

なっていう風に感じた人もすごく多いと

play15:52

思うんですけども1個1個丁寧に説明して

play15:54

いきますでちょっと日本語になっちゃっ

play15:56

てるので分かりにくい部分もあるかもしれ

play15:58

ないですですけどもこの手順というのが

play16:00

言語モデルを使う時のシステムプロンプト

play16:03

のようなものだと思ってもらえばいいと

play16:04

思いますなので例えばここにこのニャンタ

play16:07

アプリとしてえどういう風に振る舞って

play16:09

欲しいのかというのを設定しますはい今

play16:12

こういう風に設定しましたえあなたは

play16:14

ニャンタというキャラクターのAIですと

play16:16

でユーザーの入力に対してニャンタのよう

play16:18

に返信を生成しますとでニャンタは語尾に

play16:21

えこの顔文字をよく使いますとで基本的に

play16:24

ポジティブでネガティブなことは言いませ

play16:25

んという風な設定をしますはいこれで

play16:27

システムプランプの設定が終わりました

play16:30

あとはえ変数というものとえコンテキスト

play16:33

というものが設定できますでこの変数って

play16:35

いうのはま実際に使ってみるとえイメージ

play16:37

湧きやすいんですけどもえユーザーがこの

play16:39

公開したチャットボットを使う時にえこの

play16:42

変数の値を入力してもらってそれがこちら

play16:44

のプロンプトの方に埋め込めるというもの

play16:47

になっていますちょっとよく分からないと

play16:48

思うので一旦変数の方は無視してえ後ほど

play16:51

見ていきますでこちらのコンテキストと

play16:54

いうのはPDFとかをアップロードできる

play16:56

ものになっていてこの追加のところから

play16:58

ですねすでににアップロードしておいた

play16:59

PDFをえ参照することができます例えば

play17:03

今だったらえjemiPro1.5のえ

play17:05

論文のPDFをアップロードしていたので

play17:07

そちらを設定できるというわけですねはい

play17:10

今は一旦いらないのでえキャンセルをし

play17:12

ますで他にもこの機能を追加のところから

play17:15

会話を開始する時の選択肢だったりとか

play17:18

AIが出力した後に次の会話の候補とか

play17:21

ですねパテAIとか使ってる人はえ

play17:24

イメージできると思うんですけどもまそう

play17:26

いったもの出したりとかテキストからえ

play17:28

音声にしたりとかか音声入力できたりとか

play17:30

あとはラグの引用元とかですねえ設定する

play17:33

ことができます一旦今回はなしでアプリの

play17:36

方を作っていきますはい続いてこの右上の

play17:39

ところでえモデルを選択できます今GPT

play17:43

4が選ばれてるんですけどもこちらですね

play17:45

先ほどAPIの設定をしたえ会社のモデル

play17:48

が色々使えますでコマンドRに関してはえ

play17:51

モデル名まで一緒に入れないとアクティブ

play17:54

化されないようですでちょっとGPT4

play17:56

高いのでGPT3.5のターボに設定して

play17:59

おきますでモデル設定したらモデルを使う

play18:02

時のパラメーターも設定でき

play18:04

ますあとですねちょっと難しいんですけど

play18:07

もAPIを使うとJSONフォーマットで

play18:09

出力するとかえそういったこともできるの

play18:11

でここで設定することができます今一旦

play18:14

ですねこのままでモデルの選択をしていき

play18:16

ますはいこれでえプロンプトの設定とかえ

play18:19

モデルの選択が終わったので実際にこの

play18:22

チャットボットがどういう風な挙動で動く

play18:24

のかというのをえ確認することができます

play18:27

それが右側の方でですねテキストボックス

play18:30

があるのでこちらでまこんにちはと打って

play18:32

play18:32

ましょうはいそうするとまにゃんにゃん

play18:35

こんにちはにゃんということで愉快な返信

play18:37

が返ってきましたでここら辺のデバッグに

play18:40

関してはGPTずとかなり似てるのかなと

play18:42

いう風に思いますでこれでいいなっていう

play18:44

風に思ったらこの右上のところから公開

play18:46

するでえ更新ですねを押し

play18:50

ますはいそうすると公開済みになったので

play18:53

続いてえアプリを実行し

play18:55

ますはいそうするとこんな感じの画面が

play18:58

開きますでこれがえ先ほど設定した

play19:01

プロンプトとかモデルが反映されている

play19:03

チャットアプリになっていますでなのでえ

play19:06

チャットボットを開発する人はえ先ほどの

play19:08

画面で色々設定してあげてユーザーに対し

play19:11

てはこのチャットボットのえURLを渡し

play19:13

てあげるとえそういった感じで使えるかと

play19:15

思いますなので今ユーザー目線でのこの

play19:18

ニャンターアプリの使用感を確認すること

play19:20

ができますスタートチャットを押し

play19:22

ましょうはいそうするとチャットGPT

play19:24

みたいな感じでえチャットできます

play19:28

おはようと打ってみるとこんな感じですね

play19:31

プロンプトが設定されてるのでニャンタっ

play19:34

ぽい返信が返ってくるというわけですねで

play19:36

新しい会話にしたいなって場合はこの

play19:38

ニューチャットからまた新しくですね

play19:40

セッション開けるのでチャットGPTとか

play19:42

と同じようにセッションごとにチャットの

play19:44

話題を管理することができますはいこんな

play19:47

感じで簡単にチャットボットが作れると

play19:49

いうのでかなりすごいなと思うんですけど

play19:51

も皆さんどういう風に思いますかまこれ

play19:53

ぐらいだったら驚かないよという人もいる

play19:56

と思うのでもう少し細かくできることに

play19:58

ついで見ていきますはいまず先ほどの設定

play20:01

画面のところに戻ってみると左側の方に

play20:03

ですねAPIアクセスとかえログ

play20:06

アナウンス概要ってのがありますでこの

play20:08

APIアクセスの方を見てもらうとはい

play20:11

こんな感じでAPIサーバーということで

play20:13

先ほど作ったえチャットボットのAPI

play20:17

サーバーが立ち上がっていますでこれどう

play20:19

いうことなのかと言うとま言語モデルを

play20:21

使う時にまAPIと言ってプログラムから

play20:24

使うことができるという話があったんです

play20:26

けどもえ先ほど作成したオリジナルの設定

play20:30

のチャットボットをAPIサーバーとして

play20:32

公開できるということになりますまなので

play20:34

少し難しいんですけどもCloud環境と

play20:37

かにこのDFのアプリを搭載してAPI

play20:40

サーバーとして立ち上げてこのAPI機を

play20:42

渡してあげればえプログラムから先ほど

play20:45

設定したオリジナルのチャットボットを

play20:47

使えるというわけですねでこれも自分で

play20:49

やろうとしたらえ実装したりとかえここら

play20:51

辺のドキュメントの整理とかもですね

play20:53

すごく面倒くさいと思うんですけども

play20:55

すでに出来上がってるのでめちゃくちゃ

play20:56

便利かなという風に思いますはい続いて

play20:59

こちらのlogアアナウンスですねこちら

play21:01

押してもらえるとまこんな感じでユーザー

play21:04

が入力した会話の履歴を参照することが

play21:07

できます今2つの会話履歴があるんです

play21:09

けどもえこちらのエンドユーザーを見て

play21:11

みるとこんな感じでえ先ほど私が入力した

play21:14

チャットの履歴が確認できます何か

play21:17

ユーザーに使ってもらって管理者側でま

play21:19

どういう風に使ってるんだろうとかそう

play21:21

いうのを確認したい時にこのログ&

play21:23

アナウンスの方で見ていくとそういった形

play21:26

で管理できるというわけですねこれまで

play21:28

データベース作ったりとかそういったこと

play21:30

がえドッカーの方でやられてるので特に

play21:33

開発しなくていいというところで

play21:35

めちゃくちゃすごいなという風な感じがし

play21:36

ますはい最後がこの概要というとこですね

play21:39

こちら押してもらうとまこんな感じで

play21:41

ニャンタのアプリの公開URLとえバック

play21:44

エンドサービスのAPIのエンドポイント

play21:46

ですねこちらがえ確認できますでこの公開

play21:49

URLってのがま今ローカルホストになっ

play21:51

てるので私のノートパソコンからしかえ

play21:54

アクセスできないんですけども

play21:55

インターネットのサーバー上にこちらの

play21:57

アプリをセットアップするとこのURLを

play21:59

教えてあげればアクセスできるようになり

play22:01

ますですごいのはこの分析のところですね

play22:04

でどれぐらいのメッセージ数がいつ送られ

play22:06

てるとかアクティブユーザーの数とかあと

play22:09

はトークンの出力速度とかですね1番下が

play22:12

えユーザーの満足度率ということでこれは

play22:15

1000件あたりのいいねの数ということ

play22:17

でえ回答し終わった後にまこんな感じで

play22:20

ライクとかディスラブ付けらるんですけど

play22:22

もそのユーザーの満足度率だったりとかえ

play22:24

あとはえトークの使用量ってことでGPT

play22:27

3.5のターボを使ってるんですけども

play22:29

その時にえどれぐらいのトークンが使われ

play22:31

てのかとあとはそれがいくらぐらいなのか

play22:33

というのがこちらに記録されていますで

play22:36

これを見ながらま1ヶ月使ってみてどれ

play22:39

ぐらい料金かかるんだろうなとか簡単に

play22:41

見積もることができるというわけですねで

play22:43

こういったところもモニタリングして

play22:45

くれると予算的にはまだ大丈夫だから

play22:48

クロード3のオーパス使おうとかでそう

play22:50

いった意思決定をする時の材料になるのか

play22:52

なという風に思いますいいですよねはい

play22:55

続いてですねナレッジについても説明して

play22:57

いきますえこちらに関しては先ほど少し出

play23:00

てたんですけども独自のえPDFとかの

play23:02

テキストデータを設定することができます

play23:05

えこの知識を作成のところ押してもらうと

play23:07

まこんな感じでえテキストファイルから

play23:09

インポートとかノーションから同期とか

play23:12

カミングスンて書いてあってまだ実装され

play23:14

てないんですけどもウェブサイトからの

play23:16

同期とかそういったモードが選択でき

play23:20

ますでPDFのところを見てみるとこの

play23:22

jemiProのですねこれすでに私が

play23:24

設定してるんですけど

play23:26

もこんな感じで慣れ名とかナレッジの説明

play23:29

とか少し難しいんですけどもこのPDFを

play23:32

参照する時に使う埋め込みモデルとかえ

play23:35

そういったものを設定できますであとはえ

play23:38

より高度なラグのシステムとしてランク

play23:40

モデルというのが使われてるんですけども

play23:42

それもですねこちらで設定することができ

play23:44

ます今APIキーの方設定してないので

play23:47

アクティブ化されてないんですけども最高

play23:49

精度のラグを試してみたいという場合はえ

play23:52

こういったモデルを設定するといいと思い

play23:54

ますでナレッジ設定したらですね検索

play23:56

テストとかもできるのでここでちゃんとと

play23:58

ベクトル検索ができるのかなというので

play24:01

こんな感じでjemiPro1.5につい

play24:03

て性能を教えてくださいという風に検索

play24:05

するとPDFの中からどういった文章が

play24:09

抽出されるのかというのとあとはちょっと

play24:12

難しいんですけども関連ドアのスコアと

play24:14

いうのが算出されますはいいい感じですね

play24:17

はいちょっと難しいんですけどもラグの

play24:19

システム開発する場合はここら辺の思考

play24:22

錯誤ってのはえ結構するんじゃないかなと

play24:24

いう風に思うのでめちゃくちゃ良さそう

play24:25

ですよねノレッジについてはこんな感じか

play24:28

なと思いますはい最後がこのツールって

play24:30

とこですねこちら押してもらうとまこんな

play24:32

感じで外部のアプリケーションと連携さ

play24:35

せることができますま例えばYahoo

play24:37

ファイナンスとかってのはAPIからえ

play24:40

株価の情報を取得したりとかえそういった

play24:42

サービスやってますのでこういうものを

play24:44

使ったりとかあとはアーカイブとかでま

play24:47

論文を参照させたりとかえそういった外部

play24:49

ツールも用意されてますでyoo

play24:51

ファイナンスとでアーカイブに関しては

play24:53

特に認証の設定は必要ないんですけどもえ

play24:56

例えばGoogle検索とかですねえそう

play24:58

いった場合は独自にAPI機の設定とか

play25:01

そういったものを設定する必要があります

play25:04

はいでこの後紹介するコードの

play25:06

アプリケーションを作成する時にこういっ

play25:08

た外部のアプリケーションを選択できる

play25:10

ようになりますでその他カスタムというの

play25:12

もありますでこれに関してはOpenAI

play25:15

のえアクションズの機能と同じになってい

play25:18

ますまなので自分で用意したえAPIのえ

play25:22

オAPIというスキーマをこちらに記入し

play25:25

てもらえれば先ほどあったようなえ

play25:27

Google検索とかかえアーカイブの

play25:29

APIとかそういったものと同じように1

play25:32

つのツールとしてえ使用することができ

play25:34

ますでよくやられてるのはえGoogle

play25:36

appscptとかですねそういったもの

play25:38

と連携させるとかでそういうのは結構簡単

play25:40

にできると思うので興味があれば試して

play25:42

みるといいと思いますで私のユミの方で

play25:45

OpenAIのGPTの講座の中でここら

play25:48

辺に関してはえかなり詳しく解説してるの

play25:50

で自分で作ってみたいという人は是非

play25:53

そちらを見てもらえるといいと思います

play25:55

はい以上がえDEFYの中で設定できる

play25:58

機能の紹介になってきますはい続いてえ

play26:01

より高度なチャットボットを作っていき

play26:02

ましょうというのでえスタジオの方に戻り

play26:05

ますはいそれではこちらからですねアプリ

play26:07

を作っていきますえまたですね0から作っ

play26:09

ていくのでこちらですね押してもらってで

play26:12

このチャットボットのチャットフローとえ

play26:14

先ほど紹介したワークフローですねえ

play26:16

かなり似てるんですけどもチャットフロー

play26:18

を使うとユーザーと会話しながら言語

play26:21

モデルに何か処理させるようなえそういっ

play26:23

たアプリケーションが作れますえと言って

play26:25

もま全然よくわかんないという風に思い

play26:27

ますので試しに作っていき

play26:29

ますギンター2という風に設定して

play26:32

ギンター2です

play26:36

とはいこれで作成するとまこんな感じの

play26:39

ですねマインドマップみたいな画面が出て

play26:42

きますで見方としてはえ左からですね右側

play26:45

にえ処理が流れていきますでこの1つ1つ

play26:49

のノドにですねえ何かしらを設定していっ

play26:52

て回答を生成させるとえそういったものに

play26:54

なっていますもうこの時点でちょっと難し

play26:57

そうだなっていう風に思いますよねで私は

play27:00

まだまだ使いこなせてない部分多いと思う

play27:01

ので基本的な使い方について紹介していき

play27:04

ますでまずこれ今3つのノードがえあるん

play27:06

ですけども一旦ですねこの2つは削除し

play27:09

ます削除してはいこの状態にします今これ

play27:13

開始というノードがあるのでこちら

play27:16

スタートボタンを押してでこの開始の後に

play27:18

続くノードの方を選択していきますでこの

play27:20

ブロックのところから言語モデルとか

play27:23

先ほど設定したPDFを参照させるとかえ

play27:26

そういったことができますでこれ組みツー

play27:28

ルってのがえ先ほど右上の方で見たこの

play27:30

ツールのところですねそこで確認していた

play27:33

えアプリケーションが選択できますであと

play27:36

カスタムツールってのがえ自分で設定する

play27:38

ツールになってますで今ブロックのところ

play27:40

からですねえllmを選択しますはいそう

play27:43

するとこの1つですねえブロックができて

play27:46

これがこの開始と繋がってるというのが

play27:48

分かるかと思いますはいこんな感じで自由

play27:50

に動かすことができますで今GPT4が

play27:53

選択されてるんですけどもこちら何でも

play27:55

モデルを選択できますまGPT3.5

play27:57

ターボの0125とか設定してきましょう

play28:00

かでこれでコンテキストですねこれは言語

play28:03

モデルのプロンプトにおけるえ

play28:05

コンテキストになってます今えCクエリー

play28:08

というものを選択してますえユーザーの

play28:10

入力それをクエリーという風に呼んでます

play28:14

その他カンバセーションIDとユーザー

play28:16

IDというのがあるんですけどもこれらは

play28:18

会話セッションのIDとかえその入力し

play28:21

てるユーザーのIDになってますなかなか

play28:23

この2つはですね使わないのかなと思い

play28:25

ますでこれどうするかって言うとこの.

play28:28

クエリーというところにえユーザーの入力

play28:31

が入ってくるのでこの言語モデルの

play28:33

システムプランプのところにえあなたは

play28:35

ニャンというキャラクターですとで

play28:36

ニャンタは語尾にカ文字をつけますと下の

play28:39

ユーザーの入力に対して返事を生成して

play28:42

くださいという風に打った後にスラッシュ

play28:45

を押すとですねこれコンテキストってのが

play28:47

出てきますこれでシスクエリーという風に

play28:49

押すかコンテテキストっていう風に押して

play28:51

もらえるとこんな感じでえプロンプトの中

play28:54

にユーザーの入力を埋め込むことができ

play28:56

ますこれでコンテキストの中にえユーザー

play28:59

の入力が入ってくるのでプロンプトが設定

play29:01

できてますあとはメモリーということで

play29:04

どれぐらい会話を入れるとかえそういった

play29:06

ことも設定できます一旦ここはなしにし

play29:08

ますこれで言語モデルの基本的な設定が

play29:11

完了しましたはい言語モデルの設定完了し

play29:13

たのでえ続いてですねえ回答というのを

play29:16

選びます言語モデルが今入力をしてえ回答

play29:20

を生成するってが出たんですけどもじゃ

play29:23

その回答をチャットの方にえ表示させると

play29:26

そういったブロックを作る必要が

play29:28

ますでこれ今回答を押すとこの回答

play29:31

ブロックが出てきてこれがえ連結されまし

play29:35

たでここで回答としては1つ前のこの言語

play29:39

モデルが生成した出力を表示させたいので

play29:42

えシャープを押してllmのテキスト

play29:45

こちらを選択しますはいそうするとこの

play29:48

llmがこのプロンプトでえ生成した出力

play29:51

ってのを表示させるという設定ができまし

play29:54

たでこれ今テキストっていう変数が設定さ

play29:57

れてるんですけどもまそれはですねこちら

play29:59

のllmの下の方でえ出力変数の方見て

play30:02

もらえばえテキストってなってるのでそれ

play30:04

を参照してるというわけですねはいこれで

play30:06

簡単なチャットボットが作成できました

play30:08

はい続いてえ作成したチャットボットを

play30:11

テストしてみましょうということでえ

play30:14

テストの方法としてはえこの右上のえ

play30:17

プレビューですねえこちらが先ほどの

play30:20

ノーマルのチャットボットというところの

play30:22

デバッグ機能に当たりますこちら

play30:25

プレビューを押してもらうとこんな感じで

play30:27

右側にチャットのテキストボックスが出て

play30:29

きますちょっとニャンタが邪魔です

play30:35

ねちょっと移動してもらってここでこの

play30:38

チャットボットのえテストを行いますえ

play30:41

こんにちはと打ってみましょうはいそう

play30:44

するとえ左側からですねまちょっと早すぎ

play30:47

てわかんなかったんですけど

play30:49

もまずこの開始っていうブロックからえ

play30:52

llmのところに行ってまその後回答と

play30:55

いう風なフローが全てチェックマークが

play30:57

ついてるというのが分かるかと思いますで

play31:00

このワークフローの処理を見てみるとで

play31:02

開始っていうノードの中ではユーザーの

play31:05

クエリーがこんにちはですよとかファイル

play31:07

の設定がなくてえセッションIDとかです

play31:09

ねそれが設定されてるとでその後llmに

play31:12

対してこんにちはていうユーザーの入力が

play31:14

えインプットとして入ってAPAが実行さ

play31:18

れてますで最後に回答ということで言語

play31:22

モデルが出力した回答がデータとして出て

play31:24

くるというわけですねそれでこんな感じで

play31:27

えができてます一通りうまくいったなと

play31:30

思ったらこれ公開するを押しますでそう

play31:33

すると先ほどのチャットボッと同じように

play31:36

まこんな感じでチャット画面ができるので

play31:39

えこんにちはという風にすと後ろでは

play31:43

先ほど設定したえワークフローのプロセス

play31:46

がえ実行されてえ回答が生成されてます

play31:50

にゃんたこんにちは元気にゃんたか私は

play31:52

元気だにんたということでちょっと調整は

play31:54

必要なんですけどもこんな感じのチャット

play31:56

ボトが作れましたはいさんどうでしょうか

play31:58

でちょっとこれの設定が難しいなという風

play32:01

に思った人も多いと思いますであとは単純

play32:04

なチャットボッドだったら別にこんな

play32:06

ワークフローの処理書かなくてもいい

play32:07

じゃんという風に思った人も多いと思い

play32:09

ますでもちろんこれは説明のためにかなり

play32:12

単純な構造にしてるんですけどもえ例えば

play32:15

ですスタジオの方に戻ってもらってえ

play32:17

こちらの言語モデル専門家っていう

play32:19

チャットボッドですね事前に作っておいた

play32:21

ものを押してもらえればまこんな感じです

play32:23

ねえ少し複雑な処理を行わせる

play32:26

アプリケーションも簡単に作れますま

play32:29

例えばこれだったらですねえ最初開始と

play32:31

いう風にした後にえ質問分類機というので

play32:35

まGPT3.5ターボを使っ

play32:38

てこのユーザーからの質問がジミPro

play32:41

1.5に関するものなのかクロド3に

play32:43

関する質問なのかあとはそれ以外かという

play32:46

ところでえ条件分岐をさせてあげますで

play32:49

例えばえjemiPro1.5に関する

play32:51

質問という風に判定したらえ次はですね

play32:55

事前にアップロードしておいたえジミ

play32:57

Pro1.5の論文を参照してえGPT

play33:01

3.5ターボでえ回答を生成する

play33:07

とでもしえユーザーの入力がえCL3に

play33:12

関する質問だった場合はえ事前に設定して

play33:15

おいたビリサーチという外部ツールを使っ

play33:18

てグロックのえラマ3のモデルを使って

play33:21

回答を生成させるという風に設定して

play33:26

ますで最初の質問がえこの2つ以外の場合

play33:30

ですねえそれ以外というところでまその

play33:32

場合は回答としてまその質問には答えられ

play33:36

ませんという風に回答を生成するように

play33:38

設定して

play33:40

ますはいこんなシステムは結構ありがちか

play33:43

なと思うんですけどもでこれをプログラム

play33:45

で実装しようとするとそんなに難しくない

play33:48

けど結構面倒くさいですよねでそういった

play33:51

ものもこのDFを使えば簡単に検証でき

play33:53

ますちょっとこちらもプレビューしてみ

play33:55

ましょうということでちょっとニャンタを

play33:57

play33:58

ますはいでプレビューとこんな感じで

play34:02

チャットボックスが出てき

play34:05

ますここに質問を打っていき

play34:10

ますえjemiプロ1.5の性能について

play34:15

教えてと言い

play34:17

ますはいそうすると開始ノードからこんな

play34:20

感じでえ原語モデルが回答を生成して

play34:28

最後のプロセスが終了しましたプローを見

play34:31

てみるとまちゃんと最初にクラス分けして

play34:35

知識取得を参照しながらGPT3.5

play34:38

ターボで回答を生成してくれるというわけ

play34:40

ですねでちょっと関係ないことについても

play34:43

え打ってみましょうこんにちは

play34:50

とそうするとこれ最初の分岐の中でそれ

play34:53

以外のところにえ分類されるのでえ回答と

play34:57

しではその質問に答えられませんという風

play34:59

にして返答が返ってき

play35:02

ますはい一応クロド3についてもやって

play35:05

いき

play35:09

ましょうクロド3について教えてください

play35:12

という風に入力するとまこんな感じで今

play35:15

めちゃくちゃダダダダとグロックのラマ3

play35:17

を使ってるのでえ回答速度が早かったん

play35:20

ですけど

play35:21

もここでまずクラス2にえ分類されてえ

play35:25

タリーサーチが使われて

play35:29

グロックのラマ3が使われて回答が生成さ

play35:31

れるというのでちょっとラマ3なのでえ

play35:34

回答が英語になってしまってますけども

play35:36

うまくワークフローの処理ができてると

play35:38

いうのが分かりますはいこんな感じで複雑

play35:43

な分岐でもこのブロックを組み合わせて

play35:45

あげればチャットボットが作れ

play35:47

ますでできたらですねこれ更新してえ

play35:51

アプリを実行してもらえるとまこんな感じ

play35:53

でですねえジェミニPro1.5専門家

play35:56

ってなっちゃってるんですけども先ほど

play35:57

設定したえ処理フローでですねチャットが

play36:00

でき

play36:02

ます

play36:04

はいちょっとやってみますかこんにちは

play36:08

とはいでその質問には答えられませんと

play36:11

いう風に出てきます

play36:17

ねはいこんな感じでうまく動作しています

play36:20

はいこちらがえチャットフローを使って

play36:23

実現できるアプリケーションの開発になっ

play36:25

てます皆さんどういう風に感じたでしょ

play36:27

でょかこの処理を書いてくのが結構難し

play36:30

そうだなっていう風に思ったと思いますで

play36:33

そういった場合はえこちらのテンプレート

play36:35

から作成のところですね押してもらえると

play36:37

ですでにいろんなテンプレートが用意され

play36:39

てますで全てちょっと英語になってしまっ

play36:42

てるんですけどもでこういうのを参考にし

play36:43

てえ作成してみるとこのフローズが出て

play36:46

くるのでどういう風にしてえこの各

play36:49

ブロックですね使ってるのかなというのを

play36:52

見ながら自分でカスタマイズしていくと

play36:54

いいと思いますはい一通りえDFで使える

play36:57

機能について紹介してきたんですけどもえ

play36:59

皆さんどういう風に感じたでしょうか個人

play37:01

的にはえこれが無料で使えるってのは信じ

play37:04

がいほど作り込まれてるなという風な感じ

play37:07

がして商用利用も可能なので今後かなり

play37:10

流行ってくるんだろうなという風に思い

play37:11

ます皆さんも使ってみて是非感想とかあれ

play37:14

ばコメントの方で教えてくださいで先ほど

play37:16

もちょっと言ったんですけどもこのdfy

play37:18

のアプリがかなりすごかったので今回喋っ

play37:21

た内容も含めて復習できるようにDYの

play37:24

アプリについてまとめた資料を私の公式

play37:27

LINEの方でプレゼントしています概要

play37:29

欄から友達登録の方してもらって

play37:32

プレゼントという風に入力してもらえれば

play37:34

えDFについてまとめた資料と少し前から

play37:38

プレゼントしているチャットGPTと

play37:40

chow3のプロンプトのまとめ資料を

play37:42

無料で受け取れるようにしてるので是非

play37:45

そちらも見てみてくださいはいちょっと

play37:47

長くなってしまったんですけども以上で

play37:48

本日の動画を終了したいと思いますこの

play37:50

動画が良かったなっても人はえ高評価

play37:53

コメントチャンネル登録の方よろしくお

play37:54

願いしますユでもやってますので概要欄

play37:56

から見てみえそれではまた次回の動画でお

play37:59

会いしましょうバイバイ

play38:04

[音楽]

Rate This

5.0 / 5 (0 votes)

Etiquetas Relacionadas
DEFYプロジェクトチャットボットオープンソースアプリケーション開発プログラミング不必要DFアプリチュートリアルAPIサーバー言語モデルナレッジベースワークフローAI対話APIキーカスタマイズツール連携PDF参照GPT互換クラウドサービスローカルホストモニタリング
¿Necesitas un resumen en inglés?