Dify AI: Create LLM Apps In SECONDS with NO Code FOR FREE! Flowise 2.0?

Summary

このビデオでは、AIネイティブアプリの作成と運用に特化したツールであるDefi（旧称DII）について紹介しています。3ヶ月前にGPTモデルに限定されていたが、現在はオープンソースやLlamaなどのクローズドソースモデルも使用可能です。Defiは、プロンプトエンジニアリングやAIアプリの作成など、幅広い機能とプラグインを提供しています。特に注目すべきは、Hugging Faceの組み込みモデルのサポートや、データセットサービス、APIキーとモデル名を追加してオープンソースモデルを呼び出す機能です。これにより、柔軟性とカスタマイズ性が向上し、オープンソースプロジェクトに特化した人々にとっては、簡単に効率的な開発方法となります。また、Defiは、内部チームで使用するアプリケーションや外部リリース向けに、わずか5分で展開できるツールとして、生産性を向上させる機能を提供しています。

Takeaways

• 🚀 新しいDefi（dii）は、大規模言語モデルを用いたアプリケーションの作成と管理に特化したオールインワンソリューションです。
• 📈 3ヶ月前とは比べ、diiはオープンソースやLlamaなどのクローズドソースモデルも利用可能になりました。
• 🔌 新機能として、Hugging Faceの埋め込みモデルのサポートや、プロンプトエンジニアリングの統合が追加されました。
• 🔍 diiを使用すると、AIアプリケーションの作成プロンプトエンジニアリングなど、幅広い用途に利用できます。
• 🛠️ diiは、プログラミング言語の変換やテキスト生成など、多種多様なタスクを自動化することができます。
• ⏱️ diiを使用することで、AIアプリケーションの開発と運用の時間を大幅に短縮できます。
• 🌐 diiはクラウドサービスとしてアクセス可能で、またDockerを使用してインストールすることもできます。
• 📚 注文されたDefi Cloudユーザーには、200クエリの無料OpenAI Curが提供されます。
• 📈 diiは、プログラミング、エンターテイメント、ライティングアシスタント、翻訳、HRなど、多種のカテゴリーのアプリケーションを作成できます。
• 📱 diiを使用して作成されたアプリケーションは、すぐに展開することができ、エクスポートや組み込みも可能です。
• 🔗 diiは、オープンソースプロジェクトに特化しており、オープンソースモデリングの活用が容易になります。
• 📈 注文されたDefi Cloudユーザーには、プラグ＆プレイでアプリケーションを構築できるUIが提供されます。

Q & A

最近のアップデートで、Defi（dii）はどのような新しい機能を追加しましたか？

Defiは、オープンソースモデルだけでなく、プロンプトエンジニアリングやHugging Faceの埋め込みモデルのサポートなど、多くの新機能を追加しました。これにより、柔軟性とカスタマイズ性が向上し、AIアプリケーションの作成が容易になります。

Defiを使用してAIアプリケーションを構築する際に、どのようなプロンプトエンジニアリングが可能ですか？

Defiでは、特定のコンテキストに焦点を当てたり、APIアクセスを通じてプラグインやAPIと統合したり、応答を別の場所に出力したりすることができるプロンプトエンジニアリングが可能です。

Defiのプラグインタブで何ができますか？

プラグインタブでは、Defiのプラグインを追加・削除・変更することができます。また、Google検索APIやGitHub、Googleなどの外部サービスと統合することも可能です。

Defiでサポートされている言語モデルには何がありますか？

Defiでは、オープンソースモデルやHugging Face、Anthropicなどの様々な言語モデルがサポートされています。これにより、幅広い範囲の言語モデルを利用してアプリケーションを作成できます。

Defiのデータセットサービスとは何ですか？

Defiのデータセットサービスを使用すると、自分のデータセットを作成し、それを使用してアプリケーションをトレーニングすることができます。また、Notionやウェブサイトからデータを同期することも可能です。

Defiを使用してAIアプリケーションを展開する際のシステム要件は何ですか？

Defiを使用するには、2コア以上のCPUと4GB以上のRAMが必要です。ただし、より良いスペックを持つマシンで使用すると、より機能的で適切に動作します。

Defiのインストールにはどのような方法がありますか？

Defiはクラウドサービスを通じてアクセスすることもできますし、Dockerを使用してインストールすることもできます。Docker Composeを使用して簡単にセットアップすることが可能です。

Defi Cloudユーザーにはどのような無料リソースが提供されますか？

Defi Cloudユーザーには、200回の無料OpenAI Cur Queriesが提供されます。これにより、OpenAIベースのアプリケーションを構築することができます。

Defiのダッシュボードでは何ができますか？

Defiのダッシュボードでは、作成できるアプリケーションを発見し、コードインタープリターやチャットボットなどのサンプルアプリケーションを試すことができます。また、カテゴリー別にアプリケーションをブラウズし、テンプレートから新しいアプリケーションを作成することもできます。

Defiのアップデートで追加された新しい機能をどのように活用できますか？

新しい機能を活用して、プログラミング、エンターテイメント、ライティングアシスタント、翻訳、HRなどのカテゴリーに属するアプリケーションを作成することができます。また、SQLジェネレーターやコードコンバーターなどの特定のタスクに特化したアプリケーションも作成可能です。

Defiのアプリケーションをカスタマイズするために、どのような設定ができますか？

Defiのアプリケーションをカスタマイズするために、モデルプロバイダーを設定して、使用したいモデルを選択することができます。また、プロンプトエンジニアリングタブを使用して、アプリケーションのプロンプトを設定し、APIアクセスを通じてプラグインやAPIと統合することもできます。

Defiのドキュメントタブで何ができますか？

Defiのドキュメントタブでは、Defiの高度な機能や使用方法について学ぶためのチュートリアルにアクセスできます。これにより、Defiをより効果的に活用し、カスタマイズされたアプリケーションを作成することができます。

Outlines

00:00

🚀 AIアプリケーションの創造と運用：D5ツールの紹介

3ヶ月前に発表されたD5ツールは、強力な言語モデルアプリケーションを作成するのに役立ちます。これまでは、Chat GPTモデルに限定されていましたが、オープンソースモデルも使用可能になりました。LlamaやAnthropicなど、様々な言語モデルが利用可能です。D5はAIアプリケーションのプロンプトエンジニアリングなど、幅広い用途に使えます。また、Hugging Faceの埋め込みモデルのサポートやデータセットサービス、プロンプトエンジニアリングの統合など、多くの機能とプラグインが追加されました。これにより、柔軟性とカスタマイズ性が向上し、オープンソースプロジェクトに特化した人々にとっては、AIアプリケーションの作成が簡単かつ効率的になるでしょう。

05:02

🌐 D5の新規機能とプラグイン：SQLジェネレーターの例

D5の新規機能を紹介し、プラグインの活用方法を解説します。SQLジェネレーターの例として、自然言語をSQL文に変換するプロンプトを設定し、デバッグとプレビューが可能であることが示されています。また、D5はクラウドサービスとして利用可能で、アカウントを作成するだけですぐに始められます。D5 Cloudユーザーには、無料で200回のOpen AI Cur Queriesが提供されます。D5はプログラミング、エンターテイメント、ライティングアシスタント、翻訳、HRなど、様々なカテゴリのアプリケーションを作成することができます。

10:02

𑁍 D5のインストール方法とカスタマイズ：モデルプロバイダーの設定

D5のインストール方法について説明し、Dockerを使用する方法も紹介しています。また、D5のカスタマイズについても触れています。モデルプロバイダーの設定では、オープンAIやAnthropicなどのトライアルモデルを利用できます。また、APIキーを入力して、Hugging FaceなどのオープンLMプロバイダーを実装することも可能です。データソースタブでは、Notionやウェブサイトからデータをアップロード・同期することができ、SerpやGitHubとGoogleの統合も可能です。最後に、D5の高度な機能についても触れ、チュートリアルを提供しています。

Keywords

💡Defi

Defiは、大規模言語モデルを用いたアプリケーションの構築と管理を支援するツールです。ビデオでは、Defiが提供する幅広い機能とプラグイン、そしてオープンソースモデルの利用について説明されています。Defiは、AIアプリケーションの開発と運用を視覚的に行えるLM Opsプラットフォームとして紹介されています。

💡オープンソースモデル

オープンソースモデルとは、誰もが自由に使用できる言語モデルのことです。ビデオでは、DefiがGPTモデルだけでなく、オープンソースモデルも使用できるようになったと触れられており、これにより柔軟性とカスタマイズ性が向上しています。

💡プロンプトエンジニアリング

プロンプトエンジニアリングは、AIモデルに入力するテキストを設計するプロセスです。ビデオでは、Defiのプロンプトエンジニアリング機能を使って、自然言語の問い合わせをSQL文に変換することができると説明されています。

💡Hugging Face

Hugging Faceは、自然言語処理モデルを提供する企業です。ビデオでは、DefiがHugging Faceの埋め込みモデルをサポートし、ユーザーがオープンソースモデルを簡単に利用できるようになっていることが紹介されています。

💡アプリケーション

ビデオでは、Defiを使用して作成できる様々な種類のAIアプリケーションについて説明されています。これには、プログラミング、娯楽、ライティングアシスタント、翻訳、HRなどのカテゴリーに分類されるアプリケーションが含まれます。

💡Docker

Dockerは、アプリケーションをコンテナ化して実行するためのプラットフォームです。ビデオでは、DefiをDockerを使用してインストールし、実行することができると触れられており、これによりクラウドサービスとは別の方法でDefiを利用できることが示されています。

💡APIキー

APIキーは、アプリケーションが外部サービスにアクセスするための認証情報を提供するものです。ビデオでは、Defiで使用するオープンソースモデルにアクセスするために、Hugging FaceのAPIキーを入力する必要があると説明されています。

💡データセットサービス

データセットサービスとは、AIアプリケーションにデータを提供するサービスのことです。ビデオでは、Defiのデータセットサービスを使って、ユーザー自身のデータセットを作成し、アプリケーションをトレーニングすることができると紹介されています。

💡プラグイン

プラグインは、アプリケーションに追加の機能を提供するソフトウェアです。ビデオでは、Defiのプラグイン機能を使って、アプリケーションに新しい機能を追加することができると触れられており、これによりアプリケーションの柔軟性が向上します。

💡プロダクトIVITY

プロダクトIVITYとは、仕事や活動の効率や成果を指します。ビデオでは、DefiがAIアプリケーションの作成を簡素化し、プログラミングのバックエンドコーディングの労力を軽減することで、ユーザーのプロダクトIVITYを向上させると説明されています。

💡チャットボット

チャットボットとは、テキストベースの対話型のAIアプリケーションです。ビデオでは、Defiを使って作成されたワールドオブAIチャットボットについて紹介されており、これはユーザーが質問に答えることができる対話型アプリケーションです。

Highlights

Defi, also known as 'do it for you', is an all-in-one solution for building and managing AI native apps based on large language models.

Defi has expanded its capabilities to include open source models in addition to proprietary ones like LLaMA and Anthropic.

The platform offers new features and plugins, such as support for Hugging Face embedded models and dataset services.

Users can now add Hugging Face or Replicate API keys and model names to call any open source model.

Defi provides flexibility and customization for creating large language model applications.

The tool can create AI-powered applications within minutes for internal or external use.

Features of Defi include an SQL generator, code converter, text generator, and support for coding completion.

Defi can create out-of-the-box websites with form mode and chat conversation modes using a single API.

The platform saves backend coding effort and allows users to focus on visual data analysis.

Defi increases productivity by saving time on the hassle of creating AI applications.

The video will explore new features of Defi that were not covered in a previous video made 3 months ago.

The presenter offers one-on-one sessions to help develop solutions for AI tools and brainstorm ideas.

Defi is user-friendly and can be used by teams to visually develop and operate AI applications.

The platform provides 200 free OpenAI Cur queries for registered Defi Cloud users to build apps.

Defi has a visual UI for easy plug-and-play application creation and supports API-based services.

Users can create a variety of apps, such as code interpreters, chatbots, and SQL generators, with Defi.

Defi allows users to choose from different templates or start from scratch to build their own AI applications.

The platform is continuously working on incorporating new plugins and features.

Defi enables users to create their own datasets and train apps based on their data.

The platform supports integration with various services like GitHub, Google, and the Google Search API.

Defi can be accessed through the cloud or installed using Docker, with minimum system requirements provided.

The video concludes with a demonstration of creating a chatbot app and configuring model providers in Defi.

Transcripts

[Music]

around 3 months ago I had made a video

on a tool that helps you create powerful

large language model applications like

flow wise it's called defi also known as

do it for you it's an all-in-one

solution for seamlessly building and

managing AI native apps based on ranges

of large language models 3 months ago

you were restricted to only using chat

GPT models for creating LM based apps

however you are now open to the

possibility to use open source as well

Plus close Source models such as llama

you have anthropic and so many others

now this could be used for AI app

creation prompt engineering and many

other possibilities you have way more

features and plugins such as a new

support for hugging face embedded models

you have data set Services as well as

integration of prompt engineering just

take a look at this example where you're

able to now add hugging face or

replicate API Keys plus the model name

so that you're able to call any any open

source model on the model providers they

added this functionality where you're

able to utilize many different ranges of

large language models to create these

large language model applications this

brings in so much more flexibility and

customization to what you're trying to

create and this will be really useful

for a lot of people who are focusing on

open- Source projects as this is a great

Gateway for you to create them as it's

an easy and efficient way to do so so

throughout today's video we're going to

be ding a little bit deeper deeper on di

by exploring these new features that we

haven't covered before and we're also

going to take a look at how you can get

started with it and showcasing just a

brief overview of this application so

with that thought stay tuned and let's

get straight to

it hey guys I started this new thing

where I'm going to be offering my one-on

ones with you guys so if you're

interested in this I can definitely help

you develop a solution for AI tools help

you brainstorm ideas as well as just is

basically elevating what you're trying

to accomplish with my knowledge so if

you're interested in this definitely

take a look at this link in the

description below hey what is up guys

welcome back to another YouTube video at

the world of AI in today's video we're

going to take a look at dii which is an

AI tool focused on creating and

operating AI native apps with a range of

different large language models not

restricted to only using the GPT models

you are able to use open service models

for creating these free applications now

this is quite similar to what flow flow

wise was actually capable of doing but

this is more of an easier way to use

this LM Ops platform as you're able to

use this for teams to develop AI

applications and operate them visually

now with dii you are able to create

these AI powered applications within

minutes whether it's for internal teams

to use or external releases and you can

deploy them quickly within just 5

minutes the tool provides various

different features such as Storyteller

Bots for an answering specific questions

you have an SQL generator for converting

natural language to SQL you have a code

converter for converting programming

languages and a text gener generator for

summarizing these key information sets

now you're also able to code complete

with this model which is absolutely

insane as you have such a wide range of

different tasks that you could be

completed with the AI applications that

are made off of dii it can create out of

the-box websites supporting form mode

and chat conversation modes with a

single API encompassing plug-in

capabilities as well as context and

enhancements and such forward you save

so much backend coding effort you have

so much time to focus on the visual data

analysis that's presented through defy

it saves you time with log review

annotations for applications and so much

more in simple terms it's increasing

your productivity while using defi as it

saves you time with all the hassle that

is there for creating AI applications

this is why I wanted to put emphasis on

this because of these new amazing

features and plugins that were released

with this new update so let's get to the

next step of the video where I showcase

how to download it and then we will go

quickly into showcasing how you can

actually use this if you would like to

access our private Discord which gives

you subscriptions to AI tools for free

you have networking opportunities

networking calls consultings so much

more definitely take a look at this link

in the description below follow world of

AI if you guys haven't already

definitely take a look at the YouTube

page subscribe like this video turn

notification Bell and check out our

previous videos for the case of this

video I want to be showcasing how to

create an app it's fairly easy what I

did is create an SQL generator so in

this case I went along clicked on the

create new tab and selected text

generator I provided the name clicked

continue and I created it something that

is fairly easy and I'll then keep take

take you to this overview page in which

you can go and set up the model provider

I selected the base model that is

provided which is completely free which

is the open AI based model and in this

case you're able to utilize open uh

Source models but I'm just going to go

ahead and use open AI selected the gp3

3.5 turbo reasoning method as well as

using the text embedding uh Ada model

now once this is all set you can

configurate plugins but in this case

we're not going to be using that we have

done that and then go onto the prompt

engineering Tab and then you're able to

set the actual prompt where I said that

you are an SQL generator that will help

users translate their input natural

language query rep requirements and

Target database now it does this by

putting this into the target SQL

statement and you're now able to deploy

this fairly easily after you save it now

you're able to debug it as well which is

also really useful but in this case

you're able to preview this off the

preview tab which allows you to select

database types and just not I did not do

any of this it did it on its own and it

was able to create all this from a

single prompt which is absolutely

amazing you're able to use SQL MySQL SQL

server and such forth you're able to run

the batch with your own file and you can

just input your uh whatever text that

you want to translate for the SQL

generator you can then execute it and

it'll have this output over here which

you can copy save it as as well as

export it and that's easy as that in

creating your own LM based

application now there's two ways to

install this you can definitely access

it through the cloud as well as

installing it using Docker now this is

something that you can do with Docker

compose so there's a couple commands in

which you can do so you can set this up

with Docker and then compose it with the

command over here now what I recommend

is that you actually check out the

requirements ments because you need to

have a CPU greater than or equal to two

core you need to have more than 4 GB of

RAM to have this functional now these

are just the minimum system requirements

so keep that in mind it'll be more

functional and more like appropriate to

use with better specs than these ones

over here so definitely keep that in

mind but the best case is that you use

it with the cloud service as this is

something that you can access right away

off their website what you got to do is

just create an account and you can get

started right away way which we'll do

right next quickly let's go over some of

the cool features we talked about how

you can use different large language

models you're able to utilize L chain

hogging face and replicate to utilize

open source models you can see that

there is an access to a wide range of

different options in terms of utilizing

large nage models to create applications

they also stated that we provide the

following free resources for registered

defi Cloud users which gives you 200

free open AI Cur queries queries sorry

and this will allow you to build open AI

based apps you have visual or

registration which is a UI that helps

you plug and play and create

applications you have text embeddings

you have API Based Services which is

allowing you to access web apps directly

and integrate the API without any

complex backend Services once you have

created an account you'll be then sent

to the dashboard this is where you're

able to discover different apps that

could be created with def you have a

code interpreter that could be created

you have job advertisements personalized

dialogues you can have chat Bots created

and so much more you can see that

there's a lot of different ranges of

apps that could be created you have

different categories such as programming

entertainment writing assistant

translate as well as HR now these are

just some of the things that you can do

uh in this case if I click on the code

interpreter you can start chatting with

it right away which will basically solve

different things uh related to coding

now in this case I think I asked it

previously to write python code for a

basic Snakes and Ladder game which it

actually did and it created me a

functional code for it now this is just

one bit of it I believe I deleted the

rest of it but you're you're able to

delete or generate sorry such things

like this now you're able to also start

from scratch by building your own

chatbot app uh you're also able to focus

on different AI applications which could

be done over here now you're also able

to choose from different uh templates

that are already built which will be way

easier for a lot of people now if you go

to the plugins tab this is something

that they're continuously working on

which will be incorporated fairly soon

but if you click on the data set tab

this is something in which you can

create your own data sets and train

different apps based off your own data

you can upload files straight from your

desktop you're also able to sync it from

notion as well as from websites which is

a feature that they're going to be

incorporating fairly shortly but in the

case of this video I'm going to just

simply showcase a chat that I made this

is a world of AI chat bot that created

and it's something that you can deploy

right away and Export it and embed it to

a different workflow you can start

chatting with it and I believe this one

was trained with my own channels data so

it answers questions based off what I

ask it I mean what the like channel is

about so in the case it gives you

reference to what the channel is gives

you more idea about what AI is in

machine learning that's basically the

gist of what I created with this world

of AI chatbot it's fa easy to do so you

can have a prompt engineering feature

which allows you to have it focus on a

certain context it has API access which

could be integrated with different

plugins different apis as well as have

it so that it could be basically

outputed to another place you can see

the logs and annotations that helps you

track what the responses are and that's

basically a gist of how this basically

operates now guys if you are to click on

this blue button which is the setup

model provider within your application

you're able to configurate and select

the models that you want in this case

they give you two models which are on

trial you can utilize gbt 4 and gbt 3.5

turbo in this case they're B on trial so

they give you tokens that are completely

free and you can utilize them in this

case you can use 200 calls from open Ai

and you can use 600 tokens from

anthropic now once you have used those

up you can obviously purchase more and

input your own API keys and you're able

to select from the reasoning model types

as well as the embedded models and the

speech detects models but if you do not

want to use these you can basically

Implement and search through showing

different models that could be

implemented over here you can use a

range of different like open LM

providers uh for example if you're going

to be using hugging face you can simply

just click on ADD uh you can do

embeddings you have text generation the

model type you have end points that

could be set and you simply just need to

put your API key hugging face uh hugging

face API key sorry token over here in

the case of the model you simply just go

on to hugging face copy the model card

and you simply go back and paste it over

here it's easy as that you click save

and you're able to move forward in this

case I didn't upload my API key so it

wouldn't be showing but that's easy as

that guys if you go to data source you

can add your own workspace from notion

you can play around with different uh

plugins in this case you can work with

serp which is the Google search API and

you're basically able to integrate

different things as well by integrating

GitHub and Google you're able to also

work with different languages so

definitely take a look at this if you

want to work with anything other than

English but that's basically what the

model provider tab is about now if you

want to configurate this further you can

definitely go on the documentation Tab

and you can get started with all of

their tutorials which will help you

learn a lot more on what you can do with

Advanced features of D5 but that

basically concludes today's video guys I

hope you got some more insight as to

what you can do with this new updated D5

model I'll leave all these links in the

description below definitely check out

the Consulting page if you want to book

a oneon-one with me follow the patreon

page if you want to check out our

Discord definitely give world of AI a

follow if you guys haven't already and

lastly make sure you guys subscribe to

notification Bell like this video and

check out our previous videos so you can

stay up to date with the latest AI news

but with that thought guys thank you

guys so much for watching have an

amazing day and I'll see you guys fairly

shortly peace out fellas