GPTsより色々できる!Assistants APIの凄さと課題について解説してみた
Summary
TLDR本日の動画では、アシスタンスAPIの仕組みと特徴について解説しています。新しい概念のアシスタント、スレッド、ランの説明から始まり、これらを利用したシステムのイメージ図で理解を深めています。さらにアシスタントの設定項目や課金の仕組みについても触れ、コスト面で注意が必要な点を指摘しています。アシスタンスAPIはまだ発展途上であり、今後のアップデート次第でより便利になる可能性があると締めくくっています。
Takeaways
- 要点1
- 要点2
Q & A
アシスタントAPIとはどのようなものですか?
-チャットGPTに様々な機能を追加できるチャットボットをプログラミングで開発できる仕組みです。GPT-3.5やGPT-4などの言語モデルを利用できます。
アシスタントAPIとChatGPTの違いは何ですか?
-ChatGPTは使用回数に制限があるなどのデメリットがありますが、アシスタントAPIはコストが従量課金なので制限がなく、実務利用に適しています。反面、ChatGPTのほうが機能が豊富です。
アシスタント、スレッド、ランとはそれぞれ何ですか?
-アシスタントはモデルやプロンプトの設定ができるチャットボットです。スレッドはユーザーとの会話履歴が保存される部屋のようなもの。ランはどのアシスタントとスレッドで回答を生成するかを指定し実行する機能です。
アシスタントAPIの課金方法にはどのようなものがありますか?
-スレッドの全文数による課金、アシスタントに設定したファイル容量による課金、アシスタントの数による課金などがあり、設定によっては想定外の課金が発生する可能性があります。
現時点でのアシスタントAPIの主な課題は何ですか?
-スレッドの文書を削除できないことから、会話履歴が蓄積しすぎると課金が高騰する問題があります。今後この問題への対応が期待されています。
アシスタントAPIを利用したアプリ開発は可能ですか?
-可能です。APIを利用して独自のチャットボットや質問応答システムを開発することができます。様々なカスタマイズができるため、用途に合わせたアプリ開発が期待できます。
複数のアシスタントを使い分けるメリットは何ですか?
-アシスタントごとに異なるモデルやプロンプト、参照ファイルを設定できるため、目的や状況に応じて切り替えることが可能です。例えば質問応答用と会話用を別に設定するなどの利用ができます。
1人のユーザーに対してスレッドはいくつ割り当てることが推奨されていますか?
-公式では1人のユーザーに対して1つのスレッドを割り当てることが推奨されています。これにより、そのユーザーとの会話全履歴を蓄積できます。
スレッドの文書サイズを制限する機能はありますか?
-現時点では文書の削除機能がないため、サイズを制限することはできません。今後のアップデートで入出力のトークン数を制御できるようになる見込みです。
アシスタントAPIを使ったシステムのメンテナンスはどのように行うと良いでしょうか?
-不要な文書の蓄積を避けるため、適宜スレッドのリセットが必要です。また、複数のユーザーでアシスタントやファイルを共有することで冗長なコストを抑えられます。
Outlines
😊アシスタントAPIの基本概念の解説
<paragraph1>では、アシスタントAPIにおける「アシスタント」「スレッド」「ラン」という3つの基本概念について図を用いた解説がされています。アシスタントは設定を持つ実行単位で、スレッドは会話履歴を保持するトークルーム的な概念です。ランはどのアシスタントとスレッドで実行するかを指定する実行単位です。これら3つの概念の組み合わせで柔軟な運用ができることがポイントとされています。
😊アシスタントの設定とコストの注意点
<paragraph2>では、アシスタントの設定項目について具体的に解説されています。また、スレッドの全文読み込みによるコスト跳ね上がりの懸念や、ファイルサイズに応じた課金、アシスタントごとの課金といったコスト面での注意点が指摘されています。これらの仕様を知らないと予期しない課金が発生する可能性があるため、事前の理解が必要であることがアドバイスされています。
Mindmap
Keywords
💡アシスタント
💡スレッド
💡ラン
Highlights
紹介していこうと思いますえAssistant APIの比較とGPT、実務での適用性に焦点を当てる。
Assistant APIとは何か、GPTとの違い、コスト面を含めて深く掘り下げる。
Assistant APIのコーディング説明とその複雑さについて。
Assistant APIでの新概念:アシスタント、スレッド、ランの紹介。
Assistant APIのメカニズムの説明。
複数のアシスタントとスレッドを使用できるAssistant APIのユニークな特徴。
Assistant APIとGPTの違い、特にAssistant APIにWebブラウジング機能がない点。
Assistant API使用時のコストに関する考察、ペイパーユースの性質を強調。
Assistant APIにおけるアシスタントの概念、設定、機能についての詳細な説明。
Assistant APIにおけるスレッド管理の概要と重要性。
Assistant APIにおけるランの概念とアシスタントとスレッドの接続役割。
Assistant APIの柔軟性とカスタマイズの可能性。
Assistant APIのコストについての考慮事項、スレッドとアシスタントの管理の影響。
Assistant APIを使用する際のコストとリソース管理に関するアドバイス。
Assistant APIの将来のアップデートと潜在的な改善について。
Transcripts
でポイントとしてはまアシスタントとSZ
とRanという概念が存在してると同じ
サイズのま同じファイルを2つの
アシスタントに設定してたらえ料金もです
ね2倍になってしまいますとはい皆さん
こんにちはネトです本日はアシスタント
APIについて話していこうと思いますえ
以前の動画でアシスタンスAPIとGPT
の比較を行いましたでアシスタンスAPI
はえGPTと比較するとえ実務で使う場合
に向いてるよという話をしましたただえ
簡単にしか紹介しなかったのでも少し具体
的にえどういうものなのかとあとはえコス
トってどうなるのかとかそういうのを知り
たいという人もいるんじゃないかと思い
ますでコードを書きながら説明していこう
か迷ったんですけどもま結構コードが
難しいのでえ開発してない人からするとえ
コードを説明されてもアシスタンスAPI
の仕組みがまよくわかんないのかなという
風に思いますなので今回はえ開発者じゃ
ない人でもえアシスタンスAPIがどう
いう仕組みでま何ができるのかとあとは
現状課題とかもあるのでそれらについて
理解してもらうことを目標に解説していき
ますそれでは早速やっていきましょう
[音楽]
えまずアシスタンスAPIって何って人も
いると思うのでえ簡単に説明するとえ
チャットGPTにいろんな機能を追加した
チャットボットをえプログラミングで開発
するという仕組みになっていますで
アシスタンスapiiについては知らなく
てもえGPTSなは知ってるという人が
多いと思うんですけどもえGPTSではま
こんな感じでえUI上でポチポチするだけ
でいろんな機能を持ったチャットボットを
作ることができますアシスタンスAPIで
も同じようにプログラミングでえチャット
ボットを自由に作ることができますでGP
TSとアシスタントAPIの違いに関して
はえこちらのようになっていて詳しく知り
たい方は以前の動画で解説してるのでえ
そちらを見ていただければと思うんです
けども大きな違いとしてはえGPTの方は
えChatGPTの優勝版に加入してない
と使えなかったりとかえ使用回数の制限が
あったりとかえそういった制約があります
アシスタンスAPIはDE3とかえWeb
ブラウジングの機能が標準で搭載されて
ないとえいうデメリットがあるんですけど
もコストはえ重量課金性なのでえ誰でも
使えたりとかあとはええ使用回数の制限が
なかったりするのでえ実際仕事の中で使っ
ていきたいという風になったらえこちらの
アシスタンスAPAの方が良い選択になる
というケースも多そうですはいただえ
アシスタントAPIはまちょっと難しいと
いうことでまこれまでのチャットGPTの
APIだったらまユーザーの入力とえ言語
モデルの出力ってのをま入れてあげれば
簡単に使えてたんですけどもえ
アシスタントAPIではえ新しく
アシスタントという概念やまスレッド
メッセージえランとえそういった概念がえ
登場していきますでここら辺をえ理解でき
ないとま何に対してコストがかかってくる
のかとか何が便利なのかとかえそういうの
が少し分かりにくいのかなと思いますえ
少し難しい話になんですけどもここら辺を
ちょっと私なりに整理してえ解説してみ
ますはいまずえアシスタンスAPIの
大まかな仕組みとしてえ公式ドキュメント
ではこういった図を使いながら説明されて
いますまずえアシスタントとえスレッドと
いうものがあってえスレッドにはえ
ユーザーメッセージというのがありますと
でLANという概念でこのアシスタントと
えスレッドをえ実行することによってこの
アシスタンスメッセージがえ生成されます
とまそういう風な仕組みになってますとで
この時点でかなりま難しいですよねで
ポイントとしてはまアシスタントと
スレッドとRanという概念が存在してる
ということなのでこれをま利用する場面を
想定してえ図にしてみるとえこんな感じか
なという風に思いますえまずえ
アシスタントとえスレッドというものが
ありますでアシスタントは先ほどは1つ
だったんですけども複数のアシスタントと
いうのを用意できますでこのアシスタン
トっていうのはえモデルの設定とかえ
プロンプトの設定とかができますま例えば
ですねこのアシスタントに関してはえ
GPT3.5ターボを使うとかえこっちは
GPT4を使うとかですねえそういった
設定ができるということですでスレッドて
いうのはまLINEとかディスコとか触っ
てる人は分かると思うんですけども1つの
トークルームのようなものになっています
なので今これスレッドが6個あるんです
けどもま6個ですねトークルームがあると
えそういう風なイメージですで1つ1つの
トークルームにえユーザーとえ言語モデル
のえ会話履歴ってのがま保存されてくと
そういったイメージになりますでオープン
Aの方ではえ1人のユーザーに対して1つ
のスレッドを割り当てるというのがえ推奨
されていますちなみにこのスレッドは無
制限にえユーザーとの会話の利益をえ保存
しておくことができますで最後にえRan
という概念なんですけどもえこれはえどの
アシスタントとえどのスレッドを使って
言語モデルに回答を生成させるかという
ものになっていて例えばまこの
アシスタントとえこのスレッドのえIDを
選んでそれをLANというものでま実行し
てあげるとこのスレッドの続きをえこの
アシスタントが見てのスレッドにあるえ
ユーザーの入力を元にえこのアシスタント
がえ回答を生成するとで生成した回答はえ
このスレッドに追加されてくとえそういっ
たイメージになりますでLANで行ってる
こととしてはえアシスタントとえスレッド
のIDを選択してえ実行してるだけなので
例えばえ1つのアシスタントを使って複数
のスレッドに対してえ文章を生成させると
いうこともできますはいあとはえ
アシスタントは変えられるということでえ
先ほどは2つ目のアシスタント使ってたん
ですけどもえ途中でこの3番目の
アシスタントがいいなという風にになっ
たらこのアシスタントのIDをLANの時
に指定してあげればこっちのアシスタント
使ってえメッセージをスレッドに追加し
てくという風にすることもできますまなの
でかなり自由度が高いというところですね
で作り込んでいこうとするとえこの
アシスタントそれぞれに対してま
プロンプトを設定したりとかえモデルを
設定したりとかですねえそういうことをし
ながら用途によって使い分けていくとそう
いった感じになるのかなという風に思い
ますはい以上がですねこれアシスタントと
レッとRanという概念の説明なんです
けども大まかにイメージできたでしょうか
でやってることとしてはすごい単純なん
ですけどもこのアシスタントをどうやって
管理するのとかですねこのスレッドをどう
やって管理するのかとかそういったところ
が結構大変だなっていう風に感じますね
はい続いてですねこれアシスタントについ
てもう少し詳しく見ていきますはいで
アシスタントですねまいろんな設定ができ
ますという話だったんですけどもえ具体的
にどういう設定ができるのかというのを
まとめてみるとまこんな感じになっていて
えファンクションコーリングえコード
インタープリターリトリーバルとかですね
であとはえシステムプランプと設定でき
たりとかであとはモデルということでえ
GPT3.5ターボえGPT4あとはえ
ファインチューニングしたモデルっていう
のも設定できます最後にこのファイルと
いうことでえリトリーバルをやるためにえ
必要な参照させるファイルというのをえ
このアシスタントに設定するということが
できますまなのでこのアシスタントごとに
え設定するファイルを変えておいて用途に
よって使い分けるとかそういったことも
できそうですはい最後にえ理解しておいた
方が良いえコストの話になりますえ1つ目
がですねえスレッドの文章がま全部使われ
てしまうということでえアシスタントと
スレッドを選んでこれLANを実行するに
よってこの言語モデルから回答が生成され
てくとえそういった話だったんですけども
このLANを実行した時にえこの
アシスタントですね指定されたスレットに
あるえ全ての会話履歴ってのを入力しよう
としてしまいますでこれの問題点ですね何
かっていうのがえ分かるでしょうかえ過去
の会話履歴参照できるのでま回答の質は
上がるんですけどもGPT4のターボとか
使ってると13万トークン近くまで入れ
られるのでこのスレッドにますごい会話
履歴がえ溜まってるとですねえ毎回
ユーザーが入力すると13万近くの
トークンをこのモデルに入れてま回答を
生成するということになってしまうので
めちゃくちゃコストがかかる可能性がある
というのがありますで公式ページの方にも
このアシスタントはえモデルに入れられる
限りま最大の数のメッセージを入れて
しまいますという風に書かれてて現状は
このスレッドからえメッセージを削除する
機能とかですねえそういうのが提供されて
ないようなので毎回新しいスレッドを作る
とかですねそういう風にしないとコストが
余計にかかったりしそうですで今後の予定
ではこのインプットとアウトプットの
トークンのコントロールをできるようにし
ますよという風に書かれてるんですけども
それまではこのアシスタンスAPIを使っ
て何かやりたいという人は気をつけた方が
いいのかなという風に思いますはい次にえ
ファイルサイズに応じてえひごに課金され
ますよという話でこれも知らないとえ
ずっと課金され続ける可能性があるのでま
気をつけてくださいということで先ほど
ですねアシスタントにえファイルを設定
できますという話がえありましたこれは
リトリーバル用にえこの事前にこの
アシスタントにファイルを設定できると
いう機能ですねその時にこの設定する
ファイルのえサイズにに応じてひごに課金
がされますということでえ1gあたりえ
0.2$ですねえ毎日かかってしまいます
というところが押えておく必要があるかな
と思いますここら辺もえ大量のファイルを
まアシスタントに設定してしまうと毎日
ですね結構お金がかかってしまうというの
はまちょっと嫌かなという風に思います
さらにえアシスタントごとにえ課金が発生
するのでま例えばですね2つの
アシスタントを使ってて同じサイズのま
同じファイルを2つのアシスタントに設定
してたらえ料金もですね2倍になって
しまいますとえそういった仕様になってい
ますなのでえリトリーバルでこの
アシスタントAPI使いたい場合はえ
ユーザーごとにこのアシスタント作るん
じゃなくて同じファイルはえ1つの
アシスタントに管理させてその
アシスタントをま複数のユーザーに対して
使ってくとそういった管理の仕方が必要に
なるのかなという風に思いますここら辺も
え知らないとめちゃくちゃ課金されそうな
のでえ皆さん気をつけてくださいとはい
色々と説明してきたんですけどもえ皆さん
アシスタンスAPIについてどういう風に
思いましたかもうすでに使ってるという人
もいたりするんでしょうかま特に
リトリーバルに関しては仕事でも使う場面
多そうなのでスレッド機能を使って管理
できたら便利だなという風に思う反面です
ねまちょっとコストが気になるかなって
いう風な感じがしますよねただ今はこの
アシスタンスAPIはベータ版という立ち
位置なのでま近いうちにアップデートが
入ってどんどん便利になってくるのかなと
いう風に思います今後ですねこれ
アシスタントAPI使ったえアプリの開発
とかもやってみたいと思いますはい以上で
本日の動画を終了したいと思いますえこの
動画良かったなて風も人は高評価コメント
チャンネル登録の方よろしくお願いします
えゆでもやってますので概要欄から見てみ
てくださいえそれではまた次回の動画で
バイ
[音楽]
バイ
5.0 / 5 (0 votes)